Is-Superkompjuter Colossus ta’ Elon Musk b’ċipep NVIDIA li jħaddmu GROK

• Colossus: L-akbar u l-aktar b'saħħtu superkompjuter tat-taħriġ tal-AI żviluppat mill-xAI ta' Elon Musk.
• Lokazzjoni: Memphis, Tennessee, f'park industrijali fuq ix-Xmara Mississippi. Il-bini qabel kien dar għal manifattur Svediż tal-apparat, ElectrX.

Karatteristiċi Ewlenin

• Ħardwer:
  • Iktar minn 100,000 GPU Nvidia HGX H100 konnessi ma’ exabytes ta’ ħażna ta’ dejta.
  • Sistema ta' tkessiħ likwidu li tuża ammonti vasti ta' ilma biex iżżomm temperaturi ottimali.
• Veloċità: Iddikjarat li huwa l-superkompjuter l-aktar veloċi fuq il-pjaneta, mibni biex iħaddem il-mudell AI Gro.
• Kostruzzjoni: Mibnija fi 122 jum biss, b’mod sinifikanti aktar mgħaġġel minn raggruppamenti ta’ superkompjuters tradizzjonali li jieħdu s-snin.

Konfigurazzjoni tas-Sala tad-Data

• Struttura:
  • Il-faċilità għandha disinn sala tad-dejta tal-art mgħollija , li tissepara l-enerġija, it-tkessiħ, u l-gruppi tal-GPU fi tliet livelli.
  • Erbgħa swali tad-dejta, kull waħda fiha 25,000 GPU.

Sistema tat-tkessiħ 

• Tkessiħ bil-likwidu:
  • Juża netwerk ta' pajpijiet biex jiċċirkola l-ilma, u jneħħi s-sħana mill-GPUs b'mod effiċjenti.
  • Ilma sħun jintbagħat f'chiller qabel ma jerġa' jiġi ppumpjat, u jżomm l-aħjar temperaturi.

Konfigurazzjoni GPU u CPU

• Xkafef tal-GPU:
  • Kull rack fih tmien GPUs Nvidia H100 u għandu sistema indipendenti li tkessaħ l-ilma.
  • L-ixkafef jistgħu jiġu servis mingħajr ma jingħalaq il-kabinett kollu, u b'hekk jiġi minimizzat il-ħin ta' waqfien.
• Użu tal-CPU:
  • Żewġ CPUs għal kull tmien GPUs, li jimmaniġġjaw il-preparazzjoni tad-dejta u l-kompiti tas-sistema operattiva.

Ġestjoni tad-Data

• Ħażna:
  • Is-sistema żżomm exabytes ta’ dejta (1 exabyte = 1 biljun gigabytes) għal skopijiet ta’ taħriġ.
  • Id-dejta tiġi trasferita permezz ta' netwerk ta' veloċità għolja mħaddem minn Nvidia Bluefield 3 DPUs, li kapaċi jimmaniġġa 400 Gbps.

Provvista ta' Enerġija

• Sors tal-Enerġija:
  • Mħaddma primarjament minn batteriji Tesla Megapack, li jiżgura provvista konsistenti tal-enerġija lis-superkompjuter.
  • Din is-setup ttaffi l-varjazzjonijiet mill-grid tal-enerġija tradizzjonali, kruċjali għal sessjonijiet ta' taħriġ effiċjenti.

Aspetti Finanzjarji

• Finanzjament:
  • xAI ġabar 6 biljun kapital ta' riskju, u vvalutat lill-kumpanija għal 6 biljuni f'kapital ta' riskju,
  • filwaqt li tivvaluta l-kumpanija għal 24 biljun USD b'kollox 
  • Elon Musk huwa rappurtat li qed ifittex fondi addizzjonali biex iżid il-valutazzjoni tal-kumpanija għal $40 biljun.

Żviluppi futuri

• Pjanijiet ta' Espansjoni:
  • Tippjana li tirdoppja d-daqs ta' Colossus għal aktar minn 200,000 GPU H100 fix-xahrejn li ġejjin.
• Evoluzzjoni tal-AI:
  • Gro reċentement ġie aġġornat biex jinkludi kapaċitajiet ta' viżjoni, li jippermettilu janalizza immaġini flimkien mat-test.

Konklużjoni

Colossus jirrappreżenta qabża sinifikanti fil-kapaċitajiet tat-taħriġ tal-AI, li jgħaqqad ħardwer avvanzata, soluzzjonijiet ta 'tkessiħ innovattivi, u ġestjoni effiċjenti tal-enerġija biex iwittu t-triq għall-iżvilupp avvanzat tal-intelliġenza artifiċjali. It-tkabbir mgħaġġel u l-pjanijiet ambizzjużi ta 'xAIpożizzjonawh bħala attur formidabbli fil-pajsaġġ tal-AI.