Mae canolfannau data AI cyfredol yn wynebu dwy dagfa graidd wrth raddio, ac mae modelau graddfa draddodiadol - i fyny a graddfa - yn ei chael hi'n anodd cwrdd â Giga - Graddfa AI GRATE:
Graddfa - i fyny cyfyngiadau: Wedi'i gyflawni trwy uwchraddio systemau sengl neu raciau (ee, cynyddu cyfrif GPU neu wella perfformiad dyfais sengl -), ond wedi'u cyfyngu gan nenfydau pŵer o seilwaith fel oeri dŵr. Mae gan ganolfannau data presennol drothwyon corfforol ar gyfer mewnbwn pŵer ac afradu gwres, gan atal cynnydd anfeidrol yn nwysedd cyfrifiadurol fesul rac neu ganolfan ddata.
Graddfa - allan cyfyngiadau: Wedi'i ehangu trwy ychwanegu raciau a gweinyddwyr at glystyrau graddfa, ond wedi'u cyfyngu gan y gofod corfforol mewn un lleoliad, gan orfodi capiau caled ar gapasiti offer.
Er mwyn goresgyn y cyfyng -gyngor hwn, mae Nvidia yn cynnig y dimensiwn newydd o "raddfa - ar draws," gan optimeiddio cyfathrebu rhwydwaith rhwng canolfannau data sydd wedi'u gwasgaru'n ddaearyddol i wneud clystyrau AI dosbarthedig yn cydweithredu fel un. Mae Sylfaenydd a Phrif Swyddog Gweithredol Nvidia, Jensen Huang, yn disgrifio'r groes - Super Ffatri rhanbarthol AI fel seilwaith allweddol ar gyfer y chwyldro diwydiannol AI, gyda sbectrwm - XGS fel y galluogwr technoleg graidd.
Technolegau Craidd Sbectrwm - XGS
Nid platfform caledwedd cwbl newydd yw sbectrwm - XGS ond esblygiad o sbectrwm presennol Nvidia - x ecosystem ether -rwyd. Ers ei lansiad 2024, mae sbectrwm - x wedi cyflawni perfformiad rhwydwaith AI cynhyrchiol 1.6x uwch nag Ethernet traddodiadol trwy'r sbectrwm - 4 switshis Sn5600 pensaernïaeth a Bluefield GPUS - 3 DPUS, gan ddod y canolfannau nvid, gan ddod yn ganolbwynt. Mae'r datblygiad arloesol mewn sbectrwm-XGS yn gorwedd mewn tri arloesi algorithmig a synergeddau caledwedd sy'n mynd i'r afael â hwyrni cyfathrebu, tagfeydd, a heriau cydamseru mewn clystyrau GPU traws-ranbarthol.
Algorithmau 1.core: addasiad deinamig i nodweddion rhwydwaith pellter hir -
Sbectrwm - Mae craidd XGS yn set o "bellter - algorithmau optimeiddio rhwydwaith ymwybodol" sy'n dadansoddi paramedrau allweddol Cross - data - Cyfathrebu canolfannau mewn polisi metrics go iawn} a pherfformiad, Perfformiad, Perfformiad, Perfformiad, Perfformiad, TRAFFOROL PERFFORMIAD, Perfformiad,
Pellter - Rheoli Tagfeydd Addasol:Yn wahanol i driniaeth unffurf Ethernet traddodiadol o'r holl gysylltiadau, mae algorithmau sbectrwm - xgs yn addasu trothwyon tagfeydd yn awtomatig yn seiliedig ar bellteroedd gwirioneddol rhwng canolfannau data (ar hyn o bryd yn cefnogi lleoliadau hyd at gannoedd o gilometrau), gan osgoi colli pecyn neu adeiladu pecyn mewn pellter hir {} {1}.
Rheoli hwyrni manwl gywir:Trwy bob - pecyn dirwy - llwybro addasol graen, mae'n dileu jitter hwyrni o ail -drosglwyddiadau pecyn mewn rhwydweithiau traddodiadol. Mae Jitter yn berygl hanfodol mewn clystyrau AI: os yw un GPU yn llusgo oherwydd oedi, rhaid i bob GPUs sy'n cydweithredu aros, gan effeithio'n uniongyrchol ar berfformiad cyffredinol.
Diwedd - i - diwedd telemetreg: Go iawn - Casgliad amser o ddata perfformiad cyswllt llawn - o GPUs i switshis a chroesi - data - Mae dolenni canolfan yn darparu milisecond - adborth lefel ar gyfer statws algorithmig algorithmig.
2. Synergeddau caledwedd: sbectrwm trosoledd - x Sefydliad lled band - ecosystem
Mae sbectrwm - xgs yn cyflawni'r perfformiad gorau posibl wrth ei gyfuno â chaledwedd NVIDIA penodol:
Sbectrwm - x switshis: Fel asgwrn cefn y rhwydwaith sylfaenol, gan ddarparu dwysedd porthladd uchel a hanfod - hwyrni.
ConnectX-8 Supernic: 800 gb/s ai - Addasydd rhwydwaith pwrpasol ar gyfer trosglwyddo data cyflymder uchel - rhwng GPUs a switshis.
Caledwedd Pensaernïaeth Blackwell: Megis superchips B200 GPUs a GB10, wedi'u hintegreiddio'n ddwfn â sbectrwm - xgs i leihau diwedd - i - diweddrwydd diwedd. Mae Nvidia wedi'i ddilysu trwy NCCL (Llyfrgell Cyfathrebu ar y Cyd) Meincnodau: Mae sbectrwm - XGS yn rhoi hwb i berfformiad cyfathrebu rhwng data croes - - canolfan GPUs gan 1.9x wrth reoli diwedd {}}}}} i} i} i} i} i} i} i} i} i} Milliseconds - Lefel sy'n teimlo'n ymatebol ac yn oedi - am ddim ar gyfer rhyngweithiadau defnyddwyr, cwrdd â gofynion amser go iawn - ar gyfer casgliad AI.
Optimeiddio pentwr llawn - ar gyfer hyfforddiant AI ac effeithlonrwydd casglu gyda sbectrwm - XGS
Nid yw sbectrwm - XGS yn dechnoleg ynysig ond ychwanegiad allweddol at ecosystem pentwr - nvidia. Yn y datganiad hwn, datgelodd Nvidia hefyd welliannau perfformiad lefel meddalwedd - sy'n synergize â sbectrwm - XGS ar gyfer caledwedd - algorithm - Cydweithrediad meddalwedd:
Uwchraddio Meddalwedd Dynamo: Wedi'i optimeiddio ar gyfer Pensaernïaeth Blackwell (ee systemau B200) i hybu perfformiad casglu model AI hyd at 4x, gan leihau'r defnydd o gyfrifiadur yn sylweddol ar gyfer casglu model mawr.
Technoleg datgodio hapfasnachol: Yn defnyddio model drafft bach i ragfynegi tocyn allbwn nesaf y prif fodel AI ymlaen llaw, gan leihau cyfrifiant y prif fodel a gwella perfformiad casglu gan 35%ychwanegol. Mae hyn yn arbennig o addas ar gyfer senarios casglu sgyrsiol mewn modelau iaith fawr (LLMs).
Dywedodd cyfarwyddwr Adran Gyfrifiadura Cyflym NVIDIA, Dave Salvator, mai nod craidd yr optimeiddiadau hyn yw graddio ceisiadau AI asiant uchelgeisiol. P'un a yw hyfforddi triliwn - paramedr modelau mawr neu'n cefnogi gwasanaethau casglu AI ar gyfer miliynau o ddefnyddwyr cydamserol, mae'r cyfuniad o sbectrwm - XGS a'r ecosystem feddalwedd yn cyflawni perfformiad rhagweladwy.
Cymwysiadau Cynnar ac Effaith Diwydiant Sbectrwm - XGS
Defnyddwyr Cyntaf: Mae CoreWeave Pioneers yn croesi - parth AI Super FactoryMae darparwr gwasanaeth cwmwl GPU CoreWeave ymhlith mabwysiadwyr cyntaf sbectrwm - XGS. Nododd sylfaenydd CO - y cwmni a CTO Peter Salanki y bydd y dechnoleg hon yn galluogi ei chwsmeriaid i gael mynediad at alluoedd AI graddfa Giga -, gan gyflymu datblygiadau arloesol ar draws diwydiannau. Er enghraifft, cefnogi prosiectau AI graddfa ultra - mawr - fel y fenter Stargate gan Oracle, SoftBank, ac Openai.
Tueddiadau'r Diwydiant: Ethernet yn disodli Infiniband fel prif ffrwd Rhwydwaith AIEr bod Infiniband wedi dal tua 80% o farchnad Rhwydwaith Backend AI yn 2023, mae'r diwydiant yn symud yn gyflym i Ethernet. Mae dewis Nvidia i ddatblygu sbectrwm - xgs ar ether -rwyd yn cyd -fynd â'r duedd hon:
Cydnawsedd a manteision cost:Ethernet yw'r safon gyffredinol ar gyfer canolfannau data byd -eang, sy'n fwy cyfarwydd i beirianwyr rhwydwaith, ac yn rhatach i'w defnyddio nag Infiniband.
Rhagamcanion Graddfa'r Farchnad:Mae data grŵp Dell'oro yn dangos y bydd marchnad Switch Canolfan Ddata Ethernet yn cyrraedd bron i $ 80 biliwn dros y pum mlynedd nesaf.
Twf Nvidia ei hun: 650 Mae adroddiadau grŵp yn nodi nvidia fel y "gwerthwr tyfu cyflymaf - yn y farchnad switsh canolfan ddata 2024, gyda'i refeniw busnes rhwydweithio yn cyrraedd $ 5 biliwn yn q 2 2024 (gan ddiweddu Ebrill 27), i fyny 56% flwyddyn -}} {8}.
Mae lansiad sbectrwm - XGS yn ymestyn strategaeth monopoli pentwr llawn - Nvidia yn y seilwaith AI, wrth sbarduno dynameg gystadleuol newydd:
Cynllun pentwr llawn - nvidia: O GPUs (Blackwell), rhyng -gysylltiadau (switsh nvlink/nvlink), rhwydweithiau (sbectrwm - x/sbectrwm - xgs, cwantwm - x infiniBand) i feddalwedd, tense microser, tensio tensi dolen gaeedig yn gorchuddio "compute - cysylltu meddalwedd -" ar gyfer seilwaith AI. Sbectrwm - xgs synergizes gyda nvlink ar gyfer tri - graddio lefel: intra - rac (nvlink), intra - data {- Center (sbectrwm}, a sbectrwm} Cross - data - canolfan (sbectrwm - xgs).
Ymatebion Cystadleuwyr: Mae technoleg Sue cynharach Broadcom yn rhannu nodau tebyg â sbectrwm - XGS, gyda'r nod o wneud y gorau o berfformiad Ethernet i gau'r bwlch gydag Infiniband. Yn ogystal, mae gwerthwyr fel Arista, Cisco, a Marvell yn cyflymu AI - switshis Ethernet pwrpasol, gyda chystadleuaeth yn canolbwyntio ar berfformiad - cost - cydnawsedd ecosystem.
Mae gwerth craidd sbectrwm - XGS yn gorwedd wrth wthio graddio canolfan ddata AI o "gyfyngiadau gwefan -" i "Cross - cydweithredu rhanbarthol." Wrth i bŵer a thir ddod yn derfynau caled ar gyfer canolfannau data sengl, bydd croes - dinas a chroes - gwlad AI Super Factories yn dod yn ffurf graidd sy'n cefnogi cymwysiadau AI cynhyrchu nesaf - (ee deallusrwydd artiffisial cyffredinol, graddfa fawr-}}}).
Fel y rhagwelodd Uwch Is -lywydd Adran Rhwydweithio Nvidia, Gilad Shainer, yn y Gynhadledd Hot Chips: "Cross - Data - Mae rhwydweithiau corfforol ffibr optig canolog wedi bodoli ers amser maith, ond mae algorithmau meddalwedd fel sbectrwm - Xgs yn berfformiad."
