Novinky
Nová éra potrebuje novú sieť
• Výkonné ako superpočítačové prepojenie
• Rovnako všadeprítomné a cenovo výhodné ako Ethernet
• Škálovateľné ako cloudové dátové centrum
Linux a Microsoft pracujú na novej verzii... internetu.
Podľa vyhlásenia predsedu novovzniknutého konzorcia Dr. J. Meta nebudú potrebné zásadné zmeny v štandarde Ethernet. Na zlepšenie jeho výkonu sú potrebné niektoré vylepšenia. Očakávať by sme mali hlavne implementáciu množstva softvérových opráv. Stojí za zmienku, že zakladajúce spoločnosti sa dokonale dopĺňajú znalosťami a skúsenosťami v štyroch hlavných sieťových vrstvách: fyzická, linková, transportná a softvérová vrstva.
Vek ultra Ethernetu
Ethernet má jedinečnú príležitosť, aby sa stal sieťovou technológiou voľby pre prepojenie AI, bodka!
To je dôvod, prečo deväť lídrov v odvetví, ktorí dodávajú a prevádzkujú niektoré z najväčších svetových sietí AI a HPC, vytvorili Ultra Ethernet Consortium (UEC). Žiadna iná technológia nemá taký výkon, rozsah, hospodárnosť a rozsiahle zapojenie komunity ako Ethernet.
Súčasné ethernetové prepínače majú dvojnásobnú šírku pásma a dvojnásobnú rýchlosť portu v porovnaní s akoukoľvek inou sieťovou technológiou. Broadcom Tomahawk 5 s rýchlosťou 51,2 Tbps a Jericho3-AI, podporujúce vysokovýkonné AI tkaniny až do 25,6 petabitov za sekundu, sú dôkazom schopností Ethernetu a sú dnes dostupné.
Zatiaľ čo Ethernet ponúka vynikajúci výkon pre existujúce pracovné zaťaženia, sieťové požiadavky na školenia a odvodzovanie AI sa neustále vyvíjajú. Napríklad v roku 2020 bol veľký jazykový model (LLM) GPT-3 najmodernejší so 175 miliardami parametrov. Očakáva sa, že ďalšia generácia GPT-4 zvýši tento rozsah o viac ako päťnásobok na jeden bilión parametrov. Modely odporúčaní hlbokého učenia (DLRM) majú teraz mnoho biliónov parametrov a očakáva sa ďalší rast. Výpočtová a sieťová infraštruktúra potrebná na trénovanie a odvodzovanie výsledkov z týchto modelov sa musí vyvíjať, aby odrážala rozsah, rozmanitosť komunikačných vzorov a rozmanitosť použitých výpočtových metód.
Urýchlenie vývoja sietí AI (a HPC) je dôvodom vzniku UEC. Medzi ciele UEC patrí schopnosť škálovať na obrovský počet koncových bodov, až 1 000 000 uzlov v jednom tréningovom klastri. Prenos UEC zlepší efektivitu siete tým, že umožní multipathing/sprejing a notifikáciu preťaženia optimalizovanú pre AI prevádzku. Okrem toho, uvedomujúc si, že nie každá spoločnosť má k dispozícii špecializovaný tím inžinierov na vyladenie siete a softvéru pre každú školiacu úlohu AI, jedným z cieľov UEC je zjednodušiť správu siete tým, že umožní úplné riadenie preťaženia bez konfigurácie. . UEC tiež zjednoduší vývoj softvéru tým, že poskytne zjednodušené aplikačné programové rozhrania (API) pre AI a HPC.
Broadcom si už osvojil niekoľko cieľov UEC, napríklad podporou multipathingu/rozprašovania a komplexného riadenia preťaženia v štruktúre Jericho3-AI. Táto štruktúra je dnes k dispozícii v obrovskom rozsahu a podporuje klastre AI s 32 000 uzlami s 800 GbE na koncový bod. Podobne, Tomahawk 5 poskytuje multipathing, vyvažovanie záťaže a vylepšené riadenie preťaženia s jeho schopnosťami kognitívneho smerovania. Broadcom prispieva technológiou do UEC, aby umožnila zlepšenia vo všetkých aspektoch sieťového zásobníka.
Jedna zo silných stránok Ethernetu spočíva v jeho rozsiahlej komunite prispievateľov. Broadcom je hrdý na to, že môže spolupracovať s ďalšími lídrami v odvetví v UEC, aby pokračovali vo vývoji Ethernetu otvoreným, inkluzívnym a inovatívnym spôsobom.
Vo veku AI sa Ethernet stal preferovanou sieťovou technológiou vďaka svojmu jedinečnému výkonu, škálovateľnosti a zapojeniu komunity. Konzorcium Ultra Ethernet Consortium (UEC) bude riadiť evolúciu Ethernetu, čím sa bude zaoberať rastúcimi požiadavkami na školenia a odvodzovanie AI. S neustálym pokrokom a širokou podporou odvetvia bude Ethernet hrať kľúčovú úlohu pri formovaní budúcnosti prepojenia AI.
Choďte Ultra cez Ethernet!
Ram Velaga
zdroje prevzaté z:
- dipol.pl
- ultraethernet.org
- broadcom.com/blog
