400G vs 800G NIC: Kterou byste si měli vybrat?

Výběr mezi 400G NIC a 800G NIC je věcné rozhodnutí, nikoli srovnání-stránek pokladny. Rychlejší adaptér se vyplatí pouze tehdy, když server, přepínač, optika a kabeláž mohou přenášet tuto rychlost od začátku do konce. Tato příručka se zabývá-odměnou z hlediska nasazení a pořízení, takže se můžete rozhodnout ještě před přidělením rozpočtu na adaptéry, přepínače, transceivery, DAC, AOC, AEC nebo vlákno.

Krátká verze: 400G NIC je vyzrálá, nákladově{1}}efektivní výchozí hodnota pro většinu dnešních AI, HPC, úložišť a cloudových úloh a mapuje se čistě na hostitele NDR InfiniBand a PCIe Gen5. 800G NIC získává svou prémii, když vytváříte novou -generaci umělé inteligence s hustšími GPU, silnějším východem-západním provozem a plánem směrem k XDR InfiniBand, 800G Ethernetu a nakonec 1,6T.

400G vs 800G NIC

Vyberte si 400G NIC, když jsou vaše servery, přepínače a optické zařízení již standardizovány na 400G Ethernet nebo NDR InfiniBand, nebo když pracovní zátěž nezasytí cestu každého GPU-do{3}}GPU. Je to také bezpečnější volání, když na dostupnosti, rozpočtu a době kvalifikace záleží více než na špičkové rychlosti portu.

Vyberte si 800G NIC, když se síť stává překážkou pro rozsáhlé-školení, servery GPU s vysokou-hustotou nebo akcelerátory příští{3}}generace. Zhruba na polovinu sníží počet linek a optických modulů potřebných pro danou šířku pásma a připraví strukturu pro další upgrade.

800G port se vyplatí kupovat pouze tehdy, když jej dokáže napájet zbytek systému. Pokud hostitel nemůže adaptéru vystavit dostatek linek PCIe, 800G NIC se stane drahým, nedostatečně využívaným portem spíše než upgradem výkonu.

Co je 400G NIC?

400G NIC je síťový adaptér, který se pohybuje rychlostí až 400 gigabitů za sekundu na port. V prostředích AI a HPC zvládá sítě GPU-klastrů, distribuované školení, přístup k úložišti, provoz MPI, struktury RoCE a propojení NDR InfiniBand. Pro většinu operátorů je 400G již velkým skokem oproti 100G nebo 200G a odstraňuje zjevná úzká hrdla, aniž by si vynutil přepracování serveru a přepínání vrstev.

Kam se dnes hodí 400G NIC

Adaptéry 400G jsou pracovním výchozím nastavením napříč školicími clustery AI na aktuálních -generacích GPU, HPC a vědeckých{2}}výpočtových strukturách, vysoce-výkonných úložných sítích, sítích RoCEv2 Ethernet a InfiniBand, obecných cloudových serverových flotilách a 100G/200G-v místnostech smíšených 400G{9}. V těchto nastaveních je 400G zřídka kompromisem. Je to prostě ta správná rychlostní třída, když velikost clusteru, počet GPU a rozpočet neospravedlňují přidanou složitost 800G.

Proč má 400G stále smysl

Výběr síťové karty je problém-vyvážení systému. Pokud hostitel nemůže napájet 800G adaptér, pokud je pracovní zátěž vázána na výpočet- nebo úložiště- nebo pokud je páteř stále 400G, pak použití 800G NIC zvyšuje náklady, aniž by se změnil výkon aplikace. Dobře-vytvořená struktura 400G s nízkým přeplatkem, čistou topologií, RDMA, kvalitní optikou a vyladěným řízením přetížení stále pohodlně zvládá náročné úlohy AI a HPC.

Co je 800G NIC?

800G NIC poskytuje až 800 gigabitů za sekundu na port. Zaměřuje se na datová centra nové{3}}generace AI, velké clustery GPU a hyperškálovatelné struktury, kde poptávka po komunikaci převyšuje konvenční serverové sítě. Generace 800G je nyní standardizována:standard IEEE 802.3df, ratifikovaný v roce 2024, definuje 800gigabitový Ethernet a podporuje dílčí-rychlosti, jako je 1x800G, 2x400G a 8x100G, díky čemuž je migrace se smíšenou rychlostí-praktická.

Hodnota není jen dvojnásobná míra titulků{0}}G umožňuje architektům zvýšit hustotu šířky pásma, počet přerušených odkazů a modulů a podporovat větší školicí struktury s agresivnějšími všemi-pro-veškerý provoz.

Proč se clustery AI přesouvají na 800G

Trénink velkého-modelu generuje obrovský provoz GPU-na-GPU a server-na-server. Přechodová výměna, vše-snížení, kombinace--odborníků na směrování, kontrolní body a ukládání-těžkých potrubí, to vše naráží na tkaninu. Jak jsou akcelerátory rychlejší, síť musí držet krok nebo drahé GPU nečinně čekat na synchronizaci{11}}G NIC na to odpovídají zvýšením šířky pásma na uzel, na akcelerátor nebo na síťovou kolejnici.

800G je látkové rozhodnutí, ne jen adaptér

Přechod na 800G přetváří výběr přepínačů, optiku, plánování dosahu, tepelný design, proudění vzduchu a uspořádání racku. Zejména optické a měděné možnosti se zpřísňují: 800G port může používat OSFP nebo QSFP-DD modul a přepínací-boční a NIC-moduly se mohou lišit v tepelném a mechanickém provedení i při stejné rychlosti. Pokud váš závod používá strukturovaná vlákna, potvrďte typy modulů a konektorů včas; nášpřehled formátu QSFP-DDkryty tam, kde se hodí vzhledem k OSFP. Považujte 800G za program na-úrovni tkaniny, nikoli za výměnu jednoho řádku-položky.

400G NIC vs 800G NIC

Kdy zvolit 400G NIC

Vyberte si 400G NIC, pokud je cílem vysoce-výkonná síť s vyspělým hardwarem, předvídatelným nasazením a kontrolovanými náklady.

Stavíte na stávající 400G infrastruktuře

Pokud jsou vaše přepínače, kabely, optika a serverové platformy již standardizovány na 400G, setrvání u 400G NIC odstraní řadu kontrol kompatibility a umožní vám znovu použít většinu současného ekosystému. To platí zejména při upgradu ze 100G nebo 200G, kde je nárůst výkonu velký a ekosystém je mnohem vyspělejší než 800G.

Vaše pracovní zátěž AI nenasytí látku

Ne každá úloha AI potřebuje 800G na server. Mnohé z nich jsou vázány na výpočet-, úložiště-, paměť- nebo jsou omezeny spíše efektivitou softwaru než šířkou pásma sítě. Pokud profilování ukazuje, že síť není primárním úzkým hrdlem, 400G NIC obvykle poskytuje lepší návratnost.

Potřebujete nákladově{0}}efektivní HPC

Mnoho pracovních zátěží HPC je citlivých na latenci,-předávání zpráv a přetížení sítě než na nezpracovanou šířku pásma. Dobře-vyladěná tkanina 400G často překonává špatně integrovanou tkaninu 800G. Užitečnou otázkou není, která síťová karta je rychlejší, ale který návrh sítě poskytuje nejlepší výkon aplikace za dolar.

Potřebujete rychlejší a{0}}nižší riziko nákupu

Adaptéry, optiku a kabely 400G lze snadněji získat a kvalifikovat na více platformách serverů a přepínačů. Když má tým na ověření omezený čas, je 400G volbou s nižším rizikem-, která stále odstraňuje většinu překážek.

Kdy zvolit 800G NIC

Vyberte 800G NIC, pokud aplikace, platforma GPU a tkanina mohou skutečně využívat další šířku pásma.

Navrhujete další-generaci tréninkového materiálu umělé inteligence

Velké školicí clustery generují náročnou komunikaci mezi všemi-{1}}všemi a východ-západ. S růstem velikosti modelu, počtu GPU a paralelismu se síť stává omezovačem. Zde 800G NIC zvyšují-šířku pásma na uzel a snižují riziko, že struktura bude omezovat GPU.

Potřebujete vyšší hustotu šířky pásma

800G snižuje počet portů, linek a modulů potřebných k poskytování dané šířky pásma. To je důležité v hustých clusterech, kde je omezený prostor v racku, počet portů na předním panelu-, správa kabelů a radix přepínače. Méně, rychlejší propojení může zjednodušit sestavení, za předpokladu, že struktura přepínače a plán kabeláže jsou pro to navrženy.

Plánujete platformy GPU nové-generace

Pokud plán zahrnuje GPU servery nové{0}}generace, vyšší hustotu výkonu racku, kapalinové chlazení a větší clustery, je 800G silnějším strategickým voláním. Nákup 400G dnes může být stále rozumný, ale tkanina by měla být navržena s migrační cestou na 800G nebo více.

Chcete omezit dlouhodobé{0}}přerušení upgradu

Fázovaná strategie 800G snižuje budoucí bolesti při migraci. Nejdříve nasaďte 800G-spínače, připojte stávající 400G síťové karty prostřednictvím provedení breakout nebo smíšených{5}}rychlostí a poté upgradujte servery na 800G později. To chrání současné investice a zároveň připravuje látku pro další generaci.

Kdy NEZvolit 800G NIC

Toto je často užitečnější otázka a odfiltruje většinu litovaných nákupů. Vydržte na 800G, když platí cokoli z následujícího:

• Hostitel nemůže zpřístupnit adaptéru úplnou cestu x16 třídy PCIe Gen6. Port poběží hladově a vy budete platit za šířku pásma, kterou serverová sběrnice nemůže dodat.
• Páteř je přetížená nebo stále 400G. Rychlejší NIC neopraví omezenou strukturu; jen posune úzké hrdlo o jeden skok dál.
• Pracovní zátěž je vázána na latenci- nebo MPI-spíše než na šířku pásma-. Zvýšená propustnost dělá málo pro úlohy řízené synchronizací nebo chováním malých-zpráv.
• Optiku, kabeláž nebo chlazení pro 800G nelze získat a ověřit na vaší časové ose. Nekvalifikovaný modul, který se při zátěži chvěje, je horší než pomalejší spoj, který zůstává zapnutý.
• Neexistuje žádný konkrétní plán růstu, který by ospravedlňoval dnešní prémii.

Pokud platí dvě nebo více z nich, 400G je téměř jistě správnou odpovědí pro toto sestavení, přičemž 800G je v rezervě pro příští aktualizaci.

400G vs 800G NIC pro cloudová datová centra

Cloudové tkaniny zřídka běží všude jednou rychlostí. Segmentují podle třídy provozu a volba NIC sleduje segment spíše než datové centrum jako celek.

• Přední-konec / sever-jižní provoz:400G je obvykle dostačující pro uživatelské-úrovně a úrovně API, kde-šířka pásma na tok je skromná a počet připojení dominuje.
• Provoz úložiště a východ-západ:odpověď závisí na tom, jak je architektura rozčleněná. 400G pokrývá většinu obecných fondů; 800G pomáhá tam, kde se velké, distribuované úložné jednotky trvale zatěžují východ-západ.
• AI závěr:400G stačí pro mnoho inferenčních mraků, zatímco 800G vyhovuje husté směsi--odborníků, kteří směrují nebo disagregují obsluhu, kde se tokeny pohybují přes mnoho uzlů.
• Tkanina pro více-nájemců:zde poměr nadměrného předplatného a izolace tenantů utvářejí výkon mnohem více než špičková rychlost NIC. Vyvážená tkanina 400G se silnou izolací často překonává rychlejší, ale přetíženou tkaninu.

Vzhledem k tomu, že růst cloud east-west končí na strukturovaných vláknech, naplánujte kabeláž hlavního vedení vedle NIC; nášprůvodce MPO/MTP trunkovou kabelážípokrývá běhy s vysokou{0}}hustotou. Obecně platí, že 400 G používejte pro většinu front-a obecných cloudových vrstev a 800 G vyhraďte pro segmenty, kde dominuje husté poskytování AI nebo velké východo{5}}západní fondy.

Klíčové faktory výběru kromě rychlosti portu

Rychlejší NIC nezaručuje rychlejší pracovní zatížení, pokud to nepodporuje celá platforma. O tom, zda port 800G bude fungovat, nebo bude nečinný, rozhoduje pět faktorů.

Generování PCIe a šířka pásma hostitele

Síťová karta dosáhne hostitele přes PCIe a toto spojení je tvrdý strop. Port s rychlostí 400 Gb/s potřebuje zhruba 50 GB/s na směr, což slot PCIe Gen5 x16 s rychlostí použitelných asi 63 GB/s na směr unese. Port 800 Gb/s potřebuje zhruba 100 GB/s na směr, za slotem Gen5 x16, což je důvod, proč adaptéry 800G obecně očekávajíspecifikace PCIe 6.0 od PCI-SIG(64 GT/s, až 256 GB/s obousměrně na x16) nebo neobvyklý design x32. Než se zavážete k 800G, potvrďte:

• generace PCIe
• Počet jízdních pruhů a kabeláž slotů
• Umístění NUMA a cesta GPU -k-NIC
• Ověření dodavatele-serveru pro adaptér
• Podpora BIOSu a firmwaru

Na serverech GPU rozhoduje o tom, jak čistě se data přesouvají, umístění síťové karty vzhledem k CPU a GPU. Síťová karta třídy Gen6- zasunutá do slotu Gen5 x8 je nejčastějším úzkým hrdlem, které si v této oblasti můžete sami způsobit.

Switch Fabric a Oversubscription

Rychlost NIC musí odpovídat tkanině. 800Adaptéry G nedělají nic, pokud je listová-hřbet přetížen nebo jsou uplinky tenké. Zkontrolujte rychlosti portů listů a páteře, poměr nadměrného odběru, počet síťových kolejí, východní-západní schéma, návrh domény při selhání- a požadovanou šířku pásma. Pro školení platí, že nižší poměr nadměrného předplatného obvykle dělá více pro výkon než rychlejší NIC.

RoCE, InfiniBand a Ultra Ethernet

AI a HPC tkaniny se opírají o RDMA, aby snížily režii CPU, a protokol tvaruje NIC, přepínač, řízení přetížení a operace. Dnes NDR InfiniBand běží rychlostí 400 Gb/s na port aXDR InfiniBand dosahuje rychlosti 800 Gb/s na port, která se přímo řadí k úrovním 400G a 800G NIC. Na straně Ethernetu je

Specifikace Ultra Ethernet Consortium 1.0definuje RDMA-over{1}}ethernetovou sadu zahrnující NIC, přepínače, optiku a kabeláž, zaměřenou přímo na AI a HPC-rozsah.

Pokud váš tým zná tento ekosystém, vyberte si InfiniBand pro těsně integrovanou,-nízkou latenci HPC nebo AI. Vyberte si Ethernet nebo RoCE pro širší výběr dodavatelů a cloudovou integraci. Pokud chcete standardizovanou, otevřenou cestu pro příští -generaci vysoce-výkonného Ethernetu, zvažte Ultra Ethernet.

Optika, tvarové faktory a kabeláž

U 400G a 800G záleží na fyzické kompatibilitě stejně jako na rychlosti. Dva moduly mohou sdílet rychlost, ale liší se tvarovým faktorem, tepelným designem a požadavky na hostitele. Ověřte požadavky na OSFP vs. OSFP vs. QSFP112 vs. QSFP-DD, plochý-horní vs. žebrovaný-horní OSFP, přepínač-postranní vs. NIC-požadavky na moduly DAC, AEC, AOC nebo optický dosah, podporu zlomů a kódování a firmware dodavatele. Nepředpokládejte, že 800G OSFP, který funguje v přepínači, bude správně sedět a chladit v NIC; mnoho přepínačů a modulů NIC používá různé tepelné a mechanické konstrukce.

Ověření výkonu, proudění vzduchu a teploty

Komponenty 800G spotřebovávají více energie a jsou teplejší. Ověřte síťovou kartu, optiku, porty přepínače a cestu proudění vzduchu při trvalé zátěži, nikoli při nečinnosti. Potvrďte výkon síťové karty a optického-modulu, směr proudění vzduchu a prostor chlazení, maximální vstupní teplotu, hustotu kabelu a zablokování proudění vzduchu a předpoklady- proti kapalinovému-chlazení. Tepelná nestabilita se projevuje jako klapky spojů a zvyšující se chybovost, což je druh občasné chyby, kterou je ve výrobě pomalé a nákladné.

Časté chyby, kterým je třeba se vyhnout

Nákup 800G jen proto, že je rychlejší

800G není automaticky lepší. Pokud pracovní zátěž, server nebo struktura nemohou využít šířku pásma, dodatečné náklady se nepromění ve výkon aplikace. Přiřaďte port k úzkému hrdlu, které skutečně máte.

Ignorování šířky pásma PCIe

Síťová karta může přesouvat data pouze tak rychle, jak to umožňuje hostitelská sběrnice. Ověřte generování PCIe, počet pruhů a topologii serveru před výběrem rychlostní třídy, nikoli po dodání hardwaru.

Výběr špatného optického modulu

Při těchto rychlostech jsou rozhodující tvarový faktor modulu a tepelný design. Špatná varianta OSFP nemusí pasovat do dané klece, nebo se může hodit, ale přehřívat se při trvalém provozu, což způsobuje chyby, které vypadají jako problém s tkaninou.

Zapomenutí dosahu kabelu

DAC, AEC, AOC, vícevidová optika a optika s jedním{0}}režimem obsluhují různé vzdálenosti a různé druhy vláken přenášejí různé vzdálenosti; náščlenění OM1 až OM5 dosáhnout limitůukazuje, kde každý stupeň dosahuje vrcholu. Výběr špatného propojení zvyšuje latenci, náklady nebo přepracování.

Zacházení s NIC, přepínači a optikou jako se samostatnými nákupy

Objednejte si adaptér, přepínač, optiku a kabeláž jako jeden ověřený kusovník. Neshoda zjištěná po nasazení znamená port, který se připojuje, ale klopí, nebo hardware, který musí být vrácen uprostřed-sestavení, což je mnohem rušivější než jeho zachycení během kvalifikace.

Závěrečné doporučení

Vyberte si 400G NIC a získejte osvědčený, nákladově{1}}efektivní adaptér, který vyhovuje dnešním technologiím umělé inteligence, HPC, úložišť a cloudu. Je to praktická volba pro většinu stávajících clusterů GPU a místností smíšené-generace. Vyberte 800G NIC, když hustota šířky pásma, velkokapacitní-komunikace GPU a připravenost na upgrade převáží počáteční náklady a když je pro to celá cesta vytvořena.

Rozhodnutí není nikdy samo o sobě. Jde o to, zda vaše servery, přepínače, optika, kabeláž, napájení a chlazení mohou tuto rychlost proměnit ve výkon aplikace. Disciplína, která chrání rozpočet, je jednoduchá: před zadáním objednávky ověřte NIC, přepínač, optiku a kabeláž jako jeden systém.