作者：是德科技產(chǎn)品經(jīng)理Allison Freedman
在快速發(fā)展的AI領(lǐng)域，性能至關(guān)重要——而這不僅限于計(jì)算性能�，F(xiàn)代數(shù)據(jù)中心里，連接GPU、交換機(jī)和服務(wù)器的網(wǎng)絡(luò)基礎(chǔ)設(shè)施承受著巨大的壓力。隨著AI模型擴(kuò)展到數(shù)千億個(gè)參數(shù)，行業(yè)關(guān)注的焦點(diǎn)正轉(zhuǎn)向AI訓(xùn)練性能中最為關(guān)鍵但又經(jīng)常被忽視的組成部分之一：網(wǎng)絡(luò)。
長(zhǎng)期以來(lái)，對(duì)AI網(wǎng)絡(luò)進(jìn)行基準(zhǔn)測(cè)試和優(yōu)化都需要在昂貴、耗電的GPU上運(yùn)行實(shí)時(shí)工作負(fù)載。但GPU的可用性有限，而且大規(guī)模測(cè)試環(huán)境的配置需要時(shí)間和資金。因此，網(wǎng)絡(luò)驗(yàn)證往往要推遲到實(shí)際工作負(fù)載運(yùn)行時(shí)才能進(jìn)行——這對(duì)于發(fā)現(xiàn)設(shè)計(jì)缺陷或性能瓶頸來(lái)說(shuō)已經(jīng)太遲了。
在超大規(guī)模AI時(shí)代，這種模式已經(jīng)行不通了。
AI網(wǎng)絡(luò)基礎(chǔ)設(shè)施的負(fù)擔(dān)與日俱增
當(dāng)今AI模型的規(guī)模清晰地揭示了未來(lái)的基礎(chǔ)設(shè)施挑戰(zhàn)。當(dāng)OpenAI訓(xùn)練GPT-3這一具有里程碑意義的、規(guī)模為1750億個(gè)參數(shù)的語(yǔ)言模型時(shí)，運(yùn)算量大約達(dá)到了3.14×10²³ FLOPs，這需要數(shù)千個(gè)NVIDIA V100 GPU運(yùn)行數(shù)周的時(shí)間。這種工作負(fù)載不僅挑戰(zhàn)了計(jì)算的極限，還考驗(yàn)了數(shù)據(jù)中心的整體架構(gòu)。AI訓(xùn)練工作在GPU、存儲(chǔ)和參數(shù)服務(wù)器之間產(chǎn)生了極端的東西向流量。流量模式中的任何擁堵、延遲或不平衡都會(huì)對(duì)吞吐量和能效產(chǎn)生重大影響。在超大規(guī)模場(chǎng)景下，即使是微小的效率損耗，也會(huì)造成數(shù)百萬(wàn)美元的損失。
然而，盡管網(wǎng)絡(luò)層至關(guān)重要，行業(yè)卻很少在部署前對(duì)網(wǎng)絡(luò)基礎(chǔ)設(shè)施上的真實(shí)AI工作負(fù)載執(zhí)行測(cè)試。大多數(shù)數(shù)據(jù)中心不得不使用流量生成器、微基準(zhǔn)測(cè)試或基于主觀猜測(cè)構(gòu)建的、無(wú)法反映真實(shí)訓(xùn)練動(dòng)態(tài)的合成模型。在一個(gè)新工作負(fù)載不斷重新定義性能預(yù)期的時(shí)代，這樣的做法無(wú)疑充滿風(fēng)險(xiǎn)。
基于工作負(fù)載仿真，重新思考AI網(wǎng)絡(luò)驗(yàn)證方式
為了滿足大規(guī)模AI的需求，具有前瞻性的企業(yè)目前正在采用AI工作負(fù)載仿真——這是一種使用模擬訓(xùn)練數(shù)據(jù)來(lái)重現(xiàn)大語(yǔ)言模型（LLM）訓(xùn)練、推理及其他AI任務(wù)的流量模式和需求的方法。
工程師無(wú)需查看GPU是否可用，即可通過(guò)仿真工作負(fù)載實(shí)現(xiàn)以下目標(biāo)：
·再現(xiàn)真實(shí)的AI訓(xùn)練場(chǎng)景
·測(cè)量整個(gè)網(wǎng)絡(luò)架構(gòu)的性能
·識(shí)別擁塞、抖動(dòng)、緩沖壓力和路由效率低下問(wèn)題
·對(duì)不同的拓?fù)浣Y(jié)構(gòu)、負(fù)載均衡方法和隊(duì)列配置執(zhí)行測(cè)試
這種基于仿真的方法可以讓團(tuán)隊(duì)在GPU到位之前對(duì)數(shù)據(jù)中心網(wǎng)絡(luò)進(jìn)行基準(zhǔn)測(cè)試和調(diào)試，從而大幅降低成本并加快部署。它還允許工程師重放過(guò)往的工作負(fù)載，以測(cè)試他們的網(wǎng)絡(luò)在不同流量組合或擁塞控制策略下的響應(yīng)情況。
實(shí)際應(yīng)用：企業(yè)發(fā)揮引領(lǐng)作用
這并非停留在理論層面，而是已然落地的實(shí)踐。
例如，瞻博網(wǎng)絡(luò)（Juniper Networks）近期發(fā)布了一份白皮書(shū)，概述了該公司如何利用AI工作負(fù)載重放和仿真來(lái)驗(yàn)證AI數(shù)據(jù)中心的交換架構(gòu)。通過(guò)在其網(wǎng)絡(luò)架構(gòu)中復(fù)現(xiàn)真實(shí)的LLM訓(xùn)練流量，瞻博網(wǎng)絡(luò)可以測(cè)試擁塞場(chǎng)景、分析結(jié)構(gòu)的可擴(kuò)展性并優(yōu)化隊(duì)列配置策略，而無(wú)需等待實(shí)際GPU的部署。
瞻博網(wǎng)絡(luò)的工程師還強(qiáng)調(diào)了在“未來(lái)負(fù)載條件”下驗(yàn)證網(wǎng)絡(luò)行為的重要性。借助工作負(fù)載仿真，他們能夠模擬尚未上線的訓(xùn)練工作負(fù)載，助力其構(gòu)建可滿足下一代AI需求的網(wǎng)絡(luò)。
Meta以運(yùn)營(yíng)一些全球最先進(jìn)的AI基礎(chǔ)設(shè)施而聞名，它在模擬AI訓(xùn)練環(huán)境的內(nèi)部測(cè)試平臺(tái)上大力投入。這些測(cè)試平臺(tái)讓Meta的工程師能夠使用類(lèi)似訓(xùn)練的流量模式來(lái)驗(yàn)證拓?fù)錄Q策、交換算法和擁塞處理策略。
同樣，Microsoft正在從根本上重新設(shè)計(jì)其數(shù)據(jù)中心架構(gòu)，以滿足大規(guī)模AI工作負(fù)載的需求。這一轉(zhuǎn)變涵蓋定制的AI加速器、創(chuàng)新的機(jī)架規(guī)模系統(tǒng)以及為AI訓(xùn)練量身定制的高帶寬網(wǎng)絡(luò)結(jié)構(gòu)。為支持這些轉(zhuǎn)變，Microsoft投入于先進(jìn)的建模和仿真工具，以復(fù)現(xiàn)LLM訓(xùn)練的密集流量模式。借助這些工具，在部署前，工程師就能夠在受控環(huán)境中評(píng)估新的拓?fù)浣Y(jié)構(gòu)、測(cè)試負(fù)載均衡策略，并驗(yàn)證擁塞控制機(jī)制。
對(duì)于所有這些行業(yè)領(lǐng)導(dǎo)者來(lái)說(shuō)，模擬真實(shí)AI工作負(fù)載的用意十分明確：避免主觀猜測(cè)，縮短驗(yàn)證時(shí)間，確保網(wǎng)絡(luò)的擴(kuò)展能夠跟上AI創(chuàng)新的速度。
工作負(fù)載仿真的五大優(yōu)勢(shì)
與傳統(tǒng)方法相比，AI工作負(fù)載仿真具有以下幾個(gè)關(guān)鍵優(yōu)勢(shì)：
1.降低成本
無(wú)需專門(mén)為網(wǎng)絡(luò)測(cè)試預(yù)留昂貴的GPU資源。仿真可在商品硬件或虛擬環(huán)境中進(jìn)行。
2.提高速度
支持在硬件采購(gòu)或部署階段同步進(jìn)行性能測(cè)試，從而加快開(kāi)發(fā)速度。無(wú)需等待機(jī)架里的GPU全部可用時(shí)再執(zhí)行測(cè)試。
3.真實(shí)性
仿真工作負(fù)載相比合成流量生成器，能更準(zhǔn)確地復(fù)現(xiàn)真實(shí)的訓(xùn)練模式（如突發(fā)流量、集體操作、同步階段）。
4.可重復(fù)性
可以捕獲、保存和反復(fù)重放工作負(fù)載，以測(cè)試不同拓?fù)湓O(shè)計(jì)、隊(duì)列算法或配置更改的效果。
5.可擴(kuò)展性
支持測(cè)試未來(lái)的“假設(shè)”場(chǎng)景，例如驗(yàn)證當(dāng)前網(wǎng)絡(luò)如何處理來(lái)自下一代模型的雙倍流量。這種方法使網(wǎng)絡(luò)架構(gòu)師能夠從被動(dòng)的性能調(diào)整轉(zhuǎn)向主動(dòng)優(yōu)化——確保AI基礎(chǔ)架構(gòu)的每一層在投入使用之前，都針對(duì)吞吐量、延遲和成本效益進(jìn)行了調(diào)整。
參與超大規(guī)模AI基礎(chǔ)設(shè)施建設(shè)的企業(yè)實(shí)現(xiàn)戰(zhàn)略轉(zhuǎn)變
隨著LLM的不斷發(fā)展——朝著萬(wàn)億參數(shù)規(guī)模、多模式架構(gòu)和低延遲推理的方向前進(jìn)——數(shù)據(jù)中心網(wǎng)絡(luò)將面臨前所未有的壓力。未來(lái)五年，AI集群的東西向流量預(yù)計(jì)將增長(zhǎng)10倍或更多，在這種情況下，“等GPU到位再測(cè)試網(wǎng)絡(luò)”的舊模式根本無(wú)法擴(kuò)展。企業(yè)如果不能及早、經(jīng)常地驗(yàn)證其網(wǎng)絡(luò)，就可能面臨性能瓶頸、成本超支和產(chǎn)品面市時(shí)間延遲等問(wèn)題。
通過(guò)采用AI工作負(fù)載仿真，企業(yè)可以從昂貴的試錯(cuò)轉(zhuǎn)向明智的設(shè)計(jì)，確保其網(wǎng)絡(luò)能夠滿足未來(lái)的需求。
結(jié)論：AI網(wǎng)絡(luò)測(cè)試的未來(lái)在于虛擬化
在打造更快、更智能AI模型的競(jìng)賽中，基礎(chǔ)設(shè)施至關(guān)重要——而網(wǎng)絡(luò)與計(jì)算同樣關(guān)鍵。贏家將是那些能在生產(chǎn)流量進(jìn)入系統(tǒng)之前，就能針對(duì)AI規(guī)模的工作負(fù)載對(duì)其網(wǎng)絡(luò)進(jìn)行模擬、測(cè)試和優(yōu)化的企業(yè)。
正如瞻博網(wǎng)絡(luò)、Meta和Microsoft等公司所展示的那樣，工作負(fù)載仿真已不僅是一種戰(zhàn)術(shù)優(yōu)勢(shì)，它正在成為一種戰(zhàn)略必需。
對(duì)于超大規(guī)模云服務(wù)商、網(wǎng)絡(luò)設(shè)備制造商以及任何為AI構(gòu)建數(shù)據(jù)中心網(wǎng)絡(luò)的企業(yè)來(lái)說(shuō)，結(jié)論都非常明確：要保持競(jìng)爭(zhēng)力，就必須采用仿真優(yōu)先的設(shè)計(jì)，并從一開(kāi)始就讓網(wǎng)絡(luò)為AI做好準(zhǔn)備。
