在江蘇無(wú)錫人工智能協(xié)同創(chuàng)新基地的算力機(jī)房中,訓(xùn)練處理器正在高速運(yùn)轉(zhuǎn)。實(shí)時(shí)數(shù)據(jù)顯示正有52家企業(yè)上線使用由昇騰AI基礎(chǔ)軟硬件平臺(tái)支持的算力。
據(jù)悉,無(wú)錫人工智能協(xié)同創(chuàng)新基地的總規(guī)劃算力規(guī)模為400PetaFLOPS(PetaFLOPS是指每秒千萬(wàn)億次浮點(diǎn)運(yùn)算次數(shù)),目前已經(jīng)上線100PetaFLOPS,大約相當(dāng)于5萬(wàn)臺(tái)高性能電腦的算力之和。今年基地開(kāi)放后3個(gè)月,企業(yè)紛紛入駐使用,100PetaFLOPS算力資源已經(jīng)供不應(yīng)求。
由于算力運(yùn)行所需的處理器、顯卡等高性能硬件價(jià)格高昂,系統(tǒng)運(yùn)行的電力和設(shè)備散熱成本同樣不菲,因此在哪里租用到高性能且價(jià)格合理的算力設(shè)施對(duì)于企業(yè)至關(guān)重要。
創(chuàng)新基地所在的無(wú)錫梁溪科技城內(nèi),集聚了多家人工智能、半導(dǎo)體等行業(yè)的科技企業(yè),其中不少是初創(chuàng)企業(yè)。比如,蔻町智能科技就是梁溪科技城引入的首個(gè)原生代碼自動(dòng)生成大模型企業(yè),能夠提供從產(chǎn)品需求文檔到代碼自動(dòng)生成的工具。
從需求描述到代碼自動(dòng)生成,需要大規(guī)模端到端模型訓(xùn)練場(chǎng)景來(lái)提升自研模型的泛化能力和準(zhǔn)確性,背后自然離不開(kāi)強(qiáng)大的算力支持。蔻町科技總經(jīng)理宿文表示,選擇梁溪科技城正是看中其可靠且不斷發(fā)展的算力生態(tài),以及科技城對(duì)企業(yè)的階梯式算力補(bǔ)貼政策。
據(jù)無(wú)錫市梁溪科技城發(fā)展集團(tuán)總裁周敏華介紹,對(duì)于算力需求大的企業(yè),算力優(yōu)惠政策可以為企業(yè)節(jié)約近百萬(wàn)元的成本,截至目前,基地已對(duì)接摸排552家企業(yè)客戶,申請(qǐng)測(cè)試使用客戶共70余家。
“我們希望擴(kuò)充算力用于更大規(guī)模的集群訓(xùn)練模型,未來(lái)會(huì)繼續(xù)和科技城合作。”宿文說(shuō)。
2023年10月,工信部聯(lián)合中央網(wǎng)信辦、教育部、國(guó)家衛(wèi)生健康委、中國(guó)人民銀行、國(guó)務(wù)院國(guó)資委六部門印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》。結(jié)合算力基礎(chǔ)設(shè)施產(chǎn)業(yè)現(xiàn)狀和發(fā)展趨勢(shì),《行動(dòng)計(jì)劃》提出了完善算力綜合供給體系、提升算力高效運(yùn)載能力、強(qiáng)化存力高效靈活保障、深化算力賦能行業(yè)應(yīng)用、促進(jìn)綠色低碳算力發(fā)展、加強(qiáng)安全保障能力建設(shè)6個(gè)方面重點(diǎn)任務(wù),著力推動(dòng)算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展。http://m.designeddinner.com