2023年開放計算社區(qū)中國峰會(OCP China Day 2023)上發(fā)布了《開放加速規(guī)范AI服務(wù)器設(shè)計指南》,該指南旨在進一步發(fā)展和完善開放加速規(guī)范AI服務(wù)器的設(shè)計理論和設(shè)計方法,以助力社區(qū)成員高效地開發(fā)符合規(guī)范的AI加速卡,并縮短與AI服務(wù)器的適配周期此指南的發(fā)布將有望為業(yè)界提供更多關(guān)于生成式AI算力產(chǎn)業(yè)的巨大機遇。
2019年OCP成立了OAI小組,對適用于超大規(guī)模深度學習訓(xùn)練的AI加速卡進行了定義,并發(fā)布了OAI-UBB1.0設(shè)計規(guī)范,為開放加速規(guī)范AI服務(wù)器的產(chǎn)業(yè)化實踐奠定了基礎(chǔ)。
《開放加速規(guī)范AI服務(wù)器設(shè)計指南》提出了四大設(shè)計原則:應(yīng)用導(dǎo)向、多元開放、綠色高效、統(tǒng)籌設(shè)計。此外,該指南還倡導(dǎo)多維協(xié)同設(shè)計、全面系統(tǒng)測試和性能測評調(diào)優(yōu)等設(shè)計方法。多維協(xié)同設(shè)計強調(diào)系統(tǒng)和芯片廠商在規(guī)劃初期的全面協(xié)同,以最大程度減少定制開發(fā)的內(nèi)容,從而提高適配部署效率。
全面系統(tǒng)測試則強調(diào)對異構(gòu)加速計算節(jié)點進行更全面、嚴格的測試,以降低系統(tǒng)故障風險。性能測評調(diào)優(yōu)關(guān)注多層次的性能評測和軟硬件深度調(diào)優(yōu),以確保開放加速規(guī)范AI服務(wù)器能夠有效支持當前主流大模型的創(chuàng)新應(yīng)用。(美通社頭條)