無(wú)問(wèn)芯穹與天數(shù)智芯聯(lián)合完成GPU百卡推理集群測(cè)試,智鎧100GPU現(xiàn)已正式上線并對(duì)外提供大模型服務(wù)
【ZiDongHua之方案應(yīng)用場(chǎng)收錄關(guān)鍵詞:無(wú)問(wèn)芯穹 天數(shù)智芯 大模型 人工智能 高質(zhì)量發(fā)展】
無(wú)問(wèn)芯穹與天數(shù)智芯聯(lián)合完成GPU百卡推理集群測(cè)試,智鎧100GPU現(xiàn)已正式上線并對(duì)外提供大模型服務(wù)
近日,天數(shù)智芯與無(wú)問(wèn)芯穹聯(lián)合將無(wú)問(wèn)芯穹的Infini-AI異構(gòu)云平臺(tái)成功部署于天數(shù)智芯智鎧100 GPU推理集群,實(shí)現(xiàn)了多種主流大模型在自主GPU百卡推理集群上的全功能適配,并正式對(duì)外提供MaaS服務(wù)。目前,該推理集群已在Infini-AI異構(gòu)云平臺(tái)上線,適用于從學(xué)術(shù)研究到行業(yè)應(yīng)用的各場(chǎng)景大模型推理。
本次合作,是無(wú)問(wèn)芯穹自今年7月與天數(shù)智芯等企業(yè)聯(lián)合完成千卡異構(gòu)混訓(xùn),并將異構(gòu)云平臺(tái)打造成全球首個(gè)可進(jìn)行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的平臺(tái)之后,再次與天數(shù)智芯聯(lián)手完成的大模型百卡級(jí)推理集群接入與兼容工作。這一系列聯(lián)合行動(dòng)驗(yàn)證了天數(shù)智芯自主研發(fā)的通用GPU產(chǎn)品——智鎧100能夠以媲美國(guó)際主流產(chǎn)品的性能表現(xiàn),高效完成各種大模型訓(xùn)練與推理任務(wù)。
經(jīng)過(guò)無(wú)問(wèn)芯穹與天數(shù)智芯嚴(yán)格的功能和性能測(cè)試,雙方現(xiàn)已完成智鎧100 GPU產(chǎn)品與無(wú)問(wèn)芯穹Infini-AI異構(gòu)云平臺(tái)的全面接入。該集群已適配對(duì)話問(wèn)答、數(shù)據(jù)標(biāo)注、內(nèi)容理解與分析,信息抽取等主流任務(wù)場(chǎng)景,兼容國(guó)內(nèi)外主流AI生態(tài),靈活支持各種算法模型,滿足文本、、視頻等多場(chǎng)景下的大規(guī)模實(shí)時(shí)推理需求。

當(dāng)前,智鎧100現(xiàn)已在無(wú)問(wèn)芯穹Infini-AI異構(gòu)云平臺(tái)上架,且支持70B以上的模型推理,可用于更佳效果的數(shù)據(jù)生成與處理。Infini-AI異構(gòu)云平臺(tái)是無(wú)問(wèn)芯穹推出的高性能算力和原生工具鏈平臺(tái),其中大模型服務(wù)平臺(tái)可為應(yīng)用開(kāi)發(fā)者提供各種高性能、易上手、安全可靠的大模型服務(wù),能力覆蓋了從大模型開(kāi)發(fā)到大模型服務(wù)化部署的全流程?,F(xiàn)已收錄包括Stable Diffusion、Qwen2.5、CogvideoX、Llama3.1在內(nèi)的多種主流大模型,支持模型一鍵微調(diào)部署、模型與ComfyUI workflow托管等功能。Infini-AI平臺(tái)用戶可以屏蔽硬件生態(tài)影響,通過(guò)極少步驟操作調(diào)用各種模型API,實(shí)現(xiàn)模型的快速部署。同時(shí),還能享受到與國(guó)際主流產(chǎn)品相比,具有更高性價(jià)比的算力服務(wù)。

隨著人工智能技術(shù)的快速發(fā)展及應(yīng)用場(chǎng)景的拓展,國(guó)內(nèi)大模型技術(shù)與應(yīng)用企業(yè)對(duì)高可控性、高效能、高性價(jià)比、高附加值的算力需求日益迫切。無(wú)問(wèn)芯穹依托“多元異構(gòu)、軟硬協(xié)同”的核心技術(shù)優(yōu)勢(shì),致力于構(gòu)建連接多種模型和芯片的AI基礎(chǔ)設(shè)施新范式,成為大模型時(shí)代首選的算力運(yùn)營(yíng)商。天數(shù)智芯作為中國(guó)領(lǐng)先的通用GPU高端芯片及超級(jí)算力系統(tǒng)提供商,致力于打造更可信、更高效、更綠色的世界一流算力引擎。未來(lái),無(wú)問(wèn)芯穹與天數(shù)智芯將繼續(xù)全面合作,在智算中心、央國(guó)企、互聯(lián)網(wǎng)等領(lǐng)域,共同探索并推動(dòng)技術(shù)普及和創(chuàng)新發(fā)展,深度參與到自主可控的算力生態(tài)建設(shè)中,共建AGI時(shí)代的大模型算力基座。
天數(shù)智芯
天數(shù)智芯是中國(guó)領(lǐng)先的通用GPU高端芯片及超級(jí)算力系統(tǒng)提供商。天數(shù)智芯通用GPU產(chǎn)品具有高性能、通用性、靈活性等特點(diǎn),支持國(guó)內(nèi)外主流AI生態(tài)和各種深度學(xué)習(xí)框架,已支撐各行業(yè)客戶在人工智能領(lǐng)域進(jìn)行超過(guò)數(shù)百個(gè)不同種類的模型訓(xùn)練,獲得客戶高度認(rèn)可。天數(shù)智芯致力于打造更可信、更高效、更綠色的世界一流算力引擎,賦能千行百業(yè)數(shù)字化轉(zhuǎn)型,促進(jìn)我國(guó)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。
無(wú)問(wèn)芯穹
無(wú)問(wèn)芯穹(Infinigence AI)作為國(guó)內(nèi)領(lǐng)先的AI基礎(chǔ)設(shè)施企業(yè),致力于成為大模型時(shí)代首選的算力運(yùn)營(yíng)商。依托“多元異構(gòu)、軟硬協(xié)同”的核心技術(shù)優(yōu)勢(shì),打造了連接“M種模型”和“N種芯片”的“MxN”AI基礎(chǔ)設(shè)施新范式,實(shí)現(xiàn)多種大模型算法在多元芯片上的高效協(xié)同部署。無(wú)問(wèn)芯穹Infini-AI異構(gòu)云平臺(tái)基于多元芯片算力底座,向大模型開(kāi)發(fā)者提供極致性價(jià)比的高性能算力和原生工具鏈,為大模型從開(kāi)發(fā)到部署的全生命流程降本增效。
無(wú)問(wèn)芯穹以“釋放無(wú)穹算力,讓AGI觸手可及”為使命,通過(guò)不斷的技術(shù)創(chuàng)新實(shí)現(xiàn)普惠AI,讓算力成本實(shí)現(xiàn)萬(wàn)倍下降,如同水電煤一般為千行百業(yè)注入新質(zhì)生產(chǎn)力。
我要收藏
點(diǎn)個(gè)贊吧
轉(zhuǎn)發(fā)分享
咨詢?cè)斍椋?/strong>如需咨詢文中涉及的相關(guān)產(chǎn)品或解決方案詳情,請(qǐng)加微信:ZiDongHuaX 。
微信聯(lián)盟:天數(shù)智芯微信群、大模型微信群、人工智能微信群、高質(zhì)量發(fā)展微信群,各細(xì)分行業(yè)微信群:點(diǎn)擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測(cè)儀器、智慧農(nóng)業(yè)在線監(jiān)測(cè)儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語(yǔ)
微信聯(lián)盟:天數(shù)智芯微信群、大模型微信群、人工智能微信群、高質(zhì)量發(fā)展微信群,各細(xì)分行業(yè)微信群:點(diǎn)擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測(cè)儀器、智慧農(nóng)業(yè)在線監(jiān)測(cè)儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語(yǔ)


評(píng)論排行