靈汐芯片快速實現(xiàn)DeepSeek 適配,助力國產(chǎn)大模型與類腦智能硬件融合
【ZiDongHua之“智能自動化”收錄關(guān)鍵詞:靈汐芯片 大模型 智能硬件】
靈汐芯片快速實現(xiàn)DeepSeek適配,助力國產(chǎn)大模型與類腦智能硬件融合
重要消息
節(jié)后開工第一天,靈汐科技團隊聯(lián)合類腦技術(shù)社區(qū)(“腦啟社區(qū)“)的開發(fā)者,僅用半天時間就完成了DeepSeek-R1系列模型在靈汐KA200芯片及相關(guān)智算卡的適配,助力國產(chǎn)大模型與類腦智能硬件系統(tǒng)的深度融合。據(jù)“腦啟社區(qū)“的開發(fā)者反饋,在DeepSeek-R1-Distill-Qwen的1.5B、7B等系列模型測試中,模型在4K上下文情形下體驗順暢,具備交付客戶使用的能力。后續(xù),靈汐科技也將聯(lián)合產(chǎn)業(yè)生態(tài)伙伴及腦啟社區(qū),適時發(fā)布云上服務(wù)。

靈汐科技的類腦芯片領(lǐng)啟®KA200(-S)基于全新的存算一體、眾核并行、異構(gòu)融合架構(gòu),能高效支持深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)、生物神經(jīng)網(wǎng)絡(luò)和大規(guī)模腦仿真。單芯片集成25萬神經(jīng)元和2500萬突觸(稠密模式),可擴展支持200萬神經(jīng)元和20億突觸的集成計算(稀疏模式),支持混合精度計算(48TOPS INT8和24TFLOPS FP16)。不僅有強大的視頻圖像處理和算法支持能力,也具有對各類LLM語言大模型及多模態(tài)模型的支撐能力?;陟`汐科技KA200的產(chǎn)品系列,已經(jīng)具備了“云、邊、端“全覆蓋的大模型部署和高性能、低功耗的推理部署能力。靈汐的相關(guān)產(chǎn)品已在電力能源、交通、城市治理、低空智能裝備等領(lǐng)域形成了規(guī)?;逃?。
近期DeepSeek大模型引發(fā)了業(yè)界的廣泛討論,有相關(guān)評論方認(rèn)為DeepSeek的大模型技術(shù)路線創(chuàng)新有較大影響,而未來國產(chǎn)化、支撐大模型的新型架構(gòu)芯片則會對產(chǎn)業(yè)形成更具顛覆性的效應(yīng)。2024年初開始,類似存算一體架構(gòu)芯片及其對大模型推理的提升效果,也引發(fā)了眾多研究討論。靈汐科技“存算一體、眾核并行、異構(gòu)融合”的芯片架構(gòu)及其應(yīng)用不斷迭代,將為業(yè)內(nèi)帶來新的潛在突破。
我要收藏
點個贊吧
轉(zhuǎn)發(fā)分享
咨詢詳情:如需咨詢文中涉及的相關(guān)產(chǎn)品或解決方案詳情,請加微信:ZiDongHuaX 。
微信聯(lián)盟:大模型微信群、智能硬件微信群,各細(xì)分行業(yè)微信群:點擊這里進入。
鴻達安視:水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語
微信聯(lián)盟:大模型微信群、智能硬件微信群,各細(xì)分行業(yè)微信群:點擊這里進入。
鴻達安視:水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語


評論排行