七家國產(chǎn)芯片鼎力支持!無問芯穹異構(gòu)云打通DeepSeek-R1多芯片適配優(yōu)化,聚國產(chǎn)生態(tài)加速可控算力底座建設(shè)
【ZiDongHua之“智能自動化”收錄關(guān)鍵詞:無問芯穹 大模型 DeepSeek】
七家國產(chǎn)芯片鼎力支持!無問芯穹異構(gòu)云打通DeepSeek-R1多芯片適配優(yōu)化,聚國產(chǎn)生態(tài)加速可控算力底座建設(shè)
當(dāng)前,無問芯穹異構(gòu)云大模型服務(wù)平臺已正式上線滿血版DeepSeek-R1、DeepSeek-V3,且在逐一打通DeepSeek-R1在壁仞、海光、摩爾線程、沐曦、昇騰、燧原、天數(shù)智芯等七個硬件平臺上的便捷部署與推理服務(wù),支持通過Infini-AI異構(gòu)云平臺一鍵獲取DeepSeek系列模型與多元異構(gòu)自主算力服務(wù),為大家?guī)砀咝А⒏⌒摹⒏鼊澦愕腁I開發(fā)和應(yīng)用體驗,歡迎廣大開發(fā)者前往無問芯穹Infini-AI異構(gòu)云大模型服務(wù)平臺嘗鮮使用。*國產(chǎn)算力以拼音字母排序

下面以沐曦C550為例,演示如何在無問芯穹異構(gòu)云大模型服務(wù)平臺cloud.infini-ai.com/genstudio/順暢調(diào)用滿血版Deepseek-R1與國產(chǎn)算力:

DeepSeek-R1通過對模型結(jié)構(gòu)、算子、通信和硬件多個層次的極致優(yōu)化,同步實現(xiàn)了模型性能突破與算力成本壓縮。這與無問芯穹通過軟硬協(xié)同提升算力利用效率的技術(shù)路線不謀而合,并驗證了該路線的顯著成效與巨大潛力。秉持算法與電路協(xié)同設(shè)計路線,無問芯穹打造了全球領(lǐng)先的第三代大模型推理系統(tǒng),通過計算分離與存儲融合式設(shè)計,確保首Token延遲與每個Token的生成延時均維持較低水平,讓模型在同等的算力條件下呈現(xiàn)更好的效果。
同時,無問芯穹Infini-AI異構(gòu)云平臺長期致力于打通“M種模型”到“N種芯片”的高效、統(tǒng)一部署并推動模型與芯片間的軟硬件聯(lián)合優(yōu)化。此次上架DeepSeek-R1,無問芯穹著重支持了該模型在國際主流加速卡與多種國產(chǎn)加速卡上的推理部署與服務(wù),旨在幫助開發(fā)者屏蔽底層硬件差異,激發(fā)更多下游應(yīng)用場景在異構(gòu)算力基座上的生態(tài)建設(shè),合力構(gòu)筑“國產(chǎn)模型×國產(chǎn)系統(tǒng)×國產(chǎn)芯片”的AI產(chǎn)業(yè)鏈全國產(chǎn)閉環(huán)。
現(xiàn)在,您已可通過下方鏈接獲取DeepSeek-R1與DeepSeek-V3模型的對話體驗與API調(diào)用服務(wù):
DeepSeek-R1模型獲取鏈接:
https://cloud.infini-ai.com/genstudio?source=3A7Z
DeepSeek-V3模型獲取鏈接
https://cloud.infini-ai.com/genstudio/model/mo-daqznqgqbztcjain
另外,本次上架的滿血DeepSeek-R1還支持并發(fā)服務(wù)包模式,支撐企業(yè)級穩(wěn)定應(yīng)用,客戶可以按需購買5,10,50,100等不同規(guī)格的穩(wěn)定并發(fā)服務(wù)包來保證生產(chǎn)級穩(wěn)定性。同時,Infini-AI還支持并發(fā)服務(wù)包+按量并發(fā)混合調(diào)用模式,適應(yīng)彈性流量,歡迎填寫表單獲取超穩(wěn)定的企業(yè)級服務(wù):https://infinigence.feishu.cn/share/base/form/shrcneXZPoXbmWoYznkadWG01ug
更深入了解本平臺上DeepSeek系列模型的API調(diào)用方法,可登錄無問芯穹大模型服務(wù)平臺文檔專區(qū)學(xué)習(xí)了解
https://docs.infini-ai.com/posts/use-deepseek.html
關(guān)注技術(shù)前沿進(jìn)展交流異構(gòu)云使用心得,可加入無問芯穹異構(gòu)云平臺客/用戶社群與我們?nèi)〉寐?lián)系
我要收藏
點個贊吧
轉(zhuǎn)發(fā)分享
咨詢詳情:如需咨詢文中涉及的相關(guān)產(chǎn)品或解決方案詳情,請加微信:ZiDongHuaX 。
微信聯(lián)盟:大模型微信群、DeepSeek微信群,各細(xì)分行業(yè)微信群:點擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語
微信聯(lián)盟:大模型微信群、DeepSeek微信群,各細(xì)分行業(yè)微信群:點擊這里進(jìn)入。
鴻達(dá)安視:水文水利在線監(jiān)測儀器、智慧農(nóng)業(yè)在線監(jiān)測儀器 查看各品牌在細(xì)分領(lǐng)域的定位宣傳語


評論排行