【ZiDongHua之方案應用場收錄關(guān)鍵詞:無問芯穹 天數(shù)智芯 大模型 人工智能 高質(zhì)量發(fā)展
 
  無問芯穹與天數(shù)智芯聯(lián)合完成GPU百卡推理集群測試,智鎧100GPU現(xiàn)已正式上線并對外提供大模型服務(wù)
 
  近日,天數(shù)智芯與無問芯穹聯(lián)合將無問芯穹的Infini-AI異構(gòu)云平臺成功部署于天數(shù)智芯智鎧100 GPU推理集群,實現(xiàn)了多種主流大模型在自主GPU百卡推理集群上的全功能適配,并正式對外提供MaaS服務(wù)。目前,該推理集群已在Infini-AI異構(gòu)云平臺上線,適用于從學術(shù)研究到行業(yè)應用的各場景大模型推理。
 
  本次合作,是無問芯穹自今年7月與天數(shù)智芯等企業(yè)聯(lián)合完成千卡異構(gòu)混訓,并將異構(gòu)云平臺打造成全球首個可進行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓練的平臺之后,再次與天數(shù)智芯聯(lián)手完成的大模型百卡級推理集群接入與兼容工作。這一系列聯(lián)合行動驗證了天數(shù)智芯自主研發(fā)的通用GPU產(chǎn)品——智鎧100能夠以媲美國際主流產(chǎn)品的性能表現(xiàn),高效完成各種大模型訓練與推理任務(wù)。
 
  經(jīng)過無問芯穹與天數(shù)智芯嚴格的功能和性能測試,雙方現(xiàn)已完成智鎧100 GPU產(chǎn)品與無問芯穹Infini-AI異構(gòu)云平臺的全面接入。該集群已適配對話問答、數(shù)據(jù)標注、內(nèi)容理解與分析,信息抽取等主流任務(wù)場景,兼容國內(nèi)外主流AI生態(tài),靈活支持各種算法模型,滿足文本、、視頻等多場景下的大規(guī)模實時推理需求。
 
 
  當前,智鎧100現(xiàn)已在無問芯穹Infini-AI異構(gòu)云平臺上架,且支持70B以上的模型推理,可用于更佳效果的數(shù)據(jù)生成與處理。Infini-AI異構(gòu)云平臺是無問芯穹推出的高性能算力和原生工具鏈平臺,其中大模型服務(wù)平臺可為應用開發(fā)者提供各種高性能、易上手、安全可靠的大模型服務(wù),能力覆蓋了從大模型開發(fā)到大模型服務(wù)化部署的全流程。現(xiàn)已收錄包括Stable Diffusion、Qwen2.5、CogvideoX、Llama3.1在內(nèi)的多種主流大模型,支持模型一鍵微調(diào)部署、模型與ComfyUI workflow托管等功能。Infini-AI平臺用戶可以屏蔽硬件生態(tài)影響,通過極少步驟操作調(diào)用各種模型API,實現(xiàn)模型的快速部署。同時,還能享受到與國際主流產(chǎn)品相比,具有更高性價比的算力服務(wù)。
 
 
  隨著人工智能技術(shù)的快速發(fā)展及應用場景的拓展,國內(nèi)大模型技術(shù)與應用企業(yè)對高可控性、高效能、高性價比、高附加值的算力需求日益迫切。無問芯穹依托“多元異構(gòu)、軟硬協(xié)同”的核心技術(shù)優(yōu)勢,致力于構(gòu)建連接多種模型和芯片的AI基礎(chǔ)設(shè)施新范式,成為大模型時代首選的算力運營商。天數(shù)智芯作為中國領(lǐng)先的通用GPU高端芯片及超級算力系統(tǒng)提供商,致力于打造更可信、更高效、更綠色的世界一流算力引擎。未來,無問芯穹與天數(shù)智芯將繼續(xù)全面合作,在智算中心、央國企、互聯(lián)網(wǎng)等領(lǐng)域,共同探索并推動技術(shù)普及和創(chuàng)新發(fā)展,深度參與到自主可控的算力生態(tài)建設(shè)中,共建AGI時代的大模型算力基座。
 
  天數(shù)智芯
 
  天數(shù)智芯是中國領(lǐng)先的通用GPU高端芯片及超級算力系統(tǒng)提供商。天數(shù)智芯通用GPU產(chǎn)品具有高性能、通用性、靈活性等特點,支持國內(nèi)外主流AI生態(tài)和各種深度學習框架,已支撐各行業(yè)客戶在人工智能領(lǐng)域進行超過數(shù)百個不同種類的模型訓練,獲得客戶高度認可。天數(shù)智芯致力于打造更可信、更高效、更綠色的世界一流算力引擎,賦能千行百業(yè)數(shù)字化轉(zhuǎn)型,促進我國數(shù)字經(jīng)濟高質(zhì)量發(fā)展。
 
  無問芯穹
 
  無問芯穹(Infinigence AI)作為國內(nèi)領(lǐng)先的AI基礎(chǔ)設(shè)施企業(yè),致力于成為大模型時代首選的算力運營商。依托“多元異構(gòu)、軟硬協(xié)同”的核心技術(shù)優(yōu)勢,打造了連接“M種模型”和“N種芯片”的“MxN”AI基礎(chǔ)設(shè)施新范式,實現(xiàn)多種大模型算法在多元芯片上的高效協(xié)同部署。無問芯穹Infini-AI異構(gòu)云平臺基于多元芯片算力底座,向大模型開發(fā)者提供極致性價比的高性能算力和原生工具鏈,為大模型從開發(fā)到部署的全生命流程降本增效。
 
  無問芯穹以“釋放無穹算力,讓AGI觸手可及”為使命,通過不斷的技術(shù)創(chuàng)新實現(xiàn)普惠AI,讓算力成本實現(xiàn)萬倍下降,如同水電煤一般為千行百業(yè)注入新質(zhì)生產(chǎn)力。