【ZiDongHua 之“會展賽培壇”收錄關(guān)鍵詞：無問芯穹 計算機(jī)視覺 機(jī)器學(xué)習(xí) VALSE】

 

無問芯穹亮相VALSE 2025，助力高?？蒲许椖克懔ψ杂桑瑢嶒灍o憂！

 
 
2025年度視覺與學(xué)習(xí)青年學(xué)者研討會（VALSE）于6月6日至8日在珠海國際會展中心成功召開，會議持續(xù)聚焦計算機(jī)視覺、模式識別、多媒體及機(jī)器學(xué)習(xí)等領(lǐng)域的國際前沿進(jìn)展與研究熱點。無問芯穹受邀出席“AI for Science：諾貝爾獎后的思考”專題研討會，并由技術(shù)副總裁吳保東發(fā)表題為《面向大模型科學(xué)研究的算力平權(quán)技術(shù)探索》的主題演講。報告從高校大模型應(yīng)用場景的多樣化需求切入，系統(tǒng)闡釋了無問芯穹Infini-AI異構(gòu)云平臺（cloud.Infini-AI.com）如何通過兼容性突破、性能優(yōu)化與穩(wěn)定性保障，滿足高校開發(fā)訓(xùn)練全流程需求，以彈性算力賦能科研創(chuàng)新。
 
 
當(dāng)前，大模型技術(shù)已深度融入高校的科研探索、教學(xué)實踐與應(yīng)用開發(fā)全場景。然而，多元化的應(yīng)用需求面臨三個主要挑戰(zhàn)：在基礎(chǔ)設(shè)施層面，硬件投入成本居高不下且國產(chǎn)芯片適配困難，導(dǎo)致自有資源建設(shè)陷入“閑置與短缺并存”的困境；在模型訓(xùn)練與推理環(huán)節(jié)，存在訓(xùn)練周期冗長、推理首Token延遲高以及多機(jī)通信配置復(fù)雜等技術(shù)瓶頸；在平臺使用層面，因缺乏高效工具鏈，研究人員常需應(yīng)對環(huán)境反復(fù)重置和繁重運維負(fù)擔(dān)，嚴(yán)重擠占有效科研時間，制約學(xué)術(shù)產(chǎn)出效率。
 
針對上述系統(tǒng)性挑戰(zhàn)，無問芯穹Infini-AI異構(gòu)云平臺依托跨域異構(gòu)云管平臺、AIStudio一站式開發(fā)平臺和GenStudio大模型服務(wù)平臺三大核心能力，為高校構(gòu)建了全場景適配的AI Native基礎(chǔ)設(shè)施解決方案。
 
01跨域異構(gòu)云管平臺提供高效底層能力支持，讓異構(gòu)算力成為可用算力
針對高校AI落地“資源閑置與短缺并存”的核心矛盾，無問芯穹跨域異構(gòu)云管平臺面向高校提供底層的能力支持，實現(xiàn)多集群和集群內(nèi)動態(tài)調(diào)度，讓異構(gòu)的算力成為可用的算力。將分散在各課題組的NVIDIA 4090/A100/H800及其他國產(chǎn)算力卡整合為統(tǒng)一資源池，實現(xiàn)小時級動態(tài)分配與反碎片化調(diào)度。同時支持單任務(wù)萬卡級高性能網(wǎng)絡(luò)互聯(lián)，并配備容器級故障自愈機(jī)制，使集群資源利用率顯著提升至92%，算力使用成本降低20%，從根本上解決了資源分散浪費、長周期訓(xùn)練容錯缺失及多機(jī)網(wǎng)絡(luò)性能不足等問題。平臺的異構(gòu)訓(xùn)推引擎Infini-ACC可以充分覆蓋主流模型，廣泛兼容各類硬件，并有效加速運行性能，實現(xiàn)模型存儲、推理耗時及硬件能耗十倍降低。
 
該平臺還集成了無問芯穹全球首創(chuàng)的第三代推理集群系統(tǒng)semi-PD，該推理系統(tǒng)結(jié)合了融合式實例的存儲優(yōu)勢和分離式實例的計算優(yōu)勢，集二者之長處于一體，可同時應(yīng)用于實例推理和集群推理場景。實例推理延時降低最高達(dá)5.6倍，推理性能居行業(yè)第一。
 
02AIStudio一站式開發(fā)平臺全棧支持大模型高效敏捷開發(fā)，讓可用算力成為好用算力
AIStudio一站式開發(fā)平臺為高校提供全棧式開發(fā)支持，以更豐富和更靈活的功能和操作使高校模型資源配置更加便捷高效。當(dāng)前高校資源使用場景大多存在成本高、運維難、使用不穩(wěn)定的難題。而無問芯穹AIStudio一站式開發(fā)平臺覆蓋4090/A/H等全場景的彈性算力資源池，可以按需開機(jī)，響應(yīng)即時需求，讓高校用戶徹底擺脫排隊與搶卡困境。同時通過包月資源組實現(xiàn)組內(nèi)顯存、內(nèi)存共享，促進(jìn)高效協(xié)作。另外，平臺內(nèi)置的一鍵改配功能使單卡開發(fā)環(huán)境可無縫切換至多卡訓(xùn)練狀態(tài)，實現(xiàn)資源成本與效率的最優(yōu)平衡。預(yù)設(shè)模板支持點選式操作，大幅簡化資源配置流程。在可靠性方面，訓(xùn)練全流程將嵌入斷點續(xù)訓(xùn)機(jī)制（任務(wù)中斷30分鐘內(nèi)自動恢復(fù)）、TensorBoard實時監(jiān)控及GPU異常檢測模塊，顯著提升有效訓(xùn)練時長，保障長周期科研任務(wù)的穩(wěn)定可控。
 
03GenStudio大模型服務(wù)平臺一站式解決文生文、生圖高效服務(wù)，讓好用算力成為普適算力
GenStudio大模型服務(wù)平臺聚焦推理性能優(yōu)化，以極致的推理加速能力一站式解決高校文生文、文生圖等多模態(tài)服務(wù)需求。平臺提供高性能推理加速API，資源充足，在文生文、文生圖場景下都具有極致的推理性能。LLM最多較業(yè)界SOTA實現(xiàn)300%的性能提升，并在多種主流模型上實現(xiàn)90%以上的吞吐量提升；文生圖場景下相同卡型相較主流開源組件，推理性能提升在2倍以上，定制化加速優(yōu)化服務(wù)，最多幫助客戶提升10倍生圖速度。平臺兼容90%以上ComfyUI主流節(jié)點和模型，無縫對接其他平臺常見導(dǎo)出格式，可1分鐘實現(xiàn)上傳到調(diào)用。滿足高校從算法研究、垂域訓(xùn)練到教學(xué)部署的全鏈條需求，真正實現(xiàn)“開箱即用”。
 
目前，無問芯穹的解決方案已在清華大學(xué)、北京大學(xué)、浙江大學(xué)等15+頂尖高校成功落地。未來，公司將持續(xù)推動全自主國產(chǎn)算力集群與全國一體化算力網(wǎng)絡(luò)的技術(shù)突破，致力于破解高校算力瓶頸，推動AGI研究的普惠化發(fā)展，以實際行動踐行“釋放無穹算力，讓AGI觸手可及”的理念，成為支撐高校大模型科研創(chuàng)新的核心力量。