【ZiDongHua 之“品牌自定位”收錄關(guān)鍵詞: 九天人工智能 中國信息通信研究院 人工智能】
  
  九天人工智能平臺行業(yè)首批通過權(quán)威“領(lǐng)先級”評測
  
  近日,中移九天公司(九天研究院)研發(fā)的九天人工智能平臺(簡稱“九天平臺”)順利完成中國信息通信研究院(簡稱“中國信通院”)首批“大模型訓(xùn)練平臺”標(biāo)準(zhǔn)技術(shù)評估,并獲得“領(lǐng)先級”,標(biāo)志著九天人工智能平臺在大模型的訓(xùn)練準(zhǔn)備、模型訓(xùn)練、訓(xùn)練評估以及AI資產(chǎn)管理等環(huán)節(jié),已達(dá)到行業(yè)標(biāo)桿水準(zhǔn),可為產(chǎn)業(yè)級大模型研發(fā)提供可靠的全流程支撐。
  
  本次九天平臺參加的技術(shù)評估依據(jù)的是《大模型訓(xùn)練平臺技術(shù)要求》標(biāo)準(zhǔn),該標(biāo)準(zhǔn)由中國信通院聯(lián)合五十余家單位共同編制,聚焦大模型平臺訓(xùn)練過程的功能、性能要求,結(jié)合產(chǎn)業(yè)需求規(guī)范,覆蓋68項能力要求,包括33項基礎(chǔ)功能和35項高級功能,重點考察平臺的訓(xùn)練效率、穩(wěn)定性和易用性。
 
  
  九天人工智能平臺是中移九天公司(九天研究院)的拳頭產(chǎn)品,首發(fā)于 2017 年的中國移動合作伙伴大會,研發(fā)之初即定位于提供高效AI模型訓(xùn)練和推理的一站式研發(fā)與服務(wù)平臺。2023年,伴隨大模型成為行業(yè)主流,九天平臺全面升級為支持大模型生產(chǎn)、應(yīng)用及運營服務(wù)的先進(jìn)全棧式生產(chǎn)服務(wù)平臺。目前九天平臺已支持中國移動30多項通專大模型訓(xùn)練和推理,以及超過4萬個智能體應(yīng)用的構(gòu)建。平臺也已在能源化工、農(nóng)業(yè)、航空、醫(yī)療、教育等行業(yè)服務(wù)多家央企和行業(yè)龍頭,例如,聯(lián)合中國石油共建昆侖AI 中臺,服務(wù)建設(shè)中國中化人工智能平臺,打造中國航信民航智能服務(wù)平臺,攜手解放軍總醫(yī)院構(gòu)建多級互聯(lián)醫(yī)學(xué)人工智能平臺,為浙江大學(xué)提供統(tǒng)一智算平臺等。
 
  
  九天人工智能平臺在技術(shù)上具有特色優(yōu)勢,主要體現(xiàn)在全棧國產(chǎn)化支持、超大規(guī)模算力調(diào)度與高穩(wěn)訓(xùn)練及研發(fā)全鏈路覆蓋三個方面。
  
 ?。?)全棧國產(chǎn)化支持適配國產(chǎn)操作系統(tǒng)、數(shù)據(jù)庫、多樣化國產(chǎn)AI加速卡及國產(chǎn)AI框架。持續(xù)推進(jìn)與國產(chǎn) AI 加速芯片在大模型訓(xùn)練推理場景的適配,在算子層面深度優(yōu)化訓(xùn)推加速技術(shù),挖掘芯片加速新特性,助力國產(chǎn)軟硬件生態(tài)成熟。
  
 ?。?)超大規(guī)模算力調(diào)度與高穩(wěn)訓(xùn)練基于云原生架構(gòu),實現(xiàn)了多個萬卡智算集群的納管和調(diào)度,可實現(xiàn)大模型訓(xùn)推任務(wù)在多個萬卡集群的高效調(diào)度與切換。斷點續(xù)訓(xùn)可實現(xiàn)千億大模型訓(xùn)練任務(wù)穩(wěn)態(tài)時長20+天。
  
 ?。?)研發(fā)全鏈路覆蓋提供從數(shù)據(jù)解析、清洗、增強、標(biāo)注到質(zhì)檢的全流程大模型訓(xùn)練數(shù)據(jù)準(zhǔn)備工具,支持文本 / 圖像 / 視頻等多模態(tài)訓(xùn)練數(shù)據(jù)準(zhǔn)備,內(nèi)置6大類57個圖形化標(biāo)注模板及54個清洗增強算子,依托多元數(shù)據(jù)接入、全流程處理工具、智能標(biāo)注引擎,為構(gòu)建高質(zhì)量數(shù)據(jù)集提供工具支撐;具備完備的大模型訓(xùn)調(diào)推工具鏈,全面支持語言、視覺等多種模態(tài)的開閉源大模型的增量預(yù)訓(xùn)練、零代碼微調(diào)、偏好對齊、模型蒸餾、模型評估、壓縮和推理部署,提供自動并行策略優(yōu)化工具,持續(xù)攻關(guān)專家動態(tài)負(fù)載均衡、通信算子優(yōu)化及KV Cache Offload優(yōu)化技術(shù),使訓(xùn)調(diào)推的效率大幅提升。
  
  面對人工智能技術(shù)和產(chǎn)業(yè)需求的快速發(fā)展,九天人工智能平臺將繼續(xù)依托全棧國產(chǎn)化技術(shù)優(yōu)勢與全鏈路大模型生產(chǎn)服務(wù)能力,不斷強化底層技術(shù)自主創(chuàng)新,用優(yōu)秀的產(chǎn)品能力助力各行業(yè)智能化技術(shù)與應(yīng)用落地,支撐產(chǎn)業(yè)實現(xiàn)AI+煥新發(fā)展。