【ZiDongHua 之品牌自定位收錄關鍵詞: 人工智能   機器人    北京光博會  AI  ChatGPT   物聯(lián)網
 
  前沿產業(yè) | 光之魔力:光子學能否賦能下一代人工智能聊天機器人
 
  本文主要討論了光子學在支持下一代人工智能(AI)聊天機器人中的潛力。隨著人工智能和機器學習等應用的快速發(fā)展,對處理算法和運行模型的硬件提出了更高的要求。文章指出,傳統(tǒng)的銅連接已經達到了帶寬限制,而光子集成電路(PICs)可以利用光的力量提供更高的性能和能源效率,并支持微型化。文章還討論了AI模型對硬件組件的巨大需求、數(shù)據(jù)中心能源消耗的問題,以及使用光學互連解決數(shù)據(jù)中心帶寬需求的趨勢。此外,文章還提到了光子學在解決帶寬瓶頸和降低能源消耗方面的潛力,并介紹了一些正在開發(fā)的光子技術和解決方案。總而言之,光子學以其光的速度提供更大的帶寬、更低的延遲和更低的功耗,有望在下一代數(shù)據(jù)中心和AI聊天機器人中發(fā)揮重要作用。
 
  Keywords:  硅基光電子,AI,GPT,光子集成
 
  您最近一定用過GPT。從寫作論文和代碼到解釋復雜概念,ChatGPT的能力已經令全世界驚嘆不已。這也是AI在我們智能一切的世界中變得更加易于接觸和普及的另一個例子。
 
  隨著人工智能和機器學習等計算密集型應用在我們的生活中越來越深入,考慮到支持這些創(chuàng)新的基礎設施是值得的。簡單來說,這些應用對處理算法、運行模型和保持數(shù)據(jù)流動的硬件提出了高負荷要求。
 
  
 
  為了應對AI、高性能計算和大數(shù)據(jù)分析等工作負載,勢必要涌現(xiàn)出高性能計算資源的超級規(guī)模數(shù)據(jù)中心。然而,傳統(tǒng)的將這些數(shù)據(jù)中心內不同組件聯(lián)接在一起的銅互連,由于帶寬限制已經顯得捉襟見肘。這就是光子集成電路(PIC)可以發(fā)揮關鍵作用的地方。光子學不僅可以提供更高水平的性能,還可以提高能源效率,有助于最小化能源占用面積。
 
  執(zhí)行AI模型的能源成本
 
  ChatGPT的真實性在于其使用OpenAI的生成式預訓練GPT-3自回歸語言模型,該模型使用深度學習生成文本。擁有1750億個參數(shù)的模型架構超過了人腦的處理水平(相當于1000億個參數(shù)的模型)。
 
  像這樣的AI模型對處理它們的硬件組件(如內存、GPU、CPU和加速器)提出了巨大要求。這需要具備大型GPU陣列和高帶寬光纖連接的硬件基礎設施來執(zhí)行AI模型,但這一切都帶來了一些嚴重的能源(和成本)考慮。
 
  
 
  超級規(guī)模數(shù)據(jù)中心通常擁有至少5000個服務器,管理著100,000平方英尺以上的數(shù)據(jù),并在短時間內快速處理大量數(shù)據(jù)。然而,這種容量和能力所帶來的巨大能源代價是可觀的:根據(jù)國際能源署的一份報告,2021年數(shù)據(jù)中心的能耗量在220至330太瓦時(TWh)之間,約占全球最終電力需求的0.9%至1.3%。這比一些國家一年的能源消耗量還要多。
 
  在許多數(shù)據(jù)中心中,硬件組件通常通過銅連接器連接,而中心之間的連接通常使用光纖。現(xiàn)在,使用光學 I/O(輸入/輸出)組件實現(xiàn)核心硅光子芯片技術,如交換機、CPU、GPU和芯片間互連,正迅速成為下一代數(shù)據(jù)中心不可避免的解決方案趨勢。利用光的特性,光子集成電路能夠實現(xiàn)、擴展和增加數(shù)據(jù)傳輸。
 
  就物理學而言,沒有其他東西可以像光子學那樣提高帶寬和速度,同時降低延遲和能源消耗。這正是數(shù)據(jù)中心以及依賴于它們的AI聊天機器人所需要的。
 
  QpiAI首席執(zhí)行官Nagendra Nagaraja最近表示:“在我們不斷探索各行各業(yè)最優(yōu)AI和量子系統(tǒng)的同時,我們發(fā)現(xiàn)了使用光子方案為帶寬和速度大幅度提升帶來的實際好處。Synopsys的光子學解決方案使我們的技術能夠享受光的速度,幫助我們的客戶提升業(yè)務成果。”
 
  光子鏈路為分立數(shù)據(jù)中心提供支持
 
  我們已經看到數(shù)據(jù)中心架構向分立化轉變,其中存儲、計算和網絡等同質資源分別放置在不同的盒子中,并通過光學方式連接。這種架構不浪費任何資源;相反,中央智能單元確定并獲取來自每個盒子所需的數(shù)據(jù),數(shù)據(jù)經過光纖互連傳輸。剩余的資源可以用于其他工作負載。
 
  除了在機架到機架、房間到房間和建筑到建筑的配置中使用之外,光纖互聯(lián)還可能在CPU和GPU級別上占據(jù)主導地位,并通過光信號處理數(shù)據(jù)I/O。
 
  將許多并行和高速串行電氣I/O通道替換為具有光學高帶寬連接的光學級聯(lián)連接是驅動近場光學技術需求的動力,該技術使用主板上的高性能PCB基片(中間層),以及共封裝光學,即電子和光子芯片的單一封裝集成。
 
  雖然光子學在短期內可能不會取代傳統(tǒng)的電子半導體元件,但它們明顯在處理帶寬和延遲要求方面發(fā)揮重要作用。同時,正在進行研究以了解光學領域的模擬和數(shù)字計算的價值。
 
  解決帶寬限制
 
  由于其高速數(shù)據(jù)傳輸和低能耗,顯然PIC能夠突破帶寬限制并減小能源影響。許多人預計,光子集成電路市場在未來十年內將大幅增長。
 
  像LightMatter這樣的公司,擁有光子AI計算平臺,以及Ayar Labs,該公司開發(fā)光纖互聯(lián)芯片組,都是在開發(fā)新技術來滿足帶寬需求并減小環(huán)境影響的前沿企業(yè)之一。此外,還有一些公司正在研發(fā)使用光子而不是電子作為算術核心的模擬和數(shù)字計算解決方案。
 
  然而,PIC設計并不像設計傳統(tǒng)集成電路那樣直截了當。這些電路的性能與材料有關,又與光學特性有關,而這些光學特性又與幾何形狀等有關。在這一領域取得成功需要對最新研究、工具和技術有所了解,并對量子和物理光學有深入的理解。
 
  比如,Synopsys提供無縫的光子器件、系統(tǒng)和集成電路設計流程,旨在幫助眾多公司成功地進行光子設計。他們還與主要晶圓廠密切合作,開發(fā)流程設計工具,以簡化PIC的開發(fā),并與政府部門合作進行光子教育計劃。
 
  從ChatGPT到物聯(lián)網等,未來十年,光子芯片顯然將成為數(shù)據(jù)和電信領域的首選。它們能夠以低熱效應在寬帶寬上提供閃電般的速度,使其成為處理快速數(shù)字化社會日益增長的數(shù)據(jù)需求的最佳解決方案。這只是光子學的開始。不斷增長的數(shù)據(jù)需求肯定會進一步推動它們的發(fā)展,從而導致新的用例和擴大的市場,這些市場可能會在未來五年內達到新的高度。
 
  本文僅作為行業(yè)信息和新聞分享,不代表我們支持或贊同本文觀點。若有任何異議或侵權,敬請聯(lián)系,我們會及時處理,謝謝!