上海交通大學團隊開發全新光學 AI 晶片 LightGen，處理圖像合成及影片生成等生成式任務時，速度比 NVIDIA A100 快 100 倍，能量效率亦高出 100 倍。LightGen 於 136.5 平方毫米晶片整合超過 200 萬個光子神經元，利用光潛在空間實現高效資料壓縮與重建。研究團隊於《Science》期刊發表成果，證實晶片運算力達 3.57 京 TOPS，效率為每瓦 664 TOPS。
LightGen 採用光訊號取代傳統電子訊號，解決熱量及高耗電問題。團隊突破三項難關，包括晶片高積集度、全光維度轉換及無需真值依賴的貝氏訓練演算法。這些創新令晶片處理高解像度圖像去噪、風格轉換及 3D 生成任務時，表現媲美 Stable Diffusion 等領先模型。
測試顯示 LightGen 端對端運算速度及效率比 NVIDIA A100 高兩個數量級。若使用進階裝置，改良幅度更可達七至八個數量級。中國其他光學晶片如 Meteor-1 亦展現潛力，具備 2,560 TOPS 效能，但 LightGen 專攻生成式 AI。
LightGen 商用化能大幅減低資料中心耗電與環境負荷，為可持續 AI 開闢新路。研究指出晶片具擴展潛力，未來將支援規模更大的 AI 模型。
資料來源：Science South China Morning Post