科技日報北京11月16日電(記者 張佳欣)據(jù)《自然·光子學(xué)》雜志14日報道,芬蘭阿爾托大學(xué)領(lǐng)導(dǎo)的國際研究團隊開發(fā)出一種新方法,可利用單次光傳播完成復(fù)雜張量運算,實現(xiàn)以光速完成深度學(xué)習(xí)中的關(guān)鍵計算步驟。這是向通用人工智能(AI)硬件研制邁出的重要一步,也為突破現(xiàn)有計算平臺的性能瓶頸提供了全新解決路徑。
張量運算是現(xiàn)代AI的算術(shù)基礎(chǔ),但其復(fù)雜程度遠超人們熟悉的加減乘除。類似在多維空間里旋轉(zhuǎn)、切割或重排一個魔方,這類運算通常需要計算機一步步執(zhí)行,而光卻可以一次性完成所有操作。
隨著深度學(xué)習(xí)模型規(guī)模不斷擴大,圖像識別、自然語言處理等任務(wù)所需的張量計算量呈指數(shù)級增長。作為當(dāng)前主力硬件的GPU雖然性能不斷提高,但在速度、可擴展性和能耗方面已接近極限。數(shù)據(jù)算得越來越多,能耗也越來越大,這是整個產(chǎn)業(yè)面臨的共同難題。
為此,團隊開發(fā)出“光速單次張量計算”新方法,通過光波在空間中的自然傳播實現(xiàn)數(shù)學(xué)運算,無需依賴電子電路,也無需任何主動調(diào)控。卷積、矩陣乘法、注意力機制等深度學(xué)習(xí)的關(guān)鍵步驟,可在光穿過系統(tǒng)的瞬間同步完成。
該方法的核心創(chuàng)新在于,將數(shù)字?jǐn)?shù)據(jù)編碼進光的幅度與相位,使數(shù)字信息轉(zhuǎn)化為光場的物理屬性。當(dāng)這些光場相互作用時,便能自然完成矩陣和張量運算。這一機制就像檢查和分揀海關(guān)包裹,通常需要通過多臺功能各異的機器逐個檢查,然后將它們分揀到正確的箱子里。光學(xué)計算方法可以將所有包裹和所有機器整合在一起,只需一次操作,一次光照射,所有檢查和分揀就能瞬間并行完成。
為了進一步擴大計算能力,團隊還采用多波長光,使不同顏色的光分別攜帶不同維度的數(shù)據(jù),從而處理更高階的張量運算。這一方法的另一大優(yōu)勢在于其簡單性。所有計算均在光的被動傳播過程中完成,無需主動控制或電子開關(guān),因而更適合低能耗、高并行度的光學(xué)平臺。
浙公網(wǎng)安備33010602013724