Nvidia AI晶片效能十年翻千倍？創始人稱 AI 能解決「摩爾定律」難題

Nvidia描繪了一個樂觀的未來，他們預期AI晶片的能力將以驚人的速度飛速增長。這一預測被冠名為「黃氏定律」，定律預測在未來十年裡，單一GPU的AI推理能力將成長超過1000倍。這種驚人的成長將主要由生成式AI大型語言模型的強勢需求驅動，以及將創新焦點放在「堆疊」核心技術上，而不僅僅是依賴於微縮的晶片流程。

黃氏定律：AI晶片發展將是突破

近期，Nvidia公開了一篇文章，詳細介紹了他們對AI晶片性能的樂觀預測，這種預測被稱為「黃氏定律」。這個定律是以公司的CEO黃仁勳的名字命名的，他認為摩爾定律已經達到了極限，而AI將是突破這一障礙的鑰匙。

AI模型需求

Dally認為這種驚人的成長主要源自於對生成式AI大型語言模式的需求不斷增加，而這種模式的規模每年都以一個數量級的速度成長。此外與摩爾定律不同，Nvidia的晶片發展並不僅依賴於晶片製程的縮小。儘管在過去的十年中，Nvidia已將GPU從28納米轉換到了5納米的半導體節點，但這只使晶片性能增加了2.5倍。相較之下Nvidia的1000倍成長更多的來自於在「堆疊」內部的創新。

Nvidia的關鍵創新

Dally列舉了一些在過去幫助Nvidia實現1000倍效能成長的關鍵創新措施。包括引入Hopper架構和Transformer引擎的新數學動態組合，提供高級指令幫助GPU用更少的精力執行更多的工作。Nvidia Ampere架構增加了結構稀疏性，其簡化AI模型中的權重而不影響模型準確性。NVLink幫助GPU互聯和Nvidia網路技術進步等。最後Dally強調，即使摩爾定律的好處正在減少，他相信黃氏定律將繼續存在。