1
產業
2024 年 6 月 2 日，輝達（NVIDIA,NVDA-US）聯合創辦人兼執行長黃仁勳在 Computex 2024（2024 台北國際電腦展）上發表主題演講，分享了人工智慧時代如何推動全球新產業革命。以下為本次演講的要點：
- 黃仁勳展示了最新量產版的 Blackwell 晶片，並宣布將在 2025 年推出 Blackwell Ultra AI 晶片。下一代 AI 平台將命名為 Rubin，2027 年推出 Rubin Ultra，更新節奏為「一年一次」，打破「摩爾定律」。
- 黃仁勳指出，NVIDIA 推動了大語言模型的誕生，自 2012 年以來改變了 GPU 架構，並將所有新技術集成在單台電腦上。
- NVIDIA 的加速計算技術實現了 100 倍的速度提升，而功耗僅增加到原來的 3 倍，成本則為原來的 1.5 倍。
- 黃仁勳預計，下一代 AI 需要理解物理世界。他提出的方法是讓 AI 通過影片與合成數據學習，並讓 AI 互相學習。
- 黃仁勳在 PPT 中為「token」定了一個中文譯名——「詞元」。
- 黃仁勳表示，機器人時代已經到來，未來所有行動的物體都將實現自主運作。
接下來股感將逐段整理黃仁勳演講的重點，並且帶你看看最受投資人矚目的黃仁勳概念股究竟有哪些，趕快繼續往下看吧！
人工智慧的未來與我們的角色
在演講的一開始，黃仁勳分享了他對於人工智慧未來的看法。他強調了輝達與全球合作夥伴共同推動創新的重要性，並提出了三個關鍵議題：
- 我們共同的工作正在取得的進展及其意義
- 生成式人工智慧的定義，以及它將如何影響我們的產業，甚至所有產業
- 我們如何抓住這個令人難以置信的機會的藍圖。
他鼓勵大家一起迎接由我們鑄造和創造的新時代，並為下一段重要的旅程做好準備。這場演講將深入探討生成式人工智慧及其深遠影響，以及我們的戰略藍圖。
加速計算的挑戰與突破：從軟體重寫到全球應用
黃仁勳在演講中深入探討了加速計算的實現過程和挑戰，以及其在各領域的應用。他指出，雖然加速計算能帶來顯著的效益，但要實現這種技術並不容易，因為它需要對軟體進行全面的重寫。他提到了輝達在過去 20 年中在這方面取得的進展，包括推出了專門處理神經網路加速的 cuDNN 深度學習庫，以及用於加速 5G 無線電技術的 Aerial 庫等。
他還分享了一些成功的案例，如 Google 在雲端部署了 QDF 並成功加速了 Pandas，以及台積電等公司使用 Coolitho 提升了晶片製造過程中的效率。他強調，這些特定領域的庫是輝達的寶藏，使得加速計算得以廣泛應用，並讓輝達在市場中保持開放和領先。他期待未來能有更多的突破和應用。
CUDA 的臨界點：創新、挑戰與未來
黃仁勳在演講中深入探討了 CUDA 的發展歷程和挑戰，以及其在各領域的應用。他指出，CUDA 已經達到了一個良性的發展循環，這種循環在計算架構和平台的發展歷史中並不常見。他解釋了創建新的計算平台所面臨的困境，並強調了通過持續推出特定領域的庫和加速庫，我們成功打破了這一困境。
他分享了 CUDA 如何推動市場需求的激增，並帶來了巨大的經濟效益。他還提到了一些重大的項目，如「地球 2 號」項目，以及如何利用人工智慧來預測氣候變化。他強調，這些都是由於 CUDA 和現代人工智慧技術的突破，才得以實現的。
他期待未來能有更多的突破和應用。他最後提到，由於我們致力於不斷提高性能並降低成本，研究人員在 2012 年發現了 CUDA，這是輝達與人工智慧的首次接觸，並由此開始了深度學習的可能性。他認為，這一天對我們而言至關重要，因為我們做出了明智的選擇，與科學家們緊密合作，使深度學習成為可能。AlexNet 的出現實現了電腦視覺的巨大突破。他期待未來能有更多的突破和應用。
生成式人工智慧：開創新紀元的無限可能
接下來黃仁勳深入探討了深度學習的本質，包括其基礎、長期影響以及潛力。黃仁勳強調了這項技術的巨大潛力，並提出了一個問題：如果我們進一步擴大架構，擁有更大的網路、更多的數據和計算資源，將會發生什麼？
黃仁勳描述了從 2012 年開始，他們如何改變GPU的架構，增加了張量核心，發明了 NV-Link，推出了 cuDNN、TensorRT、Nickel，還收購了 Mellanox，推出了 Triton 推理伺服器。這些技術集成在一台全新的電腦上，超越了當時所有人的想像。
黃仁勳提到了 OpenAI，並描述了如何將世界上首台人工智慧超級電腦 DGX 送給他們。隨後，他們持續擴大研發規模，並在 2017 年推出了更為龐大且強大的超級電腦。這種技術的進步使得我們能夠處理海量的數據，並識別和學習在長時間跨度內連續的模式。
黃仁勳強調了生成式人工智慧的力量，並認為這種新型的製造業將成為一種新型的製造業，並非傳統的電腦製造業，而是利用電腦進行製造的全新模式。這種變革以前從未發生過，這確實是一件令人矚目的非凡之事。
最後，黃仁勳預測了這種新型製造業將為各行各業生產出前所未有的、極具價值的新商品，並將直接服務於 100 兆美元產業的創新成果。這將成為一種新型的製造業，但它並非傳統的電腦製造業，而是利用電腦進行製造的全新模式。這樣的變革以前從未發生過，這確實是一件令人矚目的非凡之事。這種變革將開創一個新的工業革命，並將在每個產業掀起變革。
人工智慧容器：開啟計算加速新時代
黃仁勳接下來探討了人工智慧容器（Nim）的興起及其對各個產業的影響。他認為，Nim 的發明是計算加速新時代的標誌，它將推動人工智慧的迅猛發展，催生更多生成式人工智慧的應用。
黃仁勳表示，Nim 是一種預訓練模型，可以輕鬆部署和管理人工智慧服務。它提供了通用的 API 接口，允許用戶直接與「盒子」進行交互。Nim 的優勢包括易於部署和管理、提供通用的 API 接口、支持雲原生環境以及經過嚴格測試。
黃仁勳指出，Nim 可以應用於多個領域，包括客戶服務代理、物理學、語義檢索和視覺語言等。他認為，未來應用程式將通過組裝人工智慧團隊來構建，而 Nim 將使這一過程更加簡單、高效。
黃仁勳最後強調，人工智慧容器的興起將對各個產業產生深遠的影響。Nim 是一種強大的工具，可幫助企業輕鬆部署和管理人工智慧服務。它將使我們能夠構建更加智能、高效的應用程式。
數位人類：開啟更人性化的互動時代
在與大型人工智慧服務互動時，我們渴望更加人性化的方式，這就是數位人類技術的目標。輝達（NVIDIA, NVDA-US）在這一領域已經取得了顯著的進展。
數位人類不僅可以成為出色的交互式代理，還能夠更吸引人，並可能表現出更高的同理心。然而，要實現這一目標，我們仍需付出巨大的努力，這不僅僅是我們的願景，更是我們不懈追求的目標。
讓我們先來看看我們目前的成果。ACE（Avatar Cloud Engine，輝達數位人類技術）不僅能在雲端高效運作，同時也適用於 PC 環境。我們將 Tensor Core GPU 集成到所有 RTX 系列中，為人工智慧 GPU 開啟了新的時代。
我們明白，要構建一個新的計算平台，必須先奠定堅實的基礎。只有有了堅實的基礎，應用程式才會湧現。所以，我們在每一款 RTX GPU 中都集成了 Tensor Core 處理單元。全球已有 1 億台 GeForce RTX AI PC 投入使用，而且這個數字還在不斷成長，預計將達到 2 億台。在最近的 Computex 展會上，我們更是推出了四款全新的人工智慧筆記本電腦。
這些設備都具備運作人工智慧的能力。未來的筆記本電腦和 PC 將成為人工智慧的載體，將在後台默默地為你提供幫助和支持。同時，這些 PC 還將運作由人工智慧增強的應用程式，讓你在使用照片編輯、寫作和其他工具時，都能享受到人工智慧帶來的便利和增強效果。
此外，你的 PC 還將能夠托管帶有人工智慧的數位人類類應用程式，以更多樣化的方式呈現並在 PC 上應用。顯然，PC 將成為至關重要的人工智慧平台。
當我們向未來展望時，我們可以看到一個令人振奮的發展前景。隨著數位人類技術的不斷進步，我們將迎來一個更加人性化、更具同理心的互動時代。這將推動人工智慧向更高層次發展，開啟人類與技術之間更加緊密的聯繫，這是我們正在努力實現的目標。
Blackwell GPU：性能強大、能耗低
接下來黃仁勳討論了 Blackwell GPU：
- 人工智慧的發展：隨著數據產生速率的提升和對計算能力需求的增加，我們正邁入一個新時代，人工智慧將能夠學習物理定律，理解並基於物理世界的數據進行決策和行動。因此，人工智慧模型將繼續擴大，對 GPU 性能的要求也將越來越高。
- Blackwell GPU 的誕生：為了滿足這一需求，Blackwell GPU 應運而生。這款 GPU 專為支持新一代人工智慧設計，擁有幾項關鍵技術，包括大尺寸晶片、高速鏈接、先進的 SerDes 接口技術等。
- Grace CPU 的功能：Grace CPU 的用途廣泛，不僅適用於訓練場景，還在推理和產生過程中發揮關鍵作用，如快速檢查點和重啟。此外，它還能儲存上下文，讓人工智慧系統擁有記憶，並能理解用戶對話的上下文。
- 第二代 Transformer 引擎：我們推出的第二代 Transformer 引擎進一步提升了人工智慧的計算效率。這款引擎能夠根據計算層的精度和範圍需求，動態調整至較低的精度，從而在保持性能的同時降低能耗。
- GPU 的互聯與可靠性：在 GPU 的互聯方面，我們採用了第五代 NV Link 技術，它允許我們輕鬆連接多個GPU。此外，Blackwell GPU 還配備了第一代可靠性和可用性引擎（Ras 系統），這一創新技術能夠測試晶晶片的每一個晶體管、觸發器、內處理器以及片外內處理器，確保我們在現場就能準確判斷特定晶片是否達到了平均故障間隔時間（MTBF）的標準。
- DGX 系統與 MGX 系統：這就是我們的 DGX 系統，Blackwell 晶片將被嵌入其中。這款系統採用空氣冷卻技術，內部配備了 8 個這樣的 GPU。然而，如果你更傾向於液體冷卻技術，我們還有一個全新的系統——MGX。它基於這款主板設計，我們稱之為「模組化」系統。MGX 系統的核心在於兩塊 Blackwell 晶片，每個節點都集成了四個Blackwell 晶片。它採用了液體冷卻技術，確保了高效穩定的運作。
- NV 鏈接交換機：這個 NV 鏈接交換機通過 NV 鏈接主幹在銅線上傳輸數據，使我們能夠在單個機架中節省 20 千瓦的電力，而這 20 千瓦現在可以完全用於數據處理，這的確是一項令人難以置信的成就。這就是 NV 鏈接主幹的力量。
- Blackwell GPU的性能提升：在短短八年內，我們的計算能力、浮點運算以及人工智慧浮點運算能力成長了 1,000 倍。這速度，幾乎超越了摩爾定律在最佳時期的成長。而更值得一提的是，每當我們的計算能力提高時，成本卻在不斷下降。我們通過提升計算能力，用於訓練GPT- 4 模型（ 2 兆參數和 8 兆 Token）的能量下降了 350 倍。
- Blackwell GPU 的未來：我們利用Blackwell將原本需要高達 1,000 吉瓦時的能量降低到僅需 3 吉瓦時，這一成就無疑是令人震驚的突破。想像一下，使用 1,000 個 GPU，它們所消耗的能量竟然只相當於一杯咖啡的熱量。而 10,000 個 GPU，更是只需短短 10 天左右的時間就能完成同等任務。
大型人工智慧工廠網路解決方案：InfiniBand vs. 以太網
隨著人工智慧工廠的興起，對高性能、低延遲網路的需求也日益增長。傳統的以太網並未針對此類應用進行優化，因此本文提出了一種新的解決方案：將 InfiniBand 的性能帶到以太網架構中。
該解決方案採用了四種關鍵技術：
- RDMA（遠程直接內處理器訪問）：實現高效的數據傳輸。
- 擁塞控制機制：防止網路擁塞。
- 自適應路由技術：提高網路效率。
- 噪聲隔離技術：確保關鍵數據包的傳輸。
並且包含以下優點：
- 高性能：網路利用率提升 40%，訓練時間縮短 20%。
- 低成本：網路成本相對於整個數據中心而言幾乎可以忽略不計。
- 可擴展性：支持數百萬個 GPU 的通訊需求。
突破與創新：輝達 Blackwell 平台的崛起
接下來黃仁勳分享了輝達 Blackwell 平台的崛起，這不僅是一個硬體產品，更是一個集成了 CPU、GPU、交換機等多個元素的完整系統，透過模組化的形式提供給全球客戶，以應對不同的數據中心、客戶群體和應用場景。他談到了軟體與硬體的契合，以及未來的技術挑戰，並透露了即將推出的 Rubin 平台和 Rubin Ultra 平台，展望未來的發展。他感謝了合作夥伴的支持，並回顧了輝達公司在過去十二年中的成長與轉變。
探索融合人工智慧與機器人技術的未來景象
最後黃仁勳深入探討了物理人工智慧與機器人技術的結合，以及其對未來的影響。他指出物理人工智慧不僅需要準確的世界模型，還需要卓越的認知能力，以更好地理解和滿足人類需求。隨著機器人技術的日益普及，人們對機器人的應用已經超越了傳統的人形機器人，而是延伸到工廠和倉庫等各個領域。
黃仁勳強調了克服技術挑戰的重要性，並通過影片展示了前沿技術的應用，包括倉庫和工廠的自動化。他解釋了如何通過電腦加速庫和預訓練模型實現對機器人的訓練和模擬，並介紹了機器人工廠和數字孿生設施的建設。
此外，黃仁勳提到了與各行各業的合作夥伴關係，例如西門子、ABB 和富士康，以及對自動駕駛汽車和人形機器人的未來展望。他預測了未來機器人將在製造業、物流業等領域發揮更廣泛的作用，並帶來更多的創新和便利。
最後，黃仁勳呼籲人們期待未來機器人時代的到來，並強調這將是一個真正非凡的旅程，將為人類生活帶來重大改變。
這場由黃仁勳主持的演講深入探討了融合人工智慧和機器人技術的未來發展趨勢，並展望了這一趨勢對社會和產業帶來的深遠影響。
輝達和台灣
在演講的最後，黃仁勳展示了一段氣勢磅礡的影片，揭示了和台灣企業的關聯，大家也可以看一下喔！
黃仁勳概念股有哪些？
除了黃仁勳的演講內容受到各界關注以外，黃仁勳在投影片中呈現的企業也是許多投資人關注的重點！在這邊股感也整理了究竟有哪些公司出現在這次的演講中，趕快來看一下吧！
| 黃仁勳概念股 | ||
| 公司 | 股號 | 漲幅（2024/06/03） |
| LITEON 光寶科 | 2301 | 2.79% |
| UMC 聯電 | 2303 | 0% |
| DELTA 台達電 | 2308 | 3.69% |
| Foxconn 鴻海 | 2317 | 2.62% |
| COMPAL 仁寶 | 2324 | 1.21% |
| TSMC 台積電 | 2330 | 3.05% |
| Acer 宏碁 | 2353 | -0.76% |
| Foxconn 鴻準 | 2354 | -1.23% |
| Inventec 英業達 | 2356 | 2.24% |
| ASUS 華碩 | 2357 | -0.78% |
| SOLOMON 所羅門 | 2359 | 2.86% |
| GIGABYTE 技嘉 | 2376 | 1.73% |
| MSI 微星 | 2377 | 2.87% |
| Quanta 廣達 | 2382 | 3.10% |
| ADVANTECH 研華 | 2395 | 2.55% |
| AVerMedia 圓剛 | 2417 | 9.96% |
| KYEC 京元電 | 2449 | 2.83% |
| MediaTek 聯發科 | 2454 | 2.83% |
| Leadtek 麗臺 | 2465 | 10% |
| TRI 德律 | 3030 | 9.86% |
| Unimicron 欣興 | 3037 | 3.29% |
| EDOM 益登 | 3048 | 9.98% |
| Axiomyek 艾訊 | 3088 | 9.86% |
| Wistron 緯創 | 3231 | 1.79% |
| G.M.I 弘憶股 | 3312 | 9.94% |
| ASRock 華擎 | 3515 | 4.08% |
| Thermaltake 曜越 | 3540 | 9.94% |
| MiTAC 神達 | 3706 | 1.47% |
| ASE 日月光投控 | 3711 | 2.55% |
| PEGATRON 和碩 | 4938 | 5.19% |
| Innodisk 宜鼎 | 5289 | 3.95% |
| Coretronic 中光電 | 5371 | 0% |
| YUAN 聰泰 | 5474 | 10% |
| EverFocus 慧友 | 5484 | 9.88% |
| InWin 迎廣 | 6117 | 9.76% |
| KENMEC 廣運 | 6125 | 9.80% |
| ADLINK 凌華 | 6166 | 8.51% |
| Lanner 立端 | 6245 | 9.51% |
| onyx 醫揚 | 6569 | 6.15% |
| AAEON 研揚 | 6579 | 6.94% |
| Wiwynn 緯穎 | 6669 | 3.85% |
| Neousys 宸曜 | 6922 | 9.87% |
| Chenbro 勤誠 | 8210 | 5.90% |
| NEXCOM 新漢 | 8234 | 9.87% |
| GIANT 巨大 | 9921 | 3.45% |
從上表我們可以發現，在黃仁勳點名的 45 檔股票中，共有 14 檔於演講隔日收漲停，由此可見黃仁勳的影響力之驚人！
本篇文章是以逐字稿搭配生成式 AI 產生，內容若有遺缺敬請見諒，還是建議大家可以去看看黃仁勳演講的完整影片喔！
【延伸閱讀】
240329
