進入代理AI時代! 黃仁勳:結構化數據結合生成式AI是關鍵

▲輝達執行長黃仁勳。(圖/翻攝輝達官方YT)

▲輝達執行長黃仁勳。(圖/翻攝輝達官方YT)

記者張靖榕/綜合報導

2026年輝達(NVIDIA)GTC大會登場,輝達執行長黃仁勳指出,未來人工智慧(AI)發展的關鍵,在於把「結構化數據(Structured Data)」與生成式AI結合。他表示,若能將3D圖形、結構化資料與生成式AI整合,AI不僅能生成逼真的內容,同時也能維持高度可控性。黃仁勳多次強調,這種結合方式將成為未來AI應用的重要架構。

企業AI的基礎:結構化資料與資料框架

黃仁勳表示,結構化數據可被視為企業運算的「真實基準」(ground truth),也是建立可靠AI系統不可或缺的基礎。目前企業使用的SQL、Spark與Pandas等平台,多以「數據框」(Data Frames)形式管理大量結構化資料。這些資料就像大型電子表格,記錄企業營運中的關鍵資訊。隨著AI技術逐漸導入企業營運,未來代理式AI(Agentic AI)將能直接使用這些資料庫進行分析與決策,因此加速資料處理能力將成為企業AI基礎建設的重要基礎設施。

90%非結構化資料成為AI新戰場

黃仁勳同時指出,非結構化資料在AI時代的重要性也日益提升。全球每年新增資訊中,約有90%屬於非結構化資料,例如PDF文件、影片、語音與圖片等。過去這些資料因缺乏有效索引方式而難以分析與搜尋,但透過多模態AI技術,現在可以讓AI讀取並理解內容,再轉換成可搜尋的語意向量(embedding),建立向量資料庫(Vector Database),使企業能夠有效處理與分析大量非結構化資訊。

cuDF與cuVS加速AI資料處理

為提升AI資料運算效率,輝達推出兩項核心函式庫:cuDF與cuVS。cuDF主要負責加速結構化資料運算,而cuVS則專注於向量資料庫與語意搜尋。黃仁勳表示,這兩項技術將成為AI資料處理的重要基礎平台,目前也正逐步整合到全球主要資料平台與企業系統中。

CUDA-X生態系推動加速運算

輝達在大會上也展示其加速運算架構。黃仁勳指出,公司正以統一架構推動「加速運算」(Accelerated Computing),目前已建立超過1000個CUDA-X函式庫,讓開發者能在不同產業領域快速開發應用。這些函式庫涵蓋多項用途,例如cuOpt用於決策最佳化、cuLitho用於計算光學微影、cuDSS處理稀疏矩陣求解、cuEquivariants支援幾何感知神經網路,Warp則可進行可微分物理模擬。除此之外,Parabricks應用於基因體分析,Aerial平台則針對AI無線電存取網路(AI RAN)。

與IBM合作提升資料處理效率

在GTC大會期間,輝達也宣布與國際商業機器公司(IBM)合作,利用GPU運算函式庫加速IBM的Watsonx.data SQL引擎。IBM指出,資料處理是AI理解世界的重要基礎,但傳統CPU架構在處理龐大資料量時,效能逐漸出現瓶頸。

▲輝達GTC大會。(圖/翻攝輝達官方YT)

▲輝達GTC大會。(圖/翻攝輝達官方YT)

企業案例:雀巢供應鏈速度提升5倍

以雀巢公司(Nestlé)為例,其全球供應鏈每天需處理來自185個國家的訂單與物流資料。透過NVIDIA GPU加速的Watsonx.data平台,相關工作負載的處理速度可提升約5倍,同時將運算成本降低約83%。

摩爾定律趨極限:運算突破靠演算法

黃仁勳指出,半導體產業過去長期依賴摩爾定律提升運算效能,但隨著晶片微縮逐漸接近物理極限,單靠製程技術進步已難以持續降低運算成本。未來提升運算能力,將更多依賴加速運算架構與演算法優化。

NVIDIA定位:不只是晶片公司

他強調,NVIDIA的定位不僅是晶片製造商,同時也是演算法公司。透過持續優化演算法與函式庫,再加上龐大的GPU安裝基礎,能持續降低AI運算成本並提升效率。

CUDA函式庫成AI產業「皇冠上的明珠」

黃仁勳表示,輝達競爭力的重要核心在於CUDA-X函式庫生態系,其中cuDNN(CUDA Deep Neural Network)被視為推動現代深度學習發展的重要技術之一。他指出,這些函式庫是NVIDIA「皇冠上的明珠」,也是推動AI產業快速發展的基礎。透過持續推出新的AI模型與函式庫,輝達希望加速AI在金融、醫療、製造、電信與機器人等領域落地,進一步推動全球AI生態系發展。