Newtalk新聞
Newtalk新聞 (中央社記者吳家豪台北3日電)人工智慧(AI)晶片大廠輝達(NVIDIA)新一代架構Vera Rubin進入全面量產,輝達AI與資料中心GPU產品行銷總監納拉辛漢今天受訪表示,市場對AI算力的需求,已遠遠超過目前能提供的運算總量,輝達需要台灣生態系協助將產能擴增到量產階段,以供應全球的AI工廠。 納拉辛漢(Shar Narasimhan)今天在GTC Taipei大會展示區接受台灣媒體採訪指出,台灣生態系從一開始就與輝達並肩同行,是非常棒的夥伴,並促成了許多不可思議的技術,讓輝達能夠擴展現場看到的新系統。 他強調,台灣供應鏈具備「非常努力工作「(Hard-working)」與「技術極度先進」(Very advanced technology)2大核心優勢,是不可或缺的夥伴。輝達也大幅簡化Vera Rubin平台的設計,過去在Blackwell架構上需要花費2小時的製造步驟,Vera Rubin平台能以20倍的速度完成,大幅提升生產吞吐量。 納拉辛漢直言,AI技術演進正引發硬體架構的變革,為因應代理式AI(Agentic AI)的工作負載需求,每次進行推論時都必須去驗證答案。輝達為此在新平台配備搭載88個核心的獨立中央處理器(CPU),專門用來處理工具調用與答案驗證,並將回饋即時傳送到繪圖處理器(GPU),形成更高效的算力協同體系。 針對輝達執行長黃仁勳經典名言從3年前的「買越多、省越多」,轉變為如今的「買越多、賺越多」,納拉辛漢也給出自己的解讀。 他分析,這兩句話背後代表的是營收、獲利與降低成本的綜合效益。對當前的AI工廠而言,一方面需要Vera Rubin平台來實現最低的Token(詞元,指AI模型的最小運算單位)成本,另一方面則需要最高的Token吞吐量。 「在目前市場上,任何手上有Token可以販售的人,都處於供不應求的狀態」,納拉辛漢說,全球對AI算力的需求,已遠遠超過目前能提供的運算總量,這也是為何輝達需要台灣生態系協助將產能擴增到量產階段,以供應全球AI工廠。(編輯:張良知)1150603 延伸閱讀: 黃仁勳再訪饒河夜市!輝達影片成預告 知名餅店大排長龍 「韓版兆元宴」在台灣先預熱!黃仁勳選這家熱炒店 無超過千元品項 專家看盤》大盤挑戰新高 低檔轉強面板 強力反彈股來了 留意成交量 吳思瑤酸優化文湖線等10年太慢 蔣萬安酸:要好好關注市政 台灣AI供應鏈全面起飛 NVIDIA GTC Taipei重點一圖看!
Go to News Site