不滿意輝達晶片？ 《路透》曝OpenAI「正在尋找替代方案」

8名知情人士指出，OpenAI對輝達（NVIDIA）部分最新人工智慧晶片並不滿意，並且自去年起已開始尋求替代方案，特別聚焦高SRAM整合架構，以提升ChatGPT與Codex等產品回應效率。雙方原定的千億美元投資案也因產品路線調整而延宕，期間OpenAI接觸Cerebras與Groq等業者，輝達則迅速授權Groq技術鞏固版圖。

據《路透社》（Reuters）報導，OpenAI策略轉向的細節首度曝光，焦點在於其日益重視用於執行特定人工智慧推論（inference）任務的晶片。所謂推論，是指人工智慧模型（例如支撐ChatGPT應用程式的模型）在回應使用者問題與請求時所進行的運算過程。輝達在大型人工智慧模型訓練晶片領域仍具主導地位，而推論則已成為新的競爭戰場。

★【理財達人秀】決戰封關 抱股?下車? 金銀大崩跌 掃錯殺黑馬 ★

OpenAI及其他公司在推論晶片市場尋求替代方案，對輝達在人工智慧領域的主導地位構成重大考驗，而此時雙方也正處於投資談判之中。

去年9月，輝達表示有意向OpenAI投資高達1,000億美元，該交易將使晶片製造商取得這家新創公司的股份，同時為OpenAI提供購買先進晶片所需的資金。《路透社》當時報導，該交易原預計數週內完成，然而談判卻拖延數月。

在此期間，OpenAI與超微（AMD）等公司達成協議，採購可與輝達競爭的圖形處理器（GPU）。不過，1名知情人士指出，OpenAI產品路線圖的轉變，也改變了其所需的運算資源種類，進而使與輝達的談判陷入僵局。

1月31日，輝達執行長黃仁勳淡化有關與OpenAI關係緊張的報導，稱相關說法「荒謬」，並表示輝達計畫對OpenAI進行大規模投資。輝達在聲明中表示：「客戶持續選擇NVIDIA用於推論，因為我們在大規模部署下提供最佳效能與總體擁有成本。」

OpenAI發言人則在另1份聲明中指出，公司在其推論算力部署中絕大多數仍依賴輝達，且輝達在推論運算方面提供最佳的性價比。

7名消息人士表示，OpenAI對於輝達硬體在處理某些特定問題時為ChatGPT使用者生成答案的速度並不滿意，例如軟體開發與人工智慧與其他軟體互動等場景。其中1名人士告訴《路透社》，OpenAI需要新硬體，未來可滿足其約10%的推論運算需求。

2名消息人士指出，ChatGPT開發商曾討論與新創公司Cerebras與Groq合作，為更快速的推論提供晶片。但其中1名人士表示，輝達與Groq達成了1項價值200億美元的技術授權協議，使OpenAI與Groq的談判告終。

晶片業高層指出，輝達迅速與Groq達成協議，似乎意在強化自身技術組合，以在快速變動的人工智慧產業中維持競爭力。輝達則表示，Groq的智慧財產權與其產品路線圖高度互補。

在全球人工智慧爆炸性成長的過程中，輝達的圖形處理晶片非常適合用於訓練像ChatGPT這類大型人工智慧模型所需的大規模數據運算。然而，人工智慧的發展重心正逐漸轉向利用已訓練完成的模型進行推論與推理，這可能是人工智慧的新一階段，也促使OpenAI積極布局。

自去年以來，OpenAI尋找GPU替代方案的重點在於那些在單一矽晶片上嵌入大量「靜態隨機存取記憶體」（SRAM）的公司。將盡可能多的昂貴SRAM壓縮至單一晶片，可為聊天機器人及其他人工智慧系統在處理數百萬用戶請求時帶來速度優勢。

推論所需記憶體往往高於訓練，因為晶片在推論過程中需要花更多時間從記憶體中提取資料，而非單純進行數學運算。輝達與超微的GPU技術依賴外部記憶體，這會增加處理時間並降低使用者與聊天機器人互動的速度。

其中1名消息人士補充，在OpenAI內部，這個問題在其程式碼生成產品Codex上尤為明顯。OpenAI近來積極行銷Codex，但部分員工將其弱點歸因於基於輝達GPU的硬體架構。

1月30日與記者的電話會議中，執行長奧特曼（Sam Altman）表示，使用OpenAI程式碼模型的客戶「會對編碼工作的速度給予高度溢價」。他補充，OpenAI近期與Cerebras達成的協議，正是滿足此需求的方式之一，但對於一般ChatGPT使用者而言，速度並非同樣迫切。

競爭產品如Anthropic PBC的「Claude」與Google的「Gemini」，則更多依賴Google自製晶片「張量處理單元」（Tensor Processing Units, TPUs）部署。TPU專為推論所需運算設計，相較於通用型人工智慧晶片（如輝達設計的GPU）可能具有效能優勢。

知情人士指出，當OpenAI表達對輝達技術的保留態度後，輝達曾接觸包括Cerebras與Groq在內、專攻高SRAM晶片的公司，討論潛在收購。不過Cerebras拒絕收購提議，並於上月宣布與OpenAI達成商業合作。

而Groq則曾與OpenAI洽談提供運算能力的協議，並吸引投資人有意以約140億美元估值為其募資。然而到了12月，消息人士表示，輝達以非獨家、全現金方式取得Groq技術授權。儘管該協議允許其他公司授權Groq技術，但在輝達挖角Groq晶片設計師後，Groq目前重心轉向銷售雲端軟體服務。

（封面示意圖／翻攝Pexels）

延伸閱讀

• 副縣長妻好神1／陳見賢夫婦涉焚化爐疑案　定案前精準持有台鎔高額股票
• 遭控試鞋亂丟、硬闖活動！網批「服務業殺手」　Melody回應了
• 原始連結