OpenAI砸百億美元衝AI基建 拚縮短語言模型反應時間

OpenAI已和新創公司Cerebras簽下協議,將採用這家新創的運算硬體,支持其快速擴張的AI基礎建設。(路透)

OpenAI和Cerebras Systems簽署了一項價值100億美元的多年協議,OpenAI將採用這家新創公司規模750千瓩(MW)的運算硬體,支持其快速擴張的人工智慧(AI)基礎建設。

根據14日發佈的聯合聲明,Cerebras將成爲OpenAI的運算供應商,以縮短執行AI模型時的反應時間。這項基礎建設預定2028年前分階段建置,由Cerebras負責代管。儘管雙方未透露具體條款,但知情人士透露,這筆交易規模超過100億美元。

對OpenAI而言,這項合約是其擴張運算能力的一環,但也反映了科技產業一場前所未有的豪賭,看好市場對極耗能源的AI工具需求將持續旺盛且毫無減退跡象。

去年9月,輝達曾宣佈將對OpenAI投資1,000億美元,用於建設AI基礎建設及電力容量至少達10 GW(百萬瓩)的新資料中心。隔月超微(AMD)也表示未來數年內,將爲OpenAI部署運算能力6 GW的GPU。OpenAI也正與博通共同開發自有晶片。

OpenAI共同創辦人兼總裁布羅克曼說:「這項合作將使ChatGPT不僅是功能最強大,也是全球反應最快的AI平臺」,這種速度將有助於開發「下一代應用案例,並帶領下一批十億用戶進入AI領域」。

據最新統計,在企業AI市場,OpenAI仍然最讓企業用戶着迷,且遠勝過Google和Anthropic等對手。Ramp分析逾5萬家公司在其平臺上每月在AI服務方面的付款活動,發現美國企業去年12月花在AI產品和服務方面的支出比率提升至46.6%,比11月增長1.6個百分點,爲自去年中來最大月比增幅。其中多數增長都受到OpenAI驅動。企業的OpenAI產品採納率上升2個百分點至36.8%,創紀錄新高,其他對手就算是Google也仍追不上OpenAI。

半導體新創Cerebras首創以大型晶片處理資訊的獨特技術,目前正尋求擴大普及這技術,挑戰市場領導者輝達(NVIDIA)。Cerebras也經營資料中心,用以展示元件效能並獲取經常性收入,其設計的晶片由臺積電代工。該公司能爭取到像OpenAI這樣的大客戶,便有機會分食目前投入AI運算基礎建設的鉅額資金。

Cerebras和OpenAI早自2017年便一直在探索合作的可能性,而Cerebras近日在支援OpenAI GPT-OSS-120B模型的表現上,運行速度比「傳統硬體」快了15倍。