CoreWeave,這家於 2025 年 3 月在那斯達克以程式碼 CRWV 上市的雲端供應商,今日推出 Sandboxes,這是一個執行層,旨在為強化學習、代理工具使用及模型評估提供安全、隔離的環境。該產品可透過 CoreWeave Kubernetes Service(CKS)在叢集內使用,或透過 Weights & Biases(W&B)以無伺服器方式提供,執行於客戶的 CKS 叢集中,鎖定代理式人工智慧工作負載對規模、簡潔性與控制力日益增長的需求。此次發布之際,整體人工智慧基礎設施市場正經歷結構性轉變,從僅使用繪圖處理器的部署,轉向整合 CPU、記憶體與編排層的異質架構。Meta 與超微簽訂的 600 億美元協議,涵蓋五年內 6 百萬瓩(6 gigawatts)的晶片供應,加上 Cerebras Systems 獲得 OpenAI 對推論運算產能的 200 億美元承諾,均凸顯單一繪圖處理器叢集的時代正讓位給更多元化的運算資源堆疊。代理式人工智慧系統具備規劃、執行多步驟任務及與外部工具互動的能力,需要根本不同的基礎設施組合,其中 CPU 負責編排與記憶體管理,而繪圖處理器專注於重度運算。這就是當下重要的關鍵:下一個週期的基礎設施贏家,將是能滿足這種異質需求的業者,而非僅是銷售最多繪圖處理器的公司。
5.7 億美元新增運算產能流向何處

CoreWeave Sandboxes 解決了代理式人工智慧開發中的一個特定瓶頸:需要安全、可重現的環境,讓代理程式得以執行工具呼叫、執行強化學習迴圈,並進行模型評估,同時不損及底層基礎設施。該產品在客戶既有的 CKS 叢集中執行,意味著資料與運算資源維持在同一網路邊界內,消除了在不同隔離環境間往返搬運工作負載所帶來的延遲與安全疑慮。此架構對於部署與專有資料庫、內部 API 或敏感客戶資料互動之代理程式的企業而言至關重要。Sandboxes 層負責編排這些臨時環境,在代理程式完成任務時動態啟動與關閉,並與 W&B 整合以進行實驗追蹤與模型評估。對 CoreWeave 而言,此產品代表其從純繪圖處理器租賃向上游移動,邁向利潤率更高的軟體服務。該公司以 2025 年 3 月那斯達克掛牌為標誌的營收軌跡,將取決於其在原始運算資源之外掌握更多價值鏈的能力。Sandboxes 將 CoreWeave 定位為代理式人工智慧工作流程的平台供應商,而不只是 AWS 提供輝達繪圖處理器的廉價替代方案。該產品鎖定已建置代理式人工智慧原型、但缺乏大規模安全執行基礎設施的企業。CoreWeave 估計,與在隔離沙盒環境間往返搬運工作負載相比,早期採用者已將代理程式執行時間縮短 40%。
600 億美元超微交易如何重塑 Meta 的基礎設施算計

Meta 與超微達成的 600 億美元協議,涵蓋五年內 6 吉瓦的晶片採購,是迄今為止最明確的訊號,顯示超大規模雲端業者正逐步分散對輝達的依賴。這份合約相當於超微同期總產能的 10%,並凸顯 Meta 的押注:代理式人工智慧工作負載所需的運算資源組合,不同於用於大型語言模型訓練的 GPU 密集型叢集。Meta 已使用「數千萬顆」AWS Graviton CPU 進行推論與編排任務,而超微協議為其基礎設施堆疊新增第二家 CPU 供應商。此一轉變由代理式 AI 的經濟效益驅動:較小、較便宜的模型搭配編排層,可在特定任務上達到較大模型的效能,從而減少對昂貴 GPU 運算週期的需求。對超微而言,這筆交易驗證了其鎖定推論與 CPU 密集型工作負載的策略,而非在訓練領域與輝達正面交鋒。對輝達而言,這顯示 GPU 獨占地位正被侵蝕,至少在 AI 堆疊的某些區段如此。600 億美元這個數字不僅是採購金額,更代表資本從 GPU 為核心的基礎設施,結構性重新配置至 CPU 為核心的基礎設施。Meta 的基礎設施團隊已公開表示,代理式 AI 工作負載目前占其總運算產能的 35%,高於一年前的 12%,這強化了超微協議的迫切性。
Cerebras 千億美元 IPO 與專業晶片論述
Cerebras Systems 在那斯達克的 IPO 以每股 350 美元開盤,幾乎是 185 美元 IPO 價格的兩倍,使公司市值突破 1,000 億美元。該公司公布 2025 年營收為 5.1 億美元,成長 76%,但毛利率從 2024 年的 42.3% 下滑至 39%,反映其晶圓級 CS-2 晶片規模化的成本。Cerebras 成長故事的核心是其與 OpenAI 的協議:承諾採購 750 百萬瓦的推論運算產能,價值超過 200 億美元,並附帶額外 1.25 吉瓦的選擇權,使潛在總交易規模達 2 吉瓦。這筆交易驗證了專業 AI 晶片能在推論工作負載中與輝達 GPU 競爭的論述,因為晶圓級架構在記憶體頻寬與延遲方面具備優勢。Cerebras 執行長 Choi 與 Hock 將公司定位為下一代 AI 應用(尤其是需要低延遲推論以進行即時決策的代理式系統)的基礎設施供應商。1,000 億美元的估值雖然相對於當前營收偏高,反映投資人相信推論市場的總可支出規模將遠超過訓練。然而,Cerebras 的毛利率壓縮是一個警訊:規模化專業硬體屬資本密集型,公司需達到顯著規模才能恢復獲利能力。該公司預測 2026 年營收為 12 億美元,意味光是 OpenAI 協議就將貢獻其中超過半數。
超大規模雲端業者、記憶體與企業買家的下游影響
轉向異質人工智慧基礎設施,會在整個供應鏈中產生二階效應。對於亞馬遜網路服務(AWS)等超大規模雲端業者而言,Meta 採用「數千萬顆」Graviton 處理器,驗證了為推論與編排工作負載打造客製化 ARM 架構處理器的策略。AWS 如今擁有參考客戶,證明 Graviton 在代理式人工智慧工作負載上的可行性,這可能帶動更廣泛的企業採用。對於美光(Micron)等記憶體製造商而言,此一轉變是順風:代理式人工智慧系統因須在多步驟任務與工具互動之間維持脈絡,每個運算單元所需的記憶體更多。CPU 與繪圖處理器(GPU)的組合比重轉變,提高了對高頻寬記憶體(HBM)與 DDR5 的需求,因為負責編排的 CPU 需要快速存取大型資料集。對於企業買家而言,人工智慧基礎設施堆疊的多元化意味著更多選擇與潛在更低的成本。較小、較便宜的模型搭配編排層,可在特定任務上比肩較大的模型,降低無力租用整組 GPU 叢集之企業的進入門檻。風險在於,管理橫跨 CPU、GPU、專用晶片與編排層的異質基礎設施,其複雜度會衍生出一系列新的營運挑戰,唯有規模最大的企業才能有效應對。美光已宣布擴充 150 億美元的 HBM 產能,並將代理式人工智慧的轉變列為主要需求驅動力。網路裝置供應商同樣受惠:隨著運算叢集日益異質化,CPU 節點、GPU 節點與專用加速器之間的互連必須處理更高且更多樣化的流量型態,進而創造對可程式化高速網路的新需求。博通(Broadcom)與邁威爾(Marvell)等供應超大規模雲端業者客製化 ASIC 的公司,已在此領域看到更多設計贏單。此一轉變也為軟體供應商開啟機會之窗。編排中介層、代理生命週期管理與多叢集排程工具等新興類別尚無主導廠商,使得未來 12 個月成為新創與既有基礎設施軟體公司爭奪編排層經常性營收的圈地良機。
基礎設施轉變對市場方向的訊號意義
CoreWeave Sandboxes、Meta 與超微的合作案,以及 Cerebras 與 OpenAI 的協議同時浮現,顯示人工智慧基礎設施市場正從單一供應商的 GPU 獨佔生態系,邁向多架構並存的新局面。市場將這些動作解讀為對代理式 AI 將帶動下一波需求的押注,而這波需求將比過去兩年以訓練為主的基礎設施更加多元。對投資人而言,訊號十分明確:下一個循環的贏家將是能服務多種運算資源架構的公司,而非僅在單一架構中居主導地位的業者。CoreWeave 跨入編排軟體、Meta 的 CPU 多元化布局,以及 Cerebras 專攻推論的晶片,全都指向同一方向——人工智慧基礎設施堆疊正變得更加分層、更加複雜、也更加競爭。監管意涵同樣重大:隨著市場多元化,人工智慧基礎設施單點失效的風險降低,這也減少了對輝達採取反托拉斯行動的迫切性。Cerebras 高達一千億美元的估值,以及超微六百億美元的交易案,顯示市場正在定價一個未來,其中沒有任何單一公司在任何特定區塊掌握超過四成的市占率。
未來 18 個月人工智慧基礎設施的發展軌跡,將由專業化與商品化之間的拉鋸所定義。CoreWeave Sandboxes 代表專業化的路線:一個專為代理式 AI 打造的執行層,以安全性與整合能力作為差異化優勢。Meta 與超微的合作案,以及 Cerebras 與 OpenAI 的合約,則代表商品化的路線:提供輝達以外的替代方案,承諾更低的成本與更高的彈性。市場最終將決定哪條策略勝出,但初步證據顯示兩者可以並存。Cerebras 一千億美元的估值與超微六百億美元的交易案,押注的是人工智慧基礎設施市場規模足以支撐多位贏家,各自服務運算資源堆疊中的不同區塊。風險在於市場高估了從純 GPU 走向異質基礎設施的轉變速度,若代理式 AI 採用速度放緩,CoreWeave 與 Cerebras 這類公司可能面臨產能過剩。但就目前而言,動能十分明確:GPU 獨佔的時代正在結束,異質人工智慧基礎設施的時代正在展開。無論是透過硬體多元化、軟體編排或雲端服務,及早布局以支援多架構堆疊的公司,將在代理式 AI 工作負載規模擴張時,累積出結構性的競爭優勢。CoreWeave、超微與 Cerebras 各自對價值將在何處累積,下了不同的賭注。未來 24 個月將決定市場究竟是獎勵專業化、規模,還是兩者兼備的能力。
BossBlog 每日快報
一封信講完當天的 AI 與市場重點——13F 機構持股的異動、國會議員申報的交易,以及有什麼變了。沒有固定的發送時間,也不寫廢話:有值得寄的內容才寄。
隨時可退訂。名單不會外流或販售。