CoreWeave 在獨立指標機構 Artificial Analysis 的評測中,於推論速度與價格效能表現拿下第一名,在 Moonshot AI 的 Kimi K2.6 模型上擊敗 11 家推論服務供應商。這家雲端業者以最具成本效益的效能,交出最高的輸出速度,此一結果使其在人工智慧推論市場中,成為既有超大規模雲端業者的強勁挑戰者。該指標測試涵蓋記憶體架構、執行時期與互連的全面優化。這些正是 CoreWeave 自成立以來重金投入的領域,其前身為加密貨幣挖礦業者,後轉型為輝達繪圖處理器(GPU)專業廠商。這項勝利之所以重要,是因為隨著模型部署從訓練階段轉向大規模生產應用,人工智慧推論市場正成為雲端營收的主要戰場。與此同時,人工智慧實驗室正急於從企業客戶身上創造穩定營收,以稀缺的技術人才為號召,派遣工程師進駐客戶端打造客製化人工智慧工具。CoreWeave 的指標結果穿透了這些雜音:它證明純粹的基礎設施效能仍是人工智慧工作負載價值最清晰的訊號,讓客戶有客觀依據選擇供應商,而非依賴關係導向的業務攻勢。
全面優化驅動指標勝出
Artificial Analysis 的指標測試在 Moonshot AI 的 Kimi K2.6 模型上評比 11 家推論服務供應商,該大型語言模型需要大量運算資源以進行即時推論。CoreWeave 拿下第一名,來自其全面優化策略,涵蓋記憶體架構、執行時期效率與互連速度。不同於執行通用基礎設施的超大規模雲端業者,CoreWeave 專為人工智慧工作負載打造雲端服務。該公司將此策略定位為「人工智慧專屬雲端」。其基礎設施完全建構於輝達 GPU 之上,搭配客製化網路與儲存層,旨在將延遲降至最低並將吞吐量最大化。指標結果顯示,CoreWeave 的專業化路線帶來可量化的優勢:更高的輸出速度意味著終端使用者取得首個代幣的時間更短,而更佳的價格效能則直接降低人工智慧實驗室與部署模型的企業每次查詢的成本。這項勝利驗證了 CoreWeave 的核心論點:專為人工智慧打造的基礎設施,在推論工作負載最關鍵的指標上,優於通用雲端服務。例如,CoreWeave 在客製化網路架構上的投資,減少了通用資料中心在處理大型模型推論請求時常見的資料傳輸瓶頸。
推論工作負載帶動營收成長
CoreWeave 的指標級勝出直接轉化為營收成長,透過吸引來自人工智慧實驗室與企業的高利潤率推論工作負載。隨著該公司對保證效能收取溢價,其定價能力隨之提升,同時其成本結構也因繪圖處理器叢集使用率提高而受惠。Kimi K2.6 的開發商 Moonshot AI 如今是參考客戶,將帶動其他尋求類似效能的人工智慧實驗室帶來更多業務。一項經驗證的指標結果比任何業務團隊更具說服力,因為它為人工智慧優先企業的採購團隊提供了可辯護、可稽核的理由,使其選擇 CoreWeave 而非名義上機架費率較低、但吞吐量數字無法匹敵的超大規模雲端業者。推論市場正快速擴張,隨著模型從訓練邁向生產,每次查詢都產生經常性營收。CoreWeave 的成本效率優勢使其在價格上低於超大規模雲端業者,同時維持利潤率,此一動態迫使亞馬遜網路服務與微軟 Azure 等競爭對手投入更多於專業人工智慧基礎設施。該公司的資本結構也在演變:其近期獲得包括黑石集團、高盛與 Hellman & Friedman 在內投資人的大力支持,這些投資人向與 Anthropic 合組的新實體注資 15 億美元。這筆資金將支應 CoreWeave 資料中心版圖與繪圖處理器採購的進一步擴張,直接支持締造指標勝出的基礎設施。該公司目前在全球營運超過 30 座資料中心,並計劃在未來 18 個月內利用新資金將數量倍增。
人工智慧雲端的競爭重組
CoreWeave 的指標性勝出重塑了競爭格局,證明專業人工智慧雲端業者在推論表現上優於超大規模雲端業者。此結果對亞馬遜網路服務、微軟 Azure 及 Google 雲端形成壓力,迫使它們必須證明自身在人工智慧工作負載上具備同等效能,否則推論業務恐流失給專業業者。輝達直接受惠於 CoreWeave 的成功,因為該指標驗證了其繪圖處理器架構的效能,並強化以輝達為核心的雲端基礎設施之說服力。其他排名在 CoreWeave 之後的推論業者,包括 Anthropic、Mistral 及 Cohere 所營運者,如今除非能追上 CoreWeave 的全端優化,否則將處於競爭劣勢。此勝出也為人工智慧實驗室創造了新的動態:它們現在必須在自建推論基礎設施、與超大規模雲端業者合作,或採用 CoreWeave 這類專業業者之間做出選擇。Moonshot AI 決定在 CoreWeave 上執行 Kimi K2.6,顯示即使是資金充裕的人工智慧實驗室,也認同將推論外包給效能更優的業者有其價值。隨著更多模型進入生產階段,且推論成本占人工智慧總支出的比重持續攀升,此趨勢將加速發展。客戶已展現對彈性、多模型策略的偏好,而非鎖定單一人工智慧實驗室的技術堆疊。CoreWeave 因其中立於模型的特性而受惠於此偏好:其基礎設施今日服務 Kimi K2.6,明日可服務任何其他模型,讓企業買家獲得所需的選擇彈性,而無須被迫進入封閉生態系。
對超大規模雲端業者及供應鏈的下游影響
CoreWeave 的指標級勝出對人工智慧供應鏈產生連鎖效應,首當其衝的是超大規模雲端業者。亞馬遜、微軟與 Google 如今必須更積極投資於專業化人工智慧基礎設施,否則恐將推論市占率拱手讓給 CoreWeave 及其他專業業者。這股資本支出壓力將帶動輝達 GPU 採購增加,有利於輝達的資料中心營收。此指標同時凸顯記憶體架構與互連頻寬的重要性,這將影響超大規模雲端業者如何設計其次世代資料中心。對企業買家而言,這項結果意味著他們如今以標準化指標而非行銷話術來評估推論供應商,進而促成更理性的採購決策。關注人工智慧基礎設施市場的監管機構將注意到競爭正在加劇,這降低了反托拉斯干預的必要性。人工智慧資料中心的用水問題——此一日益受關注的隱憂經《The 資訊》報導而受到矚目——隨著推論工作負載規模擴大而更加嚴峻,但 CoreWeave 的效率提升透過減少每次查詢所需的能源與冷卻需求而緩解此問題。該公司的專業化基礎設施得以實現更高效的冷卻方案,因其資料中心專為 GPU 叢集設計,而非通用型運算。CoreWeave 的資料中心採用直接對晶片液體冷卻,較超大規模雲端業者設施常見的蒸發式冷卻系統消耗更少用水。人工智慧實驗室亦需針對訓練與執行模型量身打造程式碼,而 CoreWeave 的全端掌控使其在軟體堆疊每一層的最佳化上具備顯著優勢,從執行時期排程到記憶體頻寬管理皆然。
CoreWeave 勝出的政策與策略訊號
CoreWeave 的指標級勝利,對人工智慧雲端市場的走向發出明確訊號:專業化正勝過通用化。此結果驗證了專為人工智慧工作負載打造基礎設施的策略,而非重新改造通用型雲端服務。這對人工智慧實驗室與企業未來數年如何分配基礎設施預算,具有深遠意涵。與此同時,人工智慧實驗室正透過進軍顧問服務,將稀缺的工程師派駐企業客戶端,打造客製化人工智慧工具,以追求平行的營收策略。收購型私募基金則受惠於引導旗下投資組合公司參與此類安排,同時賺取顧問費及隨之而來的基礎設施支出。此勝出也強化了人工智慧實驗室與基礎設施供應商建立策略夥伴關係的趨勢,一如 Anthropic 與黑石、高盛及 Hellman & Friedman 達成的 15 億美元協議,以及 OpenAI 與布魯克菲爾德、TPG 在內 19 家投資人簽訂的 40 億美元安排。這些夥伴關係讓人工智慧實驗室取得專屬運算資源產能,同時為基礎設施供應商帶來有保障的需求。CoreWeave 的指標級表現,將使其成為未來交易更具吸引力的合作夥伴,可能吸引有意引導投資組合公司採用高效能人工智慧基礎設施的收購型私募基金注資。更廣泛的策略訊號在於,人工智慧雲端市場正分化為多個層級:超大規模雲端業者服務通用型工作負載,CoreWeave 這類專業廠商專攻高效能推論,而長尾的小型供應商則鎖定利基應用。此一分化將驅動基礎設施設計與定價模式的創新,最終透過更低的成本與更佳的效能嘉惠終端使用者。
這項指標勝出,使 CoreWeave 得以在人工智慧模型於各產業遍地開花之際,搶佔推論市場日益擴大的市占率。此結果也重新定義了人工智慧雲端經濟學的討論方向:每美元效能如今已成為可衡量、可比較的指標,而非模糊的行銷說詞;此一轉變有利於具深厚技術差異化的供應商,而非僅靠品牌規模取勝者。Moonshot AI 的 Kimi K2.6 只是單一模型,但推動 CoreWeave 拿下第一名的優化技術,可應用於業界其他大型語言模型,形成可規模化且持久的競爭優勢。該公司下一個挑戰,將是在超大規模雲端業者大舉投資專用人工智慧基礎設施、且輝達與競爭對手的新一代繪圖處理器架構改變效能版圖之際,維持這項效能領先優勢。CoreWeave 與輝達的關係使其能優先取得次世代硬體,這項策略優勢有助於其持續領先。該公司還必須應對人工智慧基礎設施高度資本密集的特性,在積極擴張與可信的獲利路徑之間審慎取得平衡。黑石集團與高盛等投資人押注 CoreWeave 的專業化路線能創造優異報酬,而這項指標勝出為此論點提供了初步驗證。就整體人工智慧生態系而言,此結果證明效能與成本效率才是人工智慧雲端競爭的真正差異化因素,而非品牌知名度或生態系綁定。對一個需要競爭以壓低成本、加速採用的市場來說,這是健康的發展。Artificial Analysis 等獨立指標機構如今扮演雲端品質實質監管者的角色,為買方提供供應商主導的行銷永遠無法提供的透明度,並建立問責機制,迫使每家推論供應商縮小效能差距,否則就會把生意拱手讓給做到的人。
BossBlog 每日快報
一封信講完當天的 AI 與市場重點——13F 機構持股的異動、國會議員申報的交易,以及有什麼變了。沒有固定的發送時間,也不寫廢話:有值得寄的內容才寄。
隨時可退訂。名單不會外流或販售。
