Google 在 I/O 開發者大會上發表 Gemini 3.5 Flash,執行長 Sundar Pichai 表示,該模型可將企業 80% 的工作負載轉移至新架構,每年節省超過 10 億美元。該模型每天在 Google 雲端上處理約 1 兆個代幣,Pichai 將此產品定位為更廣泛策略的核心,旨在讓人工智慧更強大且執行成本大幅降低。此消息發布之際,Google 預估 2026 年資本支出將達 1,800 億至 1,900 億美元,約為 2022 年 310 億美元的六倍,同時公司也推出第八代 TPU 產品線,包括用於訓練的 TPU 8o 與用於推論的 TPU 8i,採用雙晶片架構。公司亦發表 Gemini Omni(影片生成世界模型)與 Gemini Spark(全天候人工智慧代理)。這不僅是產品發表,更釋出訊號:Google 意圖將推論成本商品化,其規模將迫使從 OpenAI、Anthropic 到 Meta 等所有競爭對手重新思考定價與基礎設施策略。
架構效率驅動 10 億美元節省

Gemini 3.5 Flash 透過架構效率與大規模部署的結合實現成本優勢。Google 的 Pathways 系統現可將訓練分散至全球超過 100 萬顆 TPU,此能力讓公司能將固定成本攤銷於龐大的代幣量。Pichai 的演算法很直接:客戶若每天在 Google 雲端上執行約 1 兆個代幣,將其中 80% 的工作負載移至 Flash 及其他前沿模型,每年可節省超過 10 億美元。節省來自較低的每代幣推論成本、降低的延遲負擔,以及消除舊模型架構中多餘的運算資源循環。專為推論設計的 TPU 8i 在此扮演關鍵角色,其雙晶片架構提供比 Google 先前任何晶片更高的每瓦吞吐量,直接降低每次 API 呼叫的邊際成本。對於目前執行 GPT-4 或 Claude 3 等舊模型的企業而言,轉換至 Flash 代表單位經濟效益的階梯式改變。Google 實際上是在告訴市場:每 1K 代幣 0.15 美元的推論成本時代已結束,下一個前沿是以美分的小數來衡量。
Flash 的指標表現強化了成本論點。根據 Google 在 I/O 大會上發表的內部評估,在標準推理與編碼任務上,該模型以約五分之一每百萬代幣的價格,達到或超越 GPT-4o 的表現。壓縮並非來自削減功能,而是來自更精簡的注意力機制,以及對模型 3,000 億引數核心套用的更嚴格量化。VentureBeat 報導指出,Google 將 Flash 與前代 Gemini 2.0 Flash 進行指標比較,在相同的 TPU 8i 叢集上發現吞吐量提升 40%,這意味著既有客戶升級至 Flash,無需更改任何一行基礎設施程式碼即可獲得成本降低。最後這項細節至關重要:企業對人工智慧基礎設施的採購週期通常長達 12 至 18 個月,因此一個能直接替換、並提供 40% 更高吞吐量的升級,對任何已投入 Google 雲端的技術長而言,在投資報酬率的計算上都具有超乎比例的影響。
節省如何流經損益表

10 億美元這個數字並非理論上限;這是基於 Google 雲端最大客戶的工作負載型態所做的保守預估。對於一家每年在人工智慧推論上花費 12.5 億美元的公司而言,將其中 80% 的量轉移至 Flash,帳單將降至約 2.5 億美元,節省 10 億美元。這個差額直接流入企業的營業利益,但也重塑了 Google 自身的經濟模式。Google 在 2026 年 1,800 億至 1,900 億美元的資本支出,主要由 TPU 製造與資料中心建設所驅動。透過將 Flash 部署為預設推論引擎,Google 在每個 TPU 小時中提取更多營收,同時將價格維持在夠低的水平,以阻止客戶自行建置基礎設施。該模型也改變了新創公司(如近期與 xAI 合作取得產能的 Cursor)的決策考量。若 Flash 兌現其價格承諾,新創公司將面臨二選一的抉擇:接受 Google 的利潤率結構,或自行打造昂貴的客製化硬體。對 Google 而言,取捨相當明確。推論上較低的單位利潤率,由更高的量與更長的客戶鎖定效應所抵銷。Pathways 系統可將訓練分散至超過 100 萬顆 TPU,這也意味著 Google 能在離峰時段將閒置的訓練產能轉用於推論,進一步壓縮成本。光是這項產能重新調配,套用於全球超過 100 萬顆 TPU 的機隊,就代表一個成本槓桿,是任何純軟體競爭對手在缺乏相同硬體規模下無法比擬的。
競爭版圖重組:誰受益、誰受創
Gemini 3.5 Flash 直接對 OpenAI、Anthropic 與 Meta 構成壓力。OpenAI 向來專注於打造 GPT-5 這類巨型前沿模型,如今卻面臨一個以一個數量級的價差削價競爭、同時在標準基準測試上維持高水準表現的對手。Anthropic 定位為主打安全性的高階模型 Claude 3.5 Opus,若 Flash 在企業任務上交出可比擬的成績,將難以合理化其溢價。Meta 的開源 Llama 4 是許多開發者為避免供應商鎖定而採用的方案,若 Google 的封閉模型既更便宜又更強大,Llama 4 的吸引力將有所減損。該模型亦威脅到 OpenRouter 這類推論即服務平台,以及由 Anjney Midha 創立、讓較小企業得以取得運算資源的新創公司 Amp。若 Google 以接近成本的價格提供 Flash,那些對第三方模型加價轉售的中間商將面臨利潤率遭到壓縮。在贏家方面,Google 自身的生態系,包括 YouTube、Workspace 與 Google 雲端,將取得競爭對手若未自行打造 TPU 供應鏈便無法複製的專屬成本優勢。微軟的 Azure 依賴 OpenAI 模型與輝達 GPU,若缺乏類似的客製化晶片,將難以在價格上匹敵 Flash。亞馬遜 AWS 透過 Bedrock 提供 Anthropic 模型,同樣面臨結構性的劣勢。
對超大規模雲端業者、晶圓廠與企業買家的下游影響
最直接的下游影響落在輝達身上。Google 的 TPU 8o 與 TPU 8i 直接挑戰輝達 H100 與 B200 在訓練與推論領域的主導地位。若 Google 能以較低成本提供具競爭力的效能,微軟與亞馬遜等超大規模雲端業者將加速自身的客製化晶片計畫,包括微軟的 Maia 與亞馬遜的 Trainium,以避免受制於 Google 的定價。對同時為輝達 GPU 與 Google TPU 代工的台積電而言,就產量而言此一轉變屬中性,但就每片晶圓利潤率而言則為負面,因為 TPU 的複雜度低於 GPU。企業買家,尤其是金融與醫療等受監管產業的買家,將受惠於較低成本,但同時面臨對 Google 專屬技術堆疊的新依賴。該模型亦改變了資料中心營運商的決策邏輯。Google 1,800 億至 1,900 億美元的資本支出涵蓋大規模資料中心建設,而 SemiAnalysis 的 Jeremie Eliahou Ontiveros 已追蹤到新增產能的重大延遲。Flash 的效率降低了每個工作負載所需的晶片數量,這可能有助於緩解長期困擾產業的產能緊俏。對近期與 xAI 敲定產能協議的 Cursor 等新創公司而言,Flash 提供了可能比 GPU 現貨市場更便宜、更可靠的替代方案。
政策與策略訊號:Google 掌控人工智慧技術堆疊的企圖
Google 推出 Gemini 3.5 Flash 的策略,不僅是為了贏得模型戰爭,更在於掌控從矽晶片到應用層的完整人工智慧技術堆疊。TPU 8o 與 TPU 8i 結合 Pathways 系統及新模型,打造出競爭對手難以複製的垂直整合平台。這呼應了 Google 在搜尋與行動裝置領域的致勝策略——當時它掌控了作業系統、瀏覽器與廣告網路。該公司同時也在擴張地理版圖。新加坡近期與 Google 簽署國家級人工智慧合作協議,內容包括培訓政府研究人員使用代理式人工智慧工具,並與教育部合作。新加坡已承諾在五年期間(2025-2030 年)投入超過 10 億星幣於國家人工智慧戰略,而 Google 正將自身定位為主要基礎設施供應商。與此同時,OpenAI 承諾投入超過 3 億星幣(2.34 億美元),在美國以外設立首座人工智慧實驗室——OpenAI 新加坡應用人工智慧實驗室,預計僱用超過 200 名員工。兩家公司實際上正在瓜分全球人工智慧基礎設施市場,Google 聚焦於成本效率的推論運算,OpenAI 則專注於前沿研究。對監管機構傳達的訊息十分明確:人工智慧基礎設施是戰略性資產,而 Google 意圖掌握最具效率的層級。
未來 12 個月將考驗 Google 能否在不犧牲品質的前提下兌現成本承諾。若 Flash 能實現 Pichai 所描述的 10 億美元節省,將迫使所有主要人工智慧公司要么跟進價格,要么在能力上做出區隔。OpenAI 由 Sachin Katti 主導的 Stargate 建設計畫,以及 Anthropic 與亞馬遜的合作,顯示業界正押注於規模而非效率。但 Google 的雙晶片 TPU 架構與 Pathways 系統賦予其結構性成本優勢,競爭對手若無多年客製化晶片投資,難以複製。真正的問題在於,企業是否會將完整的人工智慧工作負載託付給 Google,還是會透過多雲端策略進行避險,從而稀釋節省效益。諸如 OpenRouter 等中介平台,以及由 Anjney Midha 創立的 Amp 等推論存取新創公司,若 Google 將 Flash 定價低於第三方轉售商可維持的成本底線,將直接面臨利潤率壓力。作為對照,SemiAnalysis 的 Jeremie Eliahou Ontiveros 追蹤到與促使 Cursor 達成 xAI 交易相同的產能瓶頸,而 Flash 的效率提升使每個工作負載所需晶片數量大幅減少,足以顯著地緩解該瓶頸。目前市場正密切關注 LMArena 排行榜與 OpenRouter 定價頁面,觀察 Flash 是否名副其實。若確實如此,人工智慧基礎設施熱潮將從競逐更多 GPU,轉變為競逐更便宜的代幣,而 Google 將主導此一節奏。
BossBlog 每日快報
一封信講完當天的 AI 與市場重點——13F 機構持股的異動、國會議員申報的交易,以及有什麼變了。沒有固定的發送時間,也不寫廢話:有值得寄的內容才寄。
隨時可退訂。名單不會外流或販售。