Skip to content
Back to Archive
AIAI 撰稿2 min readUpdated

Google 的 Gemini 3.5 Flash 目標節省 10 億美元,每日處理 1 兆個代幣

Google 在 I/O 大會上發表 Gemini 3.5 Flash,目標是每年節省 10 億美元成本,並每日處理 1 兆個代幣。該模型設計旨在兼具智慧、快速與低成本,並將轉移 80% 的工作負載。

Google 的 Gemini 3.5 Flash 目標節省 10 億美元,每日處理 1 兆個代幣

Google 在 I/O 開發者大會上發表 Gemini 3.5 Flash,執行長 Sundar Pichai 表示,該模型可將企業 80% 的工作負載轉移至新架構,每年節省超過 10 億美元。該模型每天在 Google 雲端上處理約 1 兆個代幣,Pichai 將此產品定位為更廣泛策略的核心,旨在讓人工智慧更強大且執行成本大幅降低。此消息發布之際,Google 預估 2026 年資本支出將達 1,800 億至 1,900 億美元,約為 2022 年 310 億美元的六倍,同時公司也推出第八代 TPU 產品線,包括用於訓練的 TPU 8o 與用於推論的 TPU 8i,採用雙晶片架構。公司亦發表 Gemini Omni(影片生成世界模型)與 Gemini Spark(全天候人工智慧代理)。這不僅是產品發表,更釋出訊號:Google 意圖將推論成本商品化,其規模將迫使從 OpenAI、Anthropic 到 Meta 等所有競爭對手重新思考定價與基礎設施策略。

架構效率驅動 10 億美元節省

一名講者站在舞台上,身旁大型螢幕顯示 Google I/O 2026 標誌與「Gemini Spark」字樣

Gemini 3.5 Flash 透過架構效率與大規模部署的結合實現成本優勢。Google 的 Pathways 系統現可將訓練分散至全球超過 100 萬顆 TPU,此能力讓公司能將固定成本攤銷於龐大的代幣量。Pichai 的演算法很直接:客戶若每天在 Google 雲端上執行約 1 兆個代幣,將其中 80% 的工作負載移至 Flash 及其他前沿模型,每年可節省超過 10 億美元。節省來自較低的每代幣推論成本、降低的延遲負擔,以及消除舊模型架構中多餘的運算資源循環。專為推論設計的 TPU 8i 在此扮演關鍵角色,其雙晶片架構提供比 Google 先前任何晶片更高的每瓦吞吐量,直接降低每次 API 呼叫的邊際成本。對於目前執行 GPT-4 或 Claude 3 等舊模型的企業而言,轉換至 Flash 代表單位經濟效益的階梯式改變。Google 實際上是在告訴市場:每 1K 代幣 0.15 美元的推論成本時代已結束,下一個前沿是以美分的小數來衡量。

Flash 的指標表現強化了成本論點。根據 Google 在 I/O 大會上發表的內部評估,在標準推理與編碼任務上,該模型以約五分之一每百萬代幣的價格,達到或超越 GPT-4o 的表現。壓縮並非來自削減功能,而是來自更精簡的注意力機制,以及對模型 3,000 億引數核心套用的更嚴格量化。VentureBeat 報導指出,Google 將 Flash 與前代 Gemini 2.0 Flash 進行指標比較,在相同的 TPU 8i 叢集上發現吞吐量提升 40%,這意味著既有客戶升級至 Flash,無需更改任何一行基礎設施程式碼即可獲得成本降低。最後這項細節至關重要:企業對人工智慧基礎設施的採購週期通常長達 12 至 18 個月,因此一個能直接替換、並提供 40% 更高吞吐量的升級,對任何已投入 Google 雲端的技術長而言,在投資報酬率的計算上都具有超乎比例的影響。

節省如何流經損益表

圖片顯示「Gemini 3.5」的標誌與文字,背景為柔和的淺藍色,暗示產品發布或公告

10 億美元這個數字並非理論上限;這是基於 Google 雲端最大客戶的工作負載型態所做的保守預估。對於一家每年在人工智慧推論上花費 12.5 億美元的公司而言,將其中 80% 的量轉移至 Flash,帳單將降至約 2.5 億美元,節省 10 億美元。這個差額直接流入企業的營業利益,但也重塑了 Google 自身的經濟模式。Google 在 2026 年 1,800 億至 1,900 億美元的資本支出,主要由 TPU 製造與資料中心建設所驅動。透過將 Flash 部署為預設推論引擎,Google 在每個 TPU 小時中提取更多營收,同時將價格維持在夠低的水平,以阻止客戶自行建置基礎設施。該模型也改變了新創公司(如近期與 xAI 合作取得產能的 Cursor)的決策考量。若 Flash 兌現其價格承諾,新創公司將面臨二選一的抉擇:接受 Google 的利潤率結構,或自行打造昂貴的客製化硬體。對 Google 而言,取捨相當明確。推論上較低的單位利潤率,由更高的量與更長的客戶鎖定效應所抵銷。Pathways 系統可將訓練分散至超過 100 萬顆 TPU,這也意味著 Google 能在離峰時段將閒置的訓練產能轉用於推論,進一步壓縮成本。光是這項產能重新調配,套用於全球超過 100 萬顆 TPU 的機隊,就代表一個成本槓桿,是任何純軟體競爭對手在缺乏相同硬體規模下無法比擬的。

競爭版圖重組:誰受益、誰受創

Gemini 3.5 Flash 直接對 OpenAI、Anthropic 與 Meta 構成壓力。OpenAI 向來專注於打造 GPT-5 這類巨型前沿模型,如今卻面臨一個以一個數量級的價差削價競爭、同時在標準基準測試上維持高水準表現的對手。Anthropic 定位為主打安全性的高階模型 Claude 3.5 Opus,若 Flash 在企業任務上交出可比擬的成績,將難以合理化其溢價。Meta 的開源 Llama 4 是許多開發者為避免供應商鎖定而採用的方案,若 Google 的封閉模型既更便宜又更強大,Llama 4 的吸引力將有所減損。該模型亦威脅到 OpenRouter 這類推論即服務平台,以及由 Anjney Midha 創立、讓較小企業得以取得運算資源的新創公司 Amp。若 Google 以接近成本的價格提供 Flash,那些對第三方模型加價轉售的中間商將面臨利潤率遭到壓縮。在贏家方面,Google 自身的生態系,包括 YouTube、Workspace 與 Google 雲端,將取得競爭對手若未自行打造 TPU 供應鏈便無法複製的專屬成本優勢。微軟的 Azure 依賴 OpenAI 模型與輝達 GPU,若缺乏類似的客製化晶片,將難以在價格上匹敵 Flash。亞馬遜 AWS 透過 Bedrock 提供 Anthropic 模型,同樣面臨結構性的劣勢。

對超大規模雲端業者、晶圓廠與企業買家的下游影響

最直接的下游影響落在輝達身上。Google 的 TPU 8o 與 TPU 8i 直接挑戰輝達 H100 與 B200 在訓練與推論領域的主導地位。若 Google 能以較低成本提供具競爭力的效能,微軟與亞馬遜等超大規模雲端業者將加速自身的客製化晶片計畫,包括微軟的 Maia 與亞馬遜的 Trainium,以避免受制於 Google 的定價。對同時為輝達 GPU 與 Google TPU 代工的台積電而言,就產量而言此一轉變屬中性,但就每片晶圓利潤率而言則為負面,因為 TPU 的複雜度低於 GPU。企業買家,尤其是金融與醫療等受監管產業的買家,將受惠於較低成本,但同時面臨對 Google 專屬技術堆疊的新依賴。該模型亦改變了資料中心營運商的決策邏輯。Google 1,800 億至 1,900 億美元的資本支出涵蓋大規模資料中心建設,而 SemiAnalysis 的 Jeremie Eliahou Ontiveros 已追蹤到新增產能的重大延遲。Flash 的效率降低了每個工作負載所需的晶片數量,這可能有助於緩解長期困擾產業的產能緊俏。對近期與 xAI 敲定產能協議的 Cursor 等新創公司而言,Flash 提供了可能比 GPU 現貨市場更便宜、更可靠的替代方案。

政策與策略訊號:Google 掌控人工智慧技術堆疊的企圖

Google 推出 Gemini 3.5 Flash 的策略,不僅是為了贏得模型戰爭,更在於掌控從矽晶片到應用層的完整人工智慧技術堆疊。TPU 8o 與 TPU 8i 結合 Pathways 系統及新模型,打造出競爭對手難以複製的垂直整合平台。這呼應了 Google 在搜尋與行動裝置領域的致勝策略——當時它掌控了作業系統、瀏覽器與廣告網路。該公司同時也在擴張地理版圖。新加坡近期與 Google 簽署國家級人工智慧合作協議,內容包括培訓政府研究人員使用代理式人工智慧工具,並與教育部合作。新加坡已承諾在五年期間(2025-2030 年)投入超過 10 億星幣於國家人工智慧戰略,而 Google 正將自身定位為主要基礎設施供應商。與此同時,OpenAI 承諾投入超過 3 億星幣(2.34 億美元),在美國以外設立首座人工智慧實驗室——OpenAI 新加坡應用人工智慧實驗室,預計僱用超過 200 名員工。兩家公司實際上正在瓜分全球人工智慧基礎設施市場,Google 聚焦於成本效率的推論運算,OpenAI 則專注於前沿研究。對監管機構傳達的訊息十分明確:人工智慧基礎設施是戰略性資產,而 Google 意圖掌握最具效率的層級。

未來 12 個月將考驗 Google 能否在不犧牲品質的前提下兌現成本承諾。若 Flash 能實現 Pichai 所描述的 10 億美元節省,將迫使所有主要人工智慧公司要么跟進價格,要么在能力上做出區隔。OpenAI 由 Sachin Katti 主導的 Stargate 建設計畫,以及 Anthropic 與亞馬遜的合作,顯示業界正押注於規模而非效率。但 Google 的雙晶片 TPU 架構與 Pathways 系統賦予其結構性成本優勢,競爭對手若無多年客製化晶片投資,難以複製。真正的問題在於,企業是否會將完整的人工智慧工作負載託付給 Google,還是會透過多雲端策略進行避險,從而稀釋節省效益。諸如 OpenRouter 等中介平台,以及由 Anjney Midha 創立的 Amp 等推論存取新創公司,若 Google 將 Flash 定價低於第三方轉售商可維持的成本底線,將直接面臨利潤率壓力。作為對照,SemiAnalysis 的 Jeremie Eliahou Ontiveros 追蹤到與促使 Cursor 達成 xAI 交易相同的產能瓶頸,而 Flash 的效率提升使每個工作負載所需晶片數量大幅減少,足以顯著地緩解該瓶頸。目前市場正密切關注 LMArena 排行榜與 OpenRouter 定價頁面,觀察 Flash 是否名副其實。若確實如此,人工智慧基礎設施熱潮將從競逐更多 GPU,轉變為競逐更便宜的代幣,而 Google 將主導此一節奏。

Share:XLinkedIn
每日簡報

BossBlog 每日快報

一封信講完當天的 AI 與市場重點——13F 機構持股的異動、國會議員申報的交易,以及有什麼變了。沒有固定的發送時間,也不寫廢話:有值得寄的內容才寄。

隨時可退訂。名單不會外流或販售。

Cite this article

Bossblog. (2026). Google 的 Gemini 3.5 Flash 目標節省 10 億美元,每日處理 1 兆個代幣. Bossblog. https://ai-bossblog.com/blog/2026-05-22-google-gemini-flash-savings-tokens

More in this section
AIApr 30, 2026
Google 授予五角大廈機密 Gemini 存取權限,950 名員工抗議

Google 簽署了一項協議,允許美國國防部在機密網路上使用其 Gemini 人工智慧,用於任何合法的政府目的,此舉引發 950 名員工內部反彈,稱此為道德違規。

AIApr 18, 2026
Google Gemini 自殺訴訟考驗人工智慧安全主張

一起針對 Google Gemini 聊天機器人與一名男子自殺的訴訟,將抽象的 AI 安全承諾轉化為對產品責任、防護措施與可接受風險的具體考驗。

AIJun 17, 2026
DeepSeek 完成創紀錄的 74 億美元融資輪,SpaceX-Google 人工智慧交易達 300 億美元

中國人工智慧實驗室 DeepSeek 完成 74 億美元募資輪,而 SpaceX 與 Google 的人工智慧基礎設施協議可望創造 300 億美元營收。