Skip to content
Back to Archive
CompaniesAI 撰稿2 min read

Tether 在 iPhone 16 上訓練 130 億引數的大型語言模型,推動人工智慧普及化

Tether 的 BitNet 微調架構能在 iPhone 16 上訓練 130 億引數的大型語言模型,推論速度比 CPU 快 8 倍。該架構適用於消費級 GPU 與手持裝置。

Tether 在 iPhone 16 上訓練 130 億引數的大型語言模型,推動人工智慧普及化

Tether 發布了一套針對微軟 BitNet b1.58 大型語言模型的微調架構,首次實現了在 iPhone 16 上訓練 130 億引數的模型。該架構以新穎的 Vulkan-based GPU 後端為核心,可在任何消費級 GPU 及手持裝置上執行,推論速度較 CPU 快達 8 倍。這與當前主流的人工智慧範式截然不同——傳統上,訓練大型語言模型需要數千顆專用加速器組成的叢集,成本動輒數千萬美元。Tether 的突破實質上瓦解了硬體進入門檻,讓擁有智慧型手機的開發者即可微調前沿規模的模型。此舉直接挑戰了以超大規模雲端業者為中心的 AI 開發模式——在該模式下,微軟、Google 及亞馬遜等公司掌控運算資源的取得管道。此舉亦正值華爾街重新評估 AI 價值創造的地理版圖之際:高盛正減持香港股票,轉向中國大陸 AI 硬體題材,而摩根士丹利則上調了中國指數至 2027 年第二季的目標價。Tether 的架構將競爭軸心從「誰擁有最大的 GPU 叢集」轉向「誰擁有最佳的邊緣部署策略」。

BitNet b1.58 如何將 130 億引數壓縮至手機上

此圖呈現深色、未來感的數位背景,帶有發光的青綠色線條形成類似電路的圖案,以及

核心技術創新在於 BitNet b1.58,這是一種 1.58 位元三元量化方案,最初由微軟開發,旨在縮減模型規模與功耗。Tether 的架構在此基礎上延伸,導入基於 Vulkan 的繪圖處理器後端,使微調得以直接在消費級硬體上進行,包括 iPhone 16 的 A18 晶片。傳統大型語言模型以 16 位元或 32 位元浮點數儲存引數,需耗用大量記憶體頻寬與運算資源。BitNet b1.58 僅以三種可能值(-1、0 或 1)來表示每個引數,相較於標準 16 位元模型,記憶體占用大幅縮減約 90%。此壓縮技術使 130 億引數的模型得以容納於 iPhone 16 的統一記憶體架構中,其上限為 8GB。Vulkan 後端至關重要,因其提供跨平台的繪圖處理器運算層,繞過蘋果 Metal API 的限制,使手機繪圖處理器得以處理微調所需的矩陣乘法。Tether 的實作亦包含自訂核心最佳化,確保訓練期間繪圖處理器的張量核心維持滿載,達成先前在行動硬體上無法實現的吞吐量。此架構支援 LoRA 風格的低秩適應,意即微調過程僅更新一小部分引數,進一步降低記憶體與運算資源需求。實務上,開發者可在數分鐘內將量化模型權過載入 iPhone 16 並啟動微調作業,而此流程先前需耗費數小時進行雲端實例配置與設定。生產級模型客製化的進入門檻實際上已降至零。

5.7 億美元運算資源節省的流向

多個大小不一的粉紅色與紅色對話氣泡漂浮在淺紫色背景上,形成動態視覺效果

Tether 的架構從根本上改寫了模型訓練的經濟學。使用傳統方法在雲端 GPU 實例上訓練一個 130 億引數的模型,以目前輝達 H100 叢集的現貨價格計算,每次執行成本約為 57 萬美元。Tether 的做法透過將訓練轉移到現有的消費級裝置,幾乎消除了所有這類成本。對於一家針對特定垂直領域(如醫療診斷或法律文件分析)微調模型的公司而言,邊際成本在裝置本身之外降至零。這直接反映在損益表上:先前每年編列 200 萬至 500 萬美元雲端 GPU 額度的企業,可將這筆資金轉向資料收購、模型評估或部署基礎設施。節省的成本會隨規模擴大而複利累積。一家避險基金每季針對自營交易資料執行 50 次微調迭代,光是運算資源成本每年就可節省約 2,850 萬美元。對 Tether 而言,這套架構創造了新的營收來源:該公司可透過企業支援合約、客製化核心授權,或針對其 Vulkan 後端的用量計費 API 來獲利。這套架構也削弱了超大規模雲端業者的綁定模式——雲端供應商對 GPU 存取收取溢價。摩根大通對一家中國消費類股因工業轉型而倍漲的分析,凸顯市場對能將人工智慧價值與雲端基礎設施支出脫鉤的公司的偏好。例如,一家中型製藥公司可將其每年 300 萬美元的雲端 GPU 預算全數轉向收購專有臨床試驗資料,直接提升藥物發現的模型準確度。

微軟、蘋果與消費級硬體重整

微軟的 BitNet b1.58 最初定位為高效推論的研究專案,而非訓練用途。Tether 的架構將其轉化為訓練平台,形成有利於微軟生態系、同時挑戰蘋果硬體護城河的競爭格局。微軟無需投資行動晶片,即為其模型架構取得新的通路。反觀蘋果,其旗艦裝置淪為通用型人工智慧訓練機器,隨著開發者與企業要求最新 A 系列晶片以進行在地微調,iPhone 換機週期可望加速。該架構亦對輝達構成壓力,因其繪圖處理器定價能力取決於雲端訓練市場的稀缺性。若微調工作負載有相當比例轉移至消費性裝置,輝達資料中心繪圖處理器的需求可能轉弱,尤其對貢獻大宗量的中階訓練任務而言。高盛偏好中國人工智慧硬體類股而非香港股票,反映類似論點:人工智慧的價值正從雲端基礎設施轉向邊緣晶片與裝置層級軟體。高通、聯發科與蘋果的晶片設計團隊,都將受惠於人工智慧訓練發生在手機、平板與筆電上的世界。該架構也為 Android 原始裝置製造商開啟以人工智慧訓練能力差異化的契機,可能打破蘋果在溢價行動運算領域的主導地位。開發者為零售連鎖店打造客服聊天機器人時,如今可在公司配發的 iPad 機隊上微調模型,完全繞過雲端成本並將客戶資料保留在本地。

對超大規模雲端業者資本支出與企業買家的下游影響

超大規模雲端業者——微軟、亞馬遜與谷歌——合計已承諾在 2027 年前投入超過 2,000 億美元的 AI 相關資本支出,此一規劃主要建立在訓練將持續集中於雲端資料中心的假設之上。Tether 的架構挑戰了這項假設,其透過在邊緣端實現分散式訓練。若僅有 10% 的微調工作負載轉移至消費性裝置,超大規模雲端業者將面臨 20 億美元的預期繪圖處理器使用率缺口,迫使他們削減資本支出或將產能轉用於推論。企業買家,尤其是金融與醫療等受監管產業的業者,將獲得一個強而有力的新選擇:他們可以利用既有硬體在企業內部進行模型微調,避免資料主權風險與雲端出口費用。例如,一家銀行若以客戶交易資料訓練詐欺偵測模型,如今可完全在員工的 iPhone 上完成,無需將敏感資料傳送至雲端供應商。摩根士丹利對 2027 年第二季中國指數的樂觀目標顯示,市場正為此類結構性轉變定價。該架構亦對雲端繪圖處理器轉售商與即時市場供應商構成壓力,其利潤率依賴於訓練運算資源的持續需求。對台積電等晶片供應商而言,此轉變屬中性至正面:更多裝置執行 AI 訓練意味著更多先進製程晶片售出,即便產品組合從 H100 級繪圖處理器轉向 A18 級行動處理器。一家受 GDPR 規範的歐洲保險公司如今可在員工筆電上微調理賠處理模型,消除將保戶資料傳輸至美國雲端供應商的法律風險。

Tether 此舉對 AI 市場下一階段的訊號意義

Tether 的架構釋出策略性訊號,顯示人工智慧產業正進入硬體民主化階段,呼應 1980 年代的個人電腦革命。正如個人電腦打破 IBM 大型主機的獨占地位,Tether 的架構也打破超大規模雲端業者對 AI 訓練的獨占。此時間點與更廣泛的市場輪動一致:高盛正減碼港股、加碼中國大陸 AI 硬體題材,押注下一波價值創造來自晶片與裝置,而非雲端服務。摩根士丹利對中國指數至 2027 年第二季的目標價上調,強化了 AI 供應鏈正轉向消費級硬體的看法。Tether 選擇建構於微軟的 BitNet 架構而非專有模型,同樣具指標意義:這顯示公司將其競爭優勢定位於訓練基礎設施層,而非模型權重。這使 Tether 定位為「AI 訓練的 Android」——一個可在任何硬體上執行的開放平台,不屬於任何單一供應商。該架構的 Vulkan 後端尤其具策略性,因為 Vulkan 是由 Khronos Group 控制的開放標準,而非蘋果或輝達。透過建構於 Vulkan,Tether 得以隔離平台風險,並確保其架構在 iOS、Android、Windows 與 Linux 裝置上一致運作。這種跨平台可攜性至關重要:一次編譯的訓練工作負載,即可在混合企業裝置群上執行,無需針對特定供應商進行優化。對市場傳達的訊息明確:AI 訓練作為集中化、資本密集活動的時代正在結束,而 AI 訓練作為普及化、裝置層級能力的時代正在展開。

該架構的發布將加速科技產業在資本與人才配置上的結構性轉變。隨著投資人意識到硬體瓶頸正在消解,針對雲端繪圖處理器新創的創投資金可能收縮。企業軟體公司將圍繞邊緣訓練重建其人工智慧技術堆疊,為模型發布、版本控制與裝置編排開創新的中介軟體類別。歐洲與美國的監管機構本已在審視超大規模雲端業者的市場影響力,如今 Tether 的示範——人工智慧訓練不再需要主導型雲端供應商——將為他們提供新的著力點。最直接的受益者是消費者和小型開發者,他們無需訂閱雲端服務即可取得前沿人工智慧能力。曝險最深的是那些資本支出計畫假設訓練需求持續成長的超大規模雲端業者。對裝置代工廠而言,計算邏輯已然轉變:記憶體頻寬與神經處理單元吞吐量成為旗艦硬體的主要競爭軸線,將升級週期的敘事壓縮至人工智慧效能,而非相機畫素。圍繞低功耗矩陣乘法矽晶片布局的零元件供應商,可望承接先前歸於雲端繪圖處理器供應商的利潤率。Tether 不只是發布了一套架構;它已在舊人工智慧經濟與新人工智慧經濟之間畫下一道界線。

Share:XLinkedIn
每日簡報

BossBlog 每日快報

一封信講完當天的 AI 與市場重點——13F 機構持股的異動、國會議員申報的交易,以及有什麼變了。沒有固定的發送時間,也不寫廢話:有值得寄的內容才寄。

隨時可退訂。名單不會外流或販售。

Cite this article

Bossblog. (2026). Tether 在 iPhone 16 上訓練 130 億引數的大型語言模型,推動人工智慧普及化. Bossblog. https://ai-bossblog.com/blog/2026-06-17-tether-bitnet-llm-iphone-training

More in this section
CompaniesJun 15, 2026
Tether 在 iPhone 16 上微調 130 億引數大型語言模型,邊緣人工智慧取得突破

Tether 全新的微調架構讓微軟的 BitNet b1.58 13B 引數大型語言模型得以在 iPhone 16 等消費性裝置上執行與訓練,並在 GPU 上實現 8 倍更快的推論速度。

CryptoMay 17, 2026
摩根大通:新美國穩定幣規則下,Tether 可能出售比特幣

摩根大通預測,Tether 可能需要出售比特幣,以符合美國潛在的穩定幣立法要求,因美國證券交易委員會(SEC)與美國商品期貨交易委員會(CFTC)正就監管框架進行討論。

MarketsMay 1, 2026
蘋果第二季營收 1,112 億美元優於預期,iPhone 銷售未達標;宣布 1,000 億美元庫藏股

蘋果公布 2026 會計年度第二季營收 1,112 億美元,年增 17%,優於市場預期。iPhone 銷售額 569.9 億美元,略低於預估;服務業務則創下 309.8 億美元紀錄。董事會核准 1,000 億美元庫藏股計畫。