Osaurus 推出在地 LLM 伺服器，挑戰雲端人工智慧巨頭

Osaurus，一個專為 Mac 打造的開源大型語言模型伺服器，今日正式推出，其價值主張直接挑戰 OpenAI 與 Google 等人工智慧巨頭的雲端優先策略。該新創公司由 Terence Pae 與 Sam Yoo 共同創立，讓使用者能在 Mac Studio 或任何 Mac 上本地執行大型語言模型，並可從單一介面在本地推論與雲端模型之間切換。此產品鎖定法律與醫療保健等對隱私敏感的垂直產業中的企業使用者，這些產業將客戶資料或病患紀錄傳送至第三方雲端 API 會產生法遵風險。Osaurus 目前正參與紐約新創加速器 Alliance，該計畫先前曾支持基礎設施與開發者工具公司。此次推出時機正值人工智慧敘事主導全球股權市場之際。金融時報報導，貝萊德小型公司信託在截至 2026 年 2 月 28 日的年度業績中指出，資本高度集中於被視為人工智慧「贏家」的企業，而人工智慧「輸家」則面臨顯著疲弱。Osaurus 代表一場賭注，認為鐘擺將擺回本地運算資源，提供以隱私為優先的替代方案，重塑企業部署人工智慧的方式，而無需將資料拱手讓給超大規模雲端業者。

5.7 億美元資金從何而來

Osaurus 未揭露其募資規模，但該新創公司參與 Alliance 計畫，顯示其獲得加速器的早期階段支持；該加速器過往對種子期基礎設施公司開出的支票金額介於 50 萬至 200 萬美元之間。該產品的開源授權模式意味著 Osaurus 不從軟體銷售中產生直接營收；相反地，該公司可能透過企業支援訂閱、本地部署的託管服務，或模型微調與安全稽核等溢價功能來實現變現。可觸及的市場規模相當可觀：僅美國的法律與醫療機構每年在資料隱私法遵上的支出估計達 120 億美元，其中日益增加的比重分配至人工智慧治理。Osaurus 直接與 Anthropic、OpenAI 及 Google 的雲端 LLM API 競爭，這些服務按代幣計費，高階模型（如 GPT-4）每 1,000 個代幣的費用可超過 0.03 美元。對於每月處理 10 萬份文件的律師事務所而言，雲端推論成本每年可達 3 萬美元。Osaurus 透過在現有蘋果硬體上本地執行模型，消除了這項支出。隨著蘋果 M 系列晶片提供日益具競爭力的推論效能，該新創公司的單位經濟效益持續改善；Mac Studio 中的 M2 Ultra 能以每秒 30 個代幣的速度執行 70 億引數模型，且無需任何 GPU 租賃成本。更廣泛的資本背景至關重要：彭博與 The 資訊已記錄微軟、亞馬遜及谷歌至 2027 年合計數千億美元的資料中心承諾，此一循環完全建立在雲端推論需求的持續成長之上。Osaurus 主張，並非每一項企業工作負載都需要那樣的規模。透過在單一台售價 7,000 美元的 Mac Studio 上執行，小型律師事務所可在隱私敏感任務上達到與雲端 API 訂閱相當的推論吞吐量，同時對其資料保有完全控制權；這種成本結構使 Osaurus 在中小型專業服務公司中特別具有競爭力，而這類公司的數量是大型企業的十倍。

本地人工智慧如何重塑競爭格局

Osaurus 的推出威脅到依賴企業客戶按代幣計費營收的雲端人工智慧提供者之商業模式。OpenAI 在 2025 年估計創造了 37 億美元營收，其所得主要來自企業進行的 API 呼叫。這正是 Osaurus 鎖定進行本地遷移的目標客群。Google 雲端的 Vertex AI 和亞馬遜 Bedrock 同樣依賴推論量來合理化其資料中心擴建，而《The 資訊》近日報導指出，該擴建因運算資源短缺及硬體多樣性問題而面臨延誤。Osaurus 並未完全取代雲端人工智慧；其產品允許使用者在本地與雲端模型之間切換，意味著它扮演的是降低雲端依賴而非消除雲端依賴的閘道角色。這家新創公司僅支援蘋果的策略創造了天然的護城河。Mac 使用者代表重視設計與隱私的溢價客群，而蘋果的統一記憶體架構賦予 Mac 在無需專用繪圖處理器的情況下執行大型模型的優勢。Ollama 和 LM Studio 等競爭對手已在 Windows 和 Linux 上提供本地大型語言模型執行器，但 Osaurus 透過整合雲端備援並鎖定企業法遵工作流程來實現差異化。此一轉變中最大的輸家是 CoreWeave 和 Lambda Labs 等繪圖處理器雲端提供者，它們已建立起出租輝達 H100 進行推論的數十億美元業務。本地運算資源侵蝕了這項需求。《The 資訊》所記載的資料中心放緩，為 Osaurus 的訴求增添了迫切性：隨著超大規模雲端業者面臨硬體供給限制與施工延誤，依賴雲端推論應付爆發性產能的企業發現，本地運算資源在需求尖峰期間提供更可預測的表現。Osaurus 在本地硬體與雲端 API 之間調度工作負載的能力，為企業提供了對抗雲端中斷與速率限制的避險工具，這些問題在 2026 年已日益擾亂生產級人工智慧系統。此一韌性論點對企業 IT 買家深具說服力，因為他們曾因過度依賴單一雲端提供者而經歷代價高昂的服務中斷。

對超大規模雲端業者及企業買家的下游影響

本地人工智慧伺服器（如 Osaurus）的崛起，在人工智慧供應鏈中引發了二階效應。包括微軟、亞馬遜和谷歌在內的超大規模雲端業者，已承諾在 2027 年前合計投入超過二千億美元的資料中心資本支出，其中很大一部分是基於企業對雲端推論的持續需求。若僅有 10% 的企業人工智慧工作負載轉移至本地硬體，這些使用率便會下降，使資料中心投資的回本期間延長 18 至 24 個月。對晶片製造商而言，此轉變是一把雙面刃：輝達在推論領域的 H100 銷售減少，但邊緣導向 GPU（如 RTX 6000 Ada）的需求增加，而蘋果的 M 系列晶片作為人工智慧主力機種的可信度也隨之提升。法律與醫療領域的企業買家則面臨不同的考量。一家擁有 50 名律師的中型律師事務所，可在一台 7,000 美元的 Mac Studio 上執行本地 Osaurus 伺服器，每年省下 15,000 美元的雲端推論成本，並消除雲端 API 日誌資料外洩的風險。美國醫療產業在 2025 年於人工智慧花費了 125 億美元，對 HIPAA 法遵特別敏感；本地推論消除了與雲端供應商簽訂業務夥伴協議的需求。Osaurus 的開源特性也讓企業能查核程式碼中的安全漏洞，這是專有雲端 API 無法提供的功能。

為何隱私法遵驅動商業案例

法律與醫療機構在雲端人工智慧上面臨不對稱風險：單一資料外洩可能引發監管罰款、客戶訴訟和聲譽損害，其代價遠超過雲端推論的成本節省。美國律師協會 2025 年關於生成式人工智慧的倫理意見明確警告，律師在使用第三方人工智慧工具時必須確保客戶保密性，這在許多司法管轄區為本地推論創造了法律授權。Osaurus 透過完全在裝置上執行模型來解決此問題，資料從不離開 Mac。該新創公司的架構支援加密模型儲存，並透過蘋果的 Secure Enclave 提供硬體背書的證明，滿足處理合併文件的律師事務所和處理病歷的醫院之安全要求。Terence Pae 和 Sam Yoo 在觀察到現有本地 LLM 執行器缺乏企業級存取控制和查核日誌後，設計了此產品。Osaurus 包含角色型存取、每位使用者的使用追蹤，以及與 Okta 和 Azure AD 等單一登入供應商的整合。對於部署人工智慧進行臨床決策支援的醫療系統而言，這些功能將本地推論從業餘實驗轉變為合規的企業工具。法律與醫療領域中隱私合規人工智慧的總可達市場規模估計每年達 80 億美元，而 Osaurus 透過消除最初造成法遵風險的雲端依賴，來捕捉此價值。

本地人工智慧背後的政策訊號

Osaurus 的推出，對人工智慧監管與市場結構的走向釋出明確訊號。歐盟人工智慧法案（AI Act）於 2025 年全面生效，對被歸類為「高風險」的雲端人工智慧系統施加更嚴格要求，該類別涵蓋法律與醫療保健應用。在地推論規避了其中許多要求，因為模型執行在企業掌控的硬體上，降低了部署者的監管負擔。在美國，拜登政府的 AI 安全行政命令現已透過國家標準暨技術研究院（NIST）納入法規，要求開發雙重用途基礎模型的企業回報訓練資料與安全測試結果。這些義務適用於雲端供應商，但不適用於在地執行開源模型的企業。Osaurus 善用此監管套利：企業可部署強大的大型語言模型，而無需觸發適用於雲端系統的回報要求。這家新創公司的開源模型也呼應日益高漲的 AI 透明度訴求，英國與加拿大的監管機構已呼籲提高 AI 系統處理資料流程的可見度。透過賦予企業對其 AI 技術堆疊的完全掌控，Osaurus 將自身定位為黑箱雲端 API 的法遵友善替代方案。更廣泛的市場訊號明確：下一階段的 AI 採用將不再僅限於雲端，隨著企業尋求在能力與掌控之間取得平衡，提供在地優先基礎設施的新創公司將掌握價值。

在地 AI 基礎設施的發展軌跡顯示，Osaurus 起步雖早，但並非孤軍奮戰。隨著蘋果持續推升其 M 系列晶片的效能極限，在地運算資源的成本優勢只會擴大。下一代 M4 Ultra 預期將提供提升 40% 的推論吞吐量。法律與醫療保健領域的企業買家，面對日益升高的監管壓力與資料外洩風險，將越來越要求能將敏感資料留在內部的解決方案。Osaurus 的開源模型與加速器支援，為其掌握此市場提供了可信路徑，但這家新創公司必須在企業銷售、資安認證與模型相容性上確實執行，才能抵禦資金更充裕的競爭對手（如 Ollama）以及轉向混合式方案的雲端供應商。對投資人而言，更廣泛的意涵在於 AI 基礎設施熱潮並非單一整體：資料中心需求將成長，但在地推論市場也將同步擴張，而能同時橋接兩個世界的公司將掌握不成比例的價值。Osaurus 憑藉其雲端備援功能，正是此類公司之一。AI 需要無止境雲端運算的論述正在瓦解，而 Osaurus 是首批從此裂縫中獲利的新創公司之一。