眾人憂心人工智慧最新模型成為駭客夢寐以求的攻擊利器——Anthropic 的 Mythos 讓精密攻擊成為可能

頂尖人工智慧與政府官員已向 Axios 透露，Anthropic、OpenAI 及其他 AI 公司正準備發布具備先進能力的新 AI 模型，能夠大規模駭入複雜系統。這些揭露標誌著外界對先進 AI 系統雙重用途風險的擔憂顯著升溫。

Anthropic 已私下警告頂尖政府官員，其尚未發布的 Mythos 模型可能促成前所未有精密程度的大規模網路攻擊。該公司採取罕見步驟，主動向當局警示自家模型的潛在危險，代表業界首例。

這項揭露凸顯 AI 公司推動模型能力邊界與政府官員尋求防止相同能力落入惡意人士手中之間的緊張關係日益加劇。Anthropic 決定向當局示警，顯示業界對安全影響給予高度重視。

Mythos 模型代表新一代 AI 系統，模糊了理論能力與實際武器化之間的界線。與早期需要大量人類專業知識才能導向惡意用途的模型不同，這些較新系統可能自動化複雜網路行動的各個層面。

政府回應

聯邦機構在揭露後已開始與 AI 公司進行緊急諮商。國土安全部與聯邦調查局均已獲簡報，了解即將推出的 AI 模型能力及其對國家安全的潛在影響。

國會幕僚已要求就威脅評估進行額外簡報。兩黨議員均對現有 AI 安全風險管理架構的充分性表達關切。

白宮已召開跨部門會議，協調因應新興威脅格局的方案。考量中的選項包括出口管制、強制能力揭露，以及加強對 AI 開發的監控。

情報機構面臨平衡 AI 安全研究與保護網路漏洞機密資訊的挑戰。使模型在惡意人士手中具有危險性的相同 AI 能力，理論上也可用於識別並修補安全弱點。

業界主動參與

Anthropic 決定在發布 Mythos 前通知政府官員，此舉偏離了業界慣例。多數人工智慧公司過往聚焦於能力開發，鮮少就潛在濫用情境向當局進行全面簡報。

OpenAI 與 Google 亦曾就人工智慧安全議題與政府官員接觸，惟相關討論對特定模型能力的著墨較少。Anthropic 此一主動作為，可望為未來高能力模型的發布樹立先例。

人工智慧安全社群長期主張，企業應在開發流程更早階段即考量濫用潛力。Anthropic 的主動通報顯示，該公司認為 Mythos 引發了前所未有的疑慮，值得提前警告。

產業團體正致力建立負責任能力揭露的規範，期能在安全與商業利益間取得平衡。挑戰在於設計既能保障公共安全，又不致因資訊不對稱而讓競爭對手取得不公平優勢的流程。

技術能力

Mythos 模型的駭客能力源自多項架構進展，使其在分析與利用軟體漏洞方面特別有效。這些能力從未經明確設計植入系統，而是在多樣化資料集訓練過程中自然湧現。

先進推理能力使模型得以理解複雜軟體系統，並辨識出需大量人類專業知識方能發現的潛在攻擊途徑。此能力依使用者意圖，可導向防禦或攻擊用途。

大規模運作能力使 Mythos 有別於早期模型。先前的人工智慧系統僅能協助個別駭客任務，Mythos 則可同時協調針對不同目標的多重攻擊行動。

程式碼理解能力使模型得以生成能適應特定目標環境的精密攻擊程式碼。此一彈性讓模型可應用於廣泛潛在目標，無需手動客製化調整。

國家安全意涵

此項揭露發布之際，正值國家贊助駭客團體所構成的境外網路威脅情勢升溫。情報官員長期憂心精密攻擊能力向非國家行為者普及化的趨勢。

人工智慧系統可能讓技術專業有限的攻擊者發動精密攻擊，這代表網路風險的顯著升級。沒有專職資安團隊的組織，可能越來越容易受到過去需要專業知識才能發動的攻擊。

關鍵基礎設施營運商對於人工智慧驅動的營運技術系統攻擊，面臨特別的擔憂。電網、水處理設施和交通網路，可能成為利用數位與實體系統之間落差的攻擊目標。

網路安全產業正在評估人工智慧能力如何影響攻擊者與防禦者之間的平衡。部分專家認為，人工智慧主要將透過自動化威脅偵測與回應，為防禦者帶來優勢。

防禦措施

人工智慧公司正在探索技術途徑，以在不根本限制模型能力的情況下降低濫用潛力。這些努力包括輸出過濾、使用情境限制，以及強化對可疑模式的監控。

網路安全產業正在開發專門針對人工智慧驅動攻擊的 AI 防禦工具。經過訓練以辨識攻擊模式的機器學習模型，可能在短期內為防禦者提供優勢。

隨著能力進步，人工智慧安全標準的國際協調日益迫切。各國不同的監管做法，可能為在監管較寬鬆司法管轄區運作的惡意行為者創造避風港。

安全研究人員正在根據人工智慧能力重新評估漏洞揭露實務。促成漏洞發現的相同技術，理論上可能加速在漏洞遭利用前識別並修補安全弱點的過程。

倫理考量

此事件引發關於人工智慧公司對其技術潛在濫用責任的根本問題。Anthropic 的公告展現了對風險異常坦誠的態度，而許多公司可能傾向於淡化或掩飾這些風險。

能力推進與安全之間的緊張關係，為人工智慧開發者創造了艱難的取捨。商業誘因偏向能力提升，而安全考量則建議對釋出強大系統保持謹慎。

公眾對人工智慧公司的信任，很大程度上取決於它們如何處理危險能力。業界對 Mythos 揭露這類事件的反應，將塑造外界對人工智慧開發實務的整體觀感。

人工智慧治理的更廣泛影響超越網路安全，延伸至自駕車、生物科技，以及其他人工智慧能力可能造成傷害的領域。從 Mythos 事件中學到的教訓，可能為這些其他領域的做法提供參考。