業界領袖攜手成立開放安全AI聯盟 推動AI的安全與保障

開源軟體是全球經濟的重要支柱。透過讓專家社群得以存取與檢視相關技術，開源軟體可為雲端運算、金融服務、製造、電信、政府與網際網路服務提供堅實的基礎。

資安是開源軟體的三大受益領域之一。開放安全AI聯盟（Open Secure AI Alliance）承襲 Linux Foundation 的 Akrites 計畫領導成果與 OpenSSF 社群工作，將運用開放技術修復並揭露漏洞。

圖一 : 業界領袖攜手成立開放安全 AI 聯盟，推動 AI 的安全與保障

正如開源技術為軟體建立共享基礎，美國及其合作夥伴如今在 AI 安全面臨一項選擇：用於保護基礎設施的防禦能力，究竟該置於少數不透明的系統之中，還是要建立在任何防禦人員都能研究、調整與部署的開放模型、執行框架與工具之上。

全球同時需要封閉與開放的模型。在資安領域，開放模型與開放的 harness 至關重要，因為它們能普及防禦能力、提高防禦人員的透明度、在保護資料的同時支援網路防禦，並透過可客製化、在地化的控制機制，與前沿的封閉模型相輔相成。開源技術可建立大規模分散式、社群驅動且自主掌控的防禦體系，且不存在單點故障。

如同任何強大的技術，開放模型也可能遭到濫用，包括企圖削弱防護機制，或將其能力轉用於網路攻擊。然而，這些風險並非開放系統所獨有，而是所有部署先進 AI 的環境都必須加以管理。

近期發生的 Hugging Face 資安事件帶來明確提醒：資安防禦人員需要開放且前沿的代理型系統進行自我防禦。當封閉 AI 工具無法區分攻擊者與防禦人員，因而阻擋必要的鑑識分析時，Hugging Face 便在其自有基礎設施上執行開放權重 GLM 5.2 模型，分析超過 17,000 項操作並遏止入侵。

這起事件揭示一個現實真相：當防禦人員無法在自有基礎設施上檢視、調整與執行先進 AI 時，在分秒必爭的關鍵時刻，其應變能力會受到限制。企業與國家需要開放且前沿的防禦工具與技術，讓關鍵產業能在多供應商生態系中建構安全系統，並避免單點故障。

這正是開放安全 AI 聯盟的使命：確保各地防禦人員都能擁有值得信賴且可自主掌控的開放前沿工具。

來自雲端運算、資安、企業軟體、開源基金會與 AI 研究領域的領導者，包括 NVIDIA、Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴爾科技集團、DoorDash、Elastic、慧與科技、Hugging Face、IBM、LangChain、Linux Foundation、微軟、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西門子、Snowflake、SpaceXAI、新思科技、Thinking Machines Lab 與 TrendAI，皆為開放安全 AI 聯盟的首批合作夥伴。這項行動旨在開發並分享開放技術、方法與工具，以在 AI 時代保障軟體與代理的安全。

有些觀點主張，開放模型本質上較不安全，因為它們可能遭用於網路攻擊，或被修改以移除防護機制。這些風險確實存在，但在封閉系統中同樣不會消失。單純不公開模型權重，也無法阻止意圖堅決的攻擊者尋求或利用強大的 AI。