搜尋

會員登入

搜尋

導覽

會員
廣告
廣告

業界領袖攜手成立開放安全AI聯盟 推動AI的安全與保障

瀏覽次數:1218

開源軟體是全球經濟的重要支柱。透過讓專家社群得以存取與檢視相關技術,開源軟體可為雲端運算、金融服務、製造、電信、政府與網際網路服務提供堅實的基礎。

資安是開源軟體的三大受益領域之一。開放安全AI聯盟(Open Secure AI Alliance)承襲 Linux Foundation 的 Akrites 計畫領導成果與 OpenSSF 社群工作,將運用開放技術修復並揭露漏洞。

業界領袖攜手成立開放安全 AI 聯盟,推動 AI 的安全與保障
業界領袖攜手成立開放安全 AI 聯盟,推動 AI 的安全與保障

正如開源技術為軟體建立共享基礎,美國及其合作夥伴如今在 AI 安全面臨一項選擇:用於保護基礎設施的防禦能力,究竟該置於少數不透明的系統之中,還是要建立在任何防禦人員都能研究、調整與部署的開放模型、執行框架與工具之上。

全球同時需要封閉與開放的模型。在資安領域,開放模型與開放的 harness 至關重要,因為它們能普及防禦能力、提高防禦人員的透明度、在保護資料的同時支援網路防禦,並透過可客製化、在地化的控制機制,與前沿的封閉模型相輔相成。開源技術可建立大規模分散式、社群驅動且自主掌控的防禦體系,且不存在單點故障。

如同任何強大的技術,開放模型也可能遭到濫用,包括企圖削弱防護機制,或將其能力轉用於網路攻擊。然而,這些風險並非開放系統所獨有,而是所有部署先進 AI 的環境都必須加以管理。

近期發生的 Hugging Face 資安事件帶來明確提醒:資安防禦人員需要開放且前沿的代理型系統進行自我防禦。當封閉 AI 工具無法區分攻擊者與防禦人員,因而阻擋必要的鑑識分析時,Hugging Face 便在其自有基礎設施上執行開放權重 GLM 5.2 模型,分析超過 17,000 項操作並遏止入侵。

這起事件揭示一個現實真相:當防禦人員無法在自有基礎設施上檢視、調整與執行先進 AI 時,在分秒必爭的關鍵時刻,其應變能力會受到限制。企業與國家需要開放且前沿的防禦工具與技術,讓關鍵產業能在多供應商生態系中建構安全系統,並避免單點故障。

這正是開放安全 AI 聯盟的使命:確保各地防禦人員都能擁有值得信賴且可自主掌控的開放前沿工具。

來自雲端運算、資安、企業軟體、開源基金會與 AI 研究領域的領導者,包括 NVIDIA、Adobe、Cadence、Capital One、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴爾科技集團、DoorDash、Elastic、慧與科技、Hugging Face、IBM、LangChain、Linux Foundation、微軟、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西門子、Snowflake、SpaceXAI、新思科技、Thinking Machines Lab 與 TrendAI,皆為開放安全 AI 聯盟的首批合作夥伴。這項行動旨在開發並分享開放技術、方法與工具,以在 AI 時代保障軟體與代理的安全。

有些觀點主張,開放模型本質上較不安全,因為它們可能遭用於網路攻擊,或被修改以移除防護機制。這些風險確實存在,但在封閉系統中同樣不會消失。單純不公開模型權重,也無法阻止意圖堅決的攻擊者尋求或利用強大的 AI。

稀土棋局下的台灣解方:從供應鏈韌性看關鍵礦物合作新契機
特別企劃半導體

稀土棋局下的台灣解方:從供應鏈韌性看關鍵礦物合作新契機

稀土與關鍵礦物已成全球科技競爭與經濟安全的重要戰略資源。面對供應鏈高度集中與地緣風險升高,台灣如何透過國際合作、技術替代、戰略儲備與城市採礦,建立自主且具韌性的關鍵礦物供應體系?

稀土與關鍵礦物已成全球科技競爭與經濟安全的重要戰略資源。面對供應鏈高度集中與地緣風險升高,台灣如何透過國際合作、技術替代、戰略儲備與城市採礦,建立自主且具韌性的關鍵礦物供應體系?