帳號:
密碼:
最新動態
產業快訊
CTIMES/SmartAuto / 新聞 /
Sophos:預期將出現使用AI的攻擊技術並做好偵測準備
 

【CTIMES/SmartAuto 王岫晨 報導】   2023年11月30日 星期四

瀏覽人次:【1362】

Sophos發布兩份關於人工智慧應用於網路犯罪的報告。第一份報告名為《AI 的黑暗面:由生成式 AI 支援的大型詐騙活動》,揭露了未來詐騙者如何利用像 ChatGPT 這樣的技術,只需最少技術門檻便能進行大規模的詐騙。然而,另一份名為《網路犯罪者對 GPT 仍無共識》報告發現,儘管人工智慧具有潛力,但有些網路犯罪者並不會積極採用像 ChatGPT 這樣的大型語言模型 (LLM),甚至對使用人工智慧進行攻擊持保留和懷疑的態度。

只要利用簡單的電子商務範本和如 GPT-4 的大型語言模型工具,Sophos X-Ops 就能建立一個功能完整的網站,包括由人工智慧產生的圖片、聲音和產品描述,以及假的 Facebook 登入和結帳頁面,可用來竊取使用者的登入憑證和信用卡資訊。建立這種網站所需的技術門檻非常低,而且使用同一工具,Sophos X-Ops 能夠在幾分鐘內一鍵建立數百個類似的網站。

為了研究攻擊者對人工智慧的態度,Sophos X-Ops 調查了四個知名的暗網論壇,檢視與大型語言模型相關的討論。儘管網路犯罪者對於人工智慧的使用似乎還處於早期階段,但暗網上的威脅行為者開始討論它在社交工程方面的潛力。Sophos X-Ops 已經看到在以交友為基礎的加密貨幣詐騙中使用人工智慧的案例。

此外,Sophos X-Ops 發現大多數貼文與出售被竊的 ChatGPT 帳戶以及「越獄」有關——這是繞過大型語言模型內建保護措施的方法,網路犯罪分子可以藉此濫用它們進行惡意用途。Sophos X-Ops 還發現了十個 ChatGPT 的衍生版本,創作者聲稱可以用於發動網路攻擊和開發惡意軟體。然而,威脅行為者對這些衍生版本和其他對大型語言模型的惡意應用反應不一,許多犯罪分子表示對這些模仿 ChatGPT的創作者試圖欺騙自己人感到卻步。

關鍵字: 資安防護  物聯網  零信任  IIOT  雲端運算  Sophos 
相關新聞
Sophos宣布新任總裁暨代理執行長
趨勢科技:活躍中漏洞可讓駭客繞過防護竊取資料和感染勒索病毒
Sophos:亞太和日本90%網路安全與資訊專業人員受倦怠和疲勞影響
「全球網路安全日」重要性今勝於昔
產發署助跨界育才 打造半導體與物聯網即戰力
comments powered by Disqus
相關討論
  相關文章
» 以GMSL取代GigE Vision的相機應用方案
» 以半導體技術協助打造更安全更智慧的車輛
» 高速傳輸需求飆升 PCIe訊號測試不妥協
» 數位電源控制好幫手:PowerSmart Development Suite 使開發過程更Smart
» 保障下一代碳化矽元件的供需平衡


刊登廣告 新聞信箱 讀者信箱 著作權聲明 隱私權聲明 本站介紹

Copyright ©1999-2024 遠播資訊股份有限公司版權所有 Powered by O3  v3.20.2048.3.237.34.21
地址:台北數位產業園區(digiBlock Taipei) 103台北市大同區承德路三段287-2號A棟204室
電話 (02)2585-5526 #0 轉接至總機 /  E-Mail: webmaster@ctimes.com.tw