生成式人工智慧(Generative AI)技術在大幅提升企業生產力之際,同時也讓詐騙與資安攻擊變得更加低成本且高效率。根據Experian發布的《2024年全球身分與詐騙報告》,這項技術正推動全球詐騙格局迅速演變,對消費者和企業構成重大威脅。
|
高度個人化的生成式AI詐騙攻擊已大幅成長,致使企業必須採用多層次方法打擊生成式AI詐騙行為。 |
該報告彙整全球超過1,000家企業和反詐騙領導者,以及4,000名消費者的觀點,聚焦於詐騙管理和數位體驗,全面分析金融服務領域的最新詐騙趨勢與應對策略。報告指出,生成式AI的快速發展、政府法規的變化,以及消費者對安全且便捷的數位體驗需求,是驅動詐騙威脅不斷升級的三大主要因素。
生成式AI技術讓詐騙者能夠快速生成逼真的文字、圖像和數據,執行多層次攻擊。Experian身分與詐騙執行副總裁Greg Wright表示,詐騙行為的全球性特質與技術跨界性,迫使企業採用先進分析工具、另類數據洞察及資料共享等策略,並結合多層次的防禦方法,應對這些威脅。
報告顯示,全球多數消費者期望既安全又無縫的數位服務體驗。調查中,有大量消費者反映,由於開戶或交易流程緩慢,選擇轉向其他商家。這無疑提醒企業,在強化資安防禦之際,需避免影響客戶體驗,否則可能失去消費者信任。
為實現此一目標,企業須透過AI與機器學習(ML)技術提供全方位的消費者洞察。例如運用防詐騙程式和數據分析技術,有效驗證客戶身分,減少詐騙行為,同時優化申請與購買流程。
生成式AI的應用價值無庸置疑,例如處理內容創建和工作流程密集的任務,能顯著提升效率。然而,該技術也帶來潛在風險,如生成內容的偏見、不實的資訊,以及圖像的結構缺陷等問題,可能會誤導用戶或被惡意利用,生成式AI成為資安雙面刃,在於效率與風險並存。
Experian報告指出,企業必須持續投入防詐騙技術,並採取多層次的策略應對這些新型威脅。同時,建立跨界協作與數據共享,將成為未來打擊詐騙的重要手段。隨著生成式AI的進一步發展,其在提高效率的同時,也帶來更多安全挑戰。企業必須平衡安全性與用戶體驗,採用先進技術並結合人為監督,以迎接這場技術與風險並存的挑戰。這場生成式AI帶來的革命,不僅是技術進步,更是全球企業如何共同抗衡詐騙威脅的一次試煉,展望未來,多層次策略將成為重要關鍵。