AI技术的广泛应用，推动着各产业的数位转型，但也可能带来许多安全隐患和挑战，近期越来越多企业意识到，传统的边界防护方式存在很多局限性，无法满足新形态的网路安全需求。

戴尔科技集团（Dell Technologies；DELL）建议企业从四个层面建构防御层，实现零信任架构：一、是实施预防性措施，减少受攻击面；二、利用威胁检测技术和方法来识别和应对已知和未知威胁；三、保持网路弹性，在网路攻击事件发生後，能及时恢复系统、网路和资料；四、企业须将网路安全的防护重点扩展到边缘、核心和云环境。

在网路安全领域，生成式AI可能成为双面刃

生成式AI可能被骇客滥用於网路攻击，但也能作为安全人员的绝隹防御工具。根据Darktrace研究显示，自ChatGPT为代表的生成式AI技术兴起以来，复杂的网路钓鱼攻击数量上升135%。

生成式AI既带来更严重的安全威胁，同时也开辟新的安全防护路径，唯有充分认识生成式AI的影响力，才能在不断变化的威胁环境中为企业护航。

生成式AI带来强大高效的安全工具

图一 : 在安全领域中，生成式AI大幅提升处理和分析资讯能力，将带来强大高效的工具，更加的识别和应对威胁。（source：Appen）

生成式AI不仅能创造逼真的图片、文件或影片，大幅提升处理和分析资讯能力，亦能不断学习和进化，准确地理解和执行复杂任务。在安全领域中，此能力将带来强大高效的工具，更加的识别和应对威胁，保护资料和系统不遭受到侵害。

生成式AI能够在六个方面提供极大帮助：

首先，生成式AI可以提高威胁检测和回应的有效性，透过快速分析海量资料，检测异常的网路流量、反常的使用行为和可疑的电子邮件，快速识别恶意软体、钓鱼攻击或内部攻击等。同时更主动地做出预防措施，从以往事件和网路安全趋势汲取经验，预测未来威胁或识别潜在漏洞，使企业更积极主动地采取安全措施，在漏洞被利用前就解决。

透过生成式AI提升安全防护的自动化程度和工作效率，藉由自动执行的威胁检测，加速发现和应对威胁，减少潜在损失。大量的日常网路安全任务也可透过自动化执行，不仅能提升效率，也能让安全人员专注於更具战略性和复杂的任务。此外，亦能提升取证分析效率和准确性，整合威胁情报平台和资料库，利用模式检测和识别代码相似性等功能，找寻可能会被手动操作遗漏的隐藏证据，快速分析恶意软体样本，解决复杂的数位取证调查问题。

生成式AI可用於个性化安全培训

根据员工的角色、过往行为和可能面临的威胁，设计个性化的安全意识培训内容，这有助於减少人为错误，而人为错误是造成许多安全性漏洞的重要因素。另一方面，有助於扩大安全营运规模，在安全方面提供诸多便利性，可以更快地获取更丰富的洞察，并藉此采取行动。

保障生成式AI系统安全

图二 : 生成式AI系统通常需要对资料实施分类加密、强大的存取控制机制及安全的资料储存和传输技术。（source：CSM Technologies）

生成式AI系统可能成为网路攻击目标，若无法适当保护，将可能被恶意利用，由於系统仰赖大量资料进行学习和决策，对於资料隐私和完整性有高度要求，通常需对资料实施分类加密、强大的存取控制机制及安全的资料储存和传输技术。

戴尔透过备份、灾难复原和Cyber Recovery资料避风港「三位一体」的资料保护解决方案，在资料储存、处理及传送过程，协助企业将资料隐私和完整性提升至极高水准。

企业在解决资料隐私和完整性时，也应注意「对抗攻击」，防范他人透过恶意操控AI系统的输入资料来欺骗系统，使其故障或做出错误决定，因此，需执行强大的测试和验证程式，研究如何防御此类攻击。企业需对落地的生成式AI系统实施存取控制措施，以零信任架构管理存取权限，这对防止未经授权的访问和阻止潜在的系统滥用有积极作用。

为防止AI系统被恶意滥用，企业也需监视系统的使用，采取措施检测和应对滥用行为。例如，需验证影片或音源的真实性，防止有心人士利用生成的虚假内容制造假新闻或用於诽谤、欺诈等。由於生成式AI系统基於大量资料训练而来，若资料中包含某些偏见，系统也将因此作出不公平或歧视性的决策，故企业需要定期审查，采用减少偏见的技术并遵守道德准则。

有效应用解决方案可显着简化零信任的落地，不仅在产品方案中内建零信任架构，亦正在整合零信任架构。戴尔提供零信任相关服务，能协助制定路线图、整合关键技术并实施主动管理，也透过专业安全谘询服务及广泛合作夥伴生态系协助企业落实零信任。随着生成式AI时代的来临，AI与网路安全将相互影响，考量生成式AI的强大能力，企业需透过安全措施来持续监视、定期更新和修补以应对风险，并保护生成式AI系统，安全地为企业产出更多价值。