人工智慧(AI)带来诸多的便利性,却也潜藏着许多的风险与威胁,使得资讯安全议题深受瞩目。在2024 GDDA国际AI资安论坛上,邀集国际通商法律事务所(Baker McKenzie台北所)专家们齐聚探讨,在生成式AI崛起所带来的风险与挑战中,如何强化政府部门与企业在资讯安全的风险管理与因应措施。
![Baker McKenzie 台北所执行合夥律师黄丽蓉(中)、纽约所Cyrus Vance Jr.(左)、雪梨所Ryan Grant(右)对企业导入生成式AI、资安风险管理与因应措施提出见解。](/news/2024/08/20/1146446030S.jpg) |
Baker McKenzie 台北所执行合夥律师黄丽蓉(中)、纽约所Cyrus Vance Jr.(左)、雪梨所Ryan Grant(右)对企业导入生成式AI、资安风险管理与因应措施提出见解。 |
Baker McKenzie台北所执行合夥律师暨争端解决律师团队主席黄丽蓉(Anna L.J Hwang)律师指出, AI为企业带来一系列挑战从网路威胁、资料外泄、演算法歧视,到智慧财产权侵害、营业秘密泄露、法律遵循和劳动力替代使企业面临更高的争端风险。如今全球各国政府陆续拟定AI治理政策与指引,她认为围绕AI的法律框架仍处於萌芽阶段,各国对AI的监管方式不一,如此容易使AI成为企业法律遵循上的地雷区。
Baker McKenzie网路安全业务全球主席Cyrus Vance Jr.在公共和私营部门的经验超过30年,并且曾经担任美国曼哈顿地区检察官长达12年,他表示AI驱动的网路威胁在全球范围内持续增加。不法分子利用AI进行更加复杂的攻击,运用新技术实现高度个人化的网路钓鱼、深度伪造、社交工程和多因子验证(MFA)绕过,企业必须未雨绸缪。随着AI普及使得企业面临的诉讼风险与日俱增。其中最为显着的是智慧财产权诉讼的快速增加,俨然成为潜在争端的最大领域之一,相关诉讼主张AI训练模型所使用的资料侵害了着作权、隐私权或其他类似的权利限制。
Baker McKenzie雪梨所合夥律师Ryan Grant具有软体工程和网际网路技术的专业背景,专精於网路安全和争端的诉讼。他表示作为生成式AI的一个分支,大型语言模型(LLM)具备卓越的理解和生成类人文本的能力,已经改变了组织生成洞见的方式,包括在组织资讯安全方面。LLM仅仅通过简单查询就可以将大量数据转化为可行的见解,因此也成为不法分子和资安团队应用的强大工具。而LLM的有效性将取决於为其提供大规模、精确和具脉络相关性的资料进行训练和优化。倘若使用的训练资料品质不隹,则可能使组织面临包括决策失误和法规遵循风险等各种难题。
近年来,AI风险已成为许多企业在经营管理时最顾虑的议题。黄丽蓉表示,法律界提倡的「联防」概念,企业可以在资安管理方面采取平日演练和检查、面临攻击快速应变、发生事件时减少损失,甚至反守为攻。而企业如何善用生成式AI带来的优势,同时降低其驱动的网路威胁及风险,将成为企业胜出的重要关键。