派拓网络2024为AI助力的应用程序建立治理框架白皮书

1Prisma by Palo Alto Networks | 白皮书 | AI 治理 1 https://www.paloaltonetworks.com/state-of-cloud-native-security为 AI 助力的应用程序建立治理框架人工智能 (AI) 的发展日新月异，各行各业的企业都在以前所未有的速度部署 AI 助力的应用程序。例如，在 Prisma Cloud 的 2024 年云原生安全现状报告1 中，100% 的受访者都表示自己欣然接受 AI 辅助的应用程序开发——对于这个几年前还被许多人视为科幻的技术来说，这确实是一个让人惊讶的结果。然而，尽管 AI 系统提供了巨大的优势，但也带来了全新的安全风险和治理挑战，而传统的网络安全方法并不具备应对这些风险和挑战的能力。作为一名安全领导者，必须了解 AI 的现状、其潜在隐患以及给企业带来的独特风险。在本白皮书中，我们概述了 AI 的形势，强调了关键的安全考虑因素，并提出了一个治理框架，帮助您在这个复杂的环境中做到游刃有余。您将清楚地了解企业可能有机会探索的关键 AI 技术及其安全隐患，以及需要考虑哪些潜在的防护和缓解措施。我们还将帮助您了解在制定 AI 安全战略时需要考虑哪些因素。2当前的 AI 形势及其安全隐患近年来，AI 领域发生了翻天覆地的变化，随着企业评估和实施一系列新技术，无论是通用系统还是专用系统都取得了重大进展。为了应对 AI 的相关风险和机遇，安全领导者需要时刻把握这个不断发展的生态系统的脉搏。风险可能以多种形式表现出来，正如我们最近的研究发现的一样，47% 的企业都在担心与 AI 生成的代码相关的安全风险2。在本文中，我们将重点关注部署 AI 助力的应用程序时出现的云基础设施风险。截止到今天，以下是 AI 领域的基本轮廓。“传统的”AI 和 ML多年来，各家企业一直在利用特定于领域的 AI 和机器学习 (ML) 推理工具来提高制造、供应链优化、欺诈检测、在线营销和其他领域的效率和自动化程度。这些狭义的系统在特定的数据集基础上进行训练，用于执行明确定义的任务。虽然这些系统已经成为许多业务流程不可或缺的一部分，但每个应用程序通常都是孤立的，并且作用范围有限。虽然这些工具已经存在了很长一段时间，并且近年来可能没有经历什么突破性的进展，但它们受到了“水涨船高”现象的影响。围绕着 AI