开箱吧！腾讯云大模型安全发布会材料

开箱吧！腾讯云大模型安全发布会材料LLM-WAF：大模型安全防护云安全中心-大模型安全态势管理LLM-WAF：大模型安全防护终结AI业务四大致命伤——算力滥用｜数据泄露｜API失控｜合规暴雷分享人：王军基于大模型的生成式人工智能迎来大爆发LLM已经融入企业核心应用，是业务创新发展的新动力。成为企业内新的IT基础设施。大模型面临的安全风险OWASP LLM Top10风险层攻击类型输入层提示注入攻击（例如诱导模型越狱、以及ChatGPT 不久前发生的“间接提示注入”攻击等）、API 密钥劫持（Deepseek 被广泛通过Ollama部署在本地导致API 被暴露利用）、多模态内容攻击、上下文语义攻击、过度代理风险等数据层训练数据投毒、虚假信息传播等输出层系统提示泄露、不当输出内容（恶意代码、色情反动等）、敏感信息泄露（例如OminGPT 平台泄露3 万个用户电子邮件、3400 万用户对话记录等敏感信息）LLM治理模型盗窃与滥用（例如黑客GPT 可以批量生成钓鱼工具）、DDos 攻击、供应链漏洞风险、无边界的消费导致资源滥用等全球各国针对大模型加速出台安全管理政策⚫欧盟：颁布全球首部全面监管人工智能的法规《人工智能法案》，把AI 应用的风险分为4 类：不可接受风险、高风险、透明风险和最低风险，其中高风险部分，要求LLM 服务商提供安全审计并承担相应法律责任。⚫新加坡：颁布相应的安全法规草案，对AI 系统的安全提出监管和要求，例如《AI 系统安全指南》。⚫美国：美国联邦、美国各州及城市均出台了包含《AI权利法案蓝图》《AI风险管理框架》等一系列AI 监管法律或法案⚫日本：AI 治理框架，注重人机协作场景，推动AI 伦理发展。⚫12 国：《安全、创新和包容的AI 首尔宣言》。我国针对大模型安全管理政策科学务实、划定底线、明确责任“提供深度合成服务，应当遵守法律法规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善。具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。深度合成服务技术支持者应当参照前款规定履行备案和变更、注销备案手续。”“坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳