李雨柯-金融AIGC安全攻防构建大模型时代的数字内容风控体系

金融AIGC安全攻防构建大模型时代的数字内容风控体系李雨珂 | 网易易盾AI算法负责人李雨珂网易易盾AI算法负责人网易智企算法专家，信通院专家委员会成员，目前负责数字内容风控领域的人工智能算法研究，曾获得浙江省科学技术进步奖一等奖、中国人工智能产业发展联盟年度创新人物等奖项，所带团队多次在音视频伪造检测、大模型安全等领域的人工智能算法竞赛中获得最高荣誉，拥有多项数字安全领域的发明专利并发表多篇国际期刊和会议论文。目 录CONTENTSI.AIGC安全防御的技术困局II.弹性纵深防御技术架构III.工程化实践关键突破IV.金融场景应用与前沿展望AIGC安全防御的技术困局PART 01生成式AI技术演进图谱•传统逻辑：规则驱动•以明确的规则和算法为核心，生成内容可预测性强，但缺乏灵活性和创造力。•AIGC逻辑：数据驱动+模型推理•模型通过大规模数据训练，理解上下文语义，生成高质量的、拟人化的内容。核心跃迁：从规则到智能Zhang, Xinjie, et al. "Unified Multimodal Understanding and Generation Models: Advances, Challenges, and Opportunities."arXiv preprint arXiv:2505.02567(2025).生成式AI技术演进图谱•基于显式规则缺乏上下文关联•依赖人工干预语义理解的差异•基于深度学习的隐式语义建模。•多层次语义关联•自适应能力强传统语义理解：AIGC语义理解：Zhang, Xinjie, et al. "Unified Multimodal Understanding and Generation Models: Advances, Challenges, and Opportunities."arXiv preprint arXiv:2505.02567(2025).生成式AI技术演进图谱"剪刀差效应"生成质量提升速度检测技术迭代速度Huge Gap技术更新情况时间 t金融行业大模型常见应用场景中的风险对抗场景痛点监管法规/要求智能客服/投顾（咨询对话）•咨询对话过程中存在虚假宣传、过度承诺、暗示收益、诱导的内容•对话内容不礼貌用语，用词不当，有损企业形象•模型生成内容不合规、不可控•AIGC生成内容变异快，对抗难《中华人民共和国广