终端智能体安全（2025）

终端智能体安全（2025）III引言在数字化、智能化加速融合发展的今天，终端智能体正在成为人工智能深度落地的核心载体与未来演进的必然趋向，其应用价值日益凸显。终端智能体作为深度融合AI技术、物联网、大数据等前沿技术的新一代智能实体，其核心价值在于构建了“感知－分析－决策－执行”的闭环智能决策链，拓展了人类认知与实践的深度与广度。目前，终端智能体已经在生活娱乐、医疗健康、工业制造、智能家居等垂直场景实现了纵深渗透与价值释放，正在成为驱动产业系统重塑、生活范式重构的核心引擎。然而，终端智能体在重塑人机关系的进程中，安全问题已成为不容忽视的关键制约因素。其广泛的连接性与复杂的技术架构使其面临着来自恶意攻击、数据泄露、越权操作、隐私侵犯、算法偏见等诸多维度的安全威胁。因此，强化终端智能体安全研究，构建全方位、多层次的安全防护体系，已成为保障相关产业安全、健康、可持续发展的当务之急。围绕构建终端智能体全多维防护体系这一核心目标，本报告立足全景式呈现终端智能体安全领域的现状、挑战与发展趋势，其核心研究范畴包括终端智能体面临的风险与挑战分析、安全技术、安全生态建设、安全实践案例分析四个部分。通过聚焦终端智能体系统的不同层面以及不同应用场景下的安全需求，深入剖析各环节的安全风险与应对策略，旨在为业内提供全面且具针对性的、可参考的安全指引。本报告由上海人工智能实验室、中国信通院、蚂蚁集团、IIFAA互联网可信认证联盟四家单位联合撰写。为确保研究的科学性与实用性，本报告综合运用文献研究、行业调研、技术分析和典型案例呈现等方式开展研究工作，分析终端智能体的实际安全痛点与需求，提炼可推广的安全技术策略与参考实践。本报告旨在为终端智能体安全领域提供系统性参考与前瞻性洞察，但鉴于技术演进与产业实践的发展性和动态性，报告中的观点难免存在疏漏与不足，诚挚欢迎各界专家学者批评指正。《终端智能体安全》编写组上海人工智能实验室王迎春 徐 甲 滕 妍 胡舒悦 丛怡雯中国信通院廖运发 果 敢 常永波 牛晓芳 袁 琦 彭 莉 田 琛 张宏星 章 舟 蚂蚁集团陈 亮 王维强 万小飞 沙泽阳 吴 炎 曹思怡 杨明洋 孙博文 乔 智 崔世文 杨小芳 孟昌华 马绍青 张 璇 朱 丛 罗 清 侯佳龙IIFAA互联网可信认证联盟邵晓东 郑