杞坚玮-Agent技术在小爱同学中的应用

Agent技术在小爱同学中的应用演讲人：杞坚玮小米 小爱高级算法工程师CONTENTS目录01智能语音助手的变革02Agent技术在小爱中的成功实践03未来优化方向智能语音助手的变革智能语音助手的核心链路理解意图分类与实体识别执行满足话术与功能调用决策任务拆解与接口选择Agent技术为语音助手带来新机遇架构大幅精简多层分类架构，简化为一个模型80余个垂域，简化为10个垂直Agent策略大幅精简去除大量文法、规则、模板由人力驱动转向数据驱动Agent技术在小爱中的成功实践Agent技术应用在语音助手的若干挑战如何在语义理解中发挥Agent Planning传统语义理解是判别任务，如何与生成任务结合如何让Agent在交互中不断优化语音助手庞大的用户体量是Agent优化的宝贵财富如何让Agent掌握各类功能使用方式上百个一方/三方API，如何保证产品质量如何保证Agent在运行中的响应速度提升效果的同时需要保持良好的产品体验语义理解与Planning能力的结合“今天北京的天气”Domain：WeatherIntent：SearchActionSlots：City:北京, Date:今天传统语义表示：不适合作为Agent的理解方式依靠人工预设、枚举的空间有限分类任务中类别预先定义，无法囊括长尾需求意图槽位范式无法发挥Agent规划潜力无法支持复杂嵌套的逻辑关系语义理解与Planning能力的结合代码式语义表示：与人类语言相当的表示能力发挥LLM在推理规划中的优势基于定义的动作与实体自由组合意图表示发挥LLM在Coding任务的优势根据Instruction输出Code，是LLM的底层能力语义理解与Planning能力的结合语义理解与Planning能力的结合分而治之、协同调度的多agent框架提升Agent在垂直场景中的表现垂直场景中包含多种功能与参数提升Agent在垂直场景中的表现垂直场景的持续预训练在大规模业务数据上的无监督训练补充业务知识、熟悉业务定义高质量精细化微调根据业务需求进行少量微调快速适应不同场景业务需求LLM优化范式：数据是关键提升Agent在垂直场景中的表现提升Agent在垂直场景中的表现持续预训练可显著提升模型效果提升Agent在垂直场景中的表现分阶段微调：从易到难逐步学习头部表达学习定义 + 长尾表达增强泛化手机还有多少电这个电量还够用吗电量低了记得