客服业务大模型运营实践

客服业务大模型运营实践模力驱动袁建 | 火山引擎智能客服运营专家曾经的智能客服闲聊情绪安抚技能RAG人设描述技能描述召回知识输出要求售前销售售后问答……知识文档1知识文档2知识文档3……知识文档NLLMPrompt编写文档提示词工程效果评估闲聊天气预报客服用语答案意图识别问题分类情绪安抚话术天气问题礼貌问候意图训练加相似问预设答案如何通过大模型提升效果 -智能客服Bot传统智能客服的运营动作大模型智能客服的运营动作用户query业务账号问题活动优惠商品属性账号答案活动答案商品答案用户query业务知识客服领域知识通识(情绪/闲聊)Before智能客服Bot -同频共情，真正解决用户问题 基于问题识别的单轮问答服务生硬、话术刻板、缺乏人性化表达、无法识别情绪，智能解决率和满意度低于50%QQ匹配+上下文回复QQ匹配+多轮问答QQ匹配+情绪识别After基于大模型+RAG的多轮对话多轮对话、澄清、个性化闲聊，拟人化服务，让方案更明确、对话更顺滑自动澄清，追问后多轮回复结合上下文个性化回复情绪识别自动安抚+策略，多轮对话智能客服Bot -提升智能服务运营效率Before传统模式运营面临的挑战After大模型释放运营生产力•内容覆盖不全面，仅能回答常见问题•难以应对复杂多变的客户咨询01知识库有限•回复话术较为刻板，缺乏人性化表达•需客户多次描述问题才能理解03服务较为生硬010203完备知识库业务配置效率高拟人化服务•业务 办理【多轮会话配置】＞40天•知识 咨询【知识梳理配置】＞50天•通识/闲聊【通识闲聊梳理】＞10天02配置效率低业务办理【大模型复制配置】＜10天知识咨询【大模型知识问答，知识库自动识别】＜5天通识/闲聊【大模型通识回复/人设Prompt】＜0.5天•涵盖各类知识领域，能准确回答各种专业问题•实时更新知识，适应不断变化的业务需求•语言表达自然流畅，如同与真人交流•能感知客户情绪，给予恰当的回应和安抚从有限到完备知识储备：从生硬到拟人服务风格：提升配置效率：5倍如何通过大模型提升效果 -客服助手Copilot半年前现在三个月前大模型精调，高质量对话数据精调模型•线上采纳率接近50%；解决率显著提升•面临的挑战：模型训练周期长，无法满足知识灵活变更的要求•适合场景：业务知识变更频率在3∽6个月的场景大模型提示词工程，基模+RAG满足知识灵活变更的要求•知