AI客服服务升级的密码

服务升级的密码2024火山引擎大模型服务AI客服豆包大模型观察：大模型在客服领域的应用趋势42围绕交互更智能的上下文更准确的答案31围绕工具更丰富的模型工具，适应不同客服场景的需求围绕营收AI客服的“谈判/销售”能力更进一步围绕数据VOC和质检 提供更多业务洞察传统NLP技术，难以从海量质检数据中，按照复杂语义逻辑挖掘数据价值01 围绕数据：VOC和质检提供更多业务洞察无法应对复杂的质检规则：关联、嵌套不同模型处理长度不同的对话记录，难以处理长文本规则设定模式：设定检测角色: (坐席/客服)设定检测项目X设定X与其他项目的关联关系设定检测项目X的检测条件1.条件A2.条件B…..直接将质检逻辑以自然语言写入豆包大模型的提示词提示词设定：你的角色是：xxx你的任务是：xxxA风险的定义是：xxx用户表达诉求B的定义是：xxx请根据以上要求分析xx行为，并按要求输出结果豆包大模型传统模式效果示例一通40分钟的通话，转写成的文本约5000字，模型一次调用完成分析[0]您给个电话这样我们可以再联系，整体看看怎么能想办法最大化您的利益。AI质检结论违规：是违规编号：xx号规则原因：从上下文可以知道，“xx电话。”这句话是工作人员说的。根据【xx规则及示例】中第9条，在xxx情况下，如果工作人员没有理由，主动向客户索要电话，且索要电话目的是建立私下的联系，属于xx风险。01 围绕数据：VOC和质检提供更多业务洞察豆包大模型综合能力持续增强豆包大模型不断提升的语义效果及处理性能25%MMLU_pro（综合能力）36%MATH（数学）5%IFEval（指令遵循）8%HumanEval（代码）35%GPQA（专业知识）256k窗口，一次处理单次模型调用可处理约33小时通话对应的文本量(支持的输入token窗口： 4k, 32k, 128k, 256k)处理超长文本的能力32k窗口，滑动处理1300,000,000 TPD（tokens per day）业内领先的日均数据处理能力02 围绕营收：AI客服的“谈判/销售”能力更进一步传统NLP技术，没有谈判协商的能力，无法进行拉新、交易撮合、纠纷处理。规则任务设定：意图为A时，如果出价>C，则执行X意图为A时，如果出价<C，则执行Y意图为B时，如果出价>C，则执行Z