IT极限技术分享汇
谈到大型语言模型的实际应用，大伙往往首先想到的是AI+客服。这是一个高度重复且可被标准化的业务领域，可以被高度抽象和总结。而且在客服领域，人力需求量普遍较高，人力成本相对较高。
因此在本文中，我将结合一些实践经验和所读的相关文章，讲讲AI+客服的一些应用方向。
一、客服业务拆解
要讲述AI如何应用于客服业务，首先需要对客服业务进行拆解。
我们可以根据客服环节在业务前后的位置进行大致的分类，主要分为以下两类：
1.售前客服：
在客户购买产品或服务之前提供咨询和建议。一些业务提供免费服务，只为部分用户提供付费的增值服务，比如游戏、音乐等各类应用。这些业务的客服可以被归类为“售前客服”。
2.售后客服：
在客户购买产品或服务之后提供帮助，例如退换货、维修等服务。
客服业务存在以下特点：
1.维护成本大：
客服大部分时间都是“被动式”提供服务，需要应付大量用户问题、投诉和反馈，这需要投入大量人力资源。
2.管理成本大：
客服本身是人，是人就会存在各种各样的问题，比如偷懒、舞弊、辱骂用户、企业资产盗窃等，这些行为会影响整个团队的效益，甚至对企业造成负面的影响。
3.难以创造价值：
售前客服环节聚集大量非付费用户，维护这些用户相对难以产生直接收益。
因此，对企业而言，客服业务是一项高成本、低回报的业务，客服部门通常被视为成本型部门。如何减少客服人力投入，甚至实现无人工客服，这便成为AI在客服场景下的终极愿景。
客服业务可以拆解成以下环节：
1.客服培养：
不同公司的业务情况各不相同，内部流程也各有特色，因此招聘新客服需要花费一定时间进行培训。同时，客服部门通常存在较大的人员流动性，一方面是因为这类工作上升空间有限，一般人不会长期从事此类工作；另一方面，客服业务存在波峰和波谷的概念，即并非任何时候企业都会面临高客诉量。因此，合格的管理者需要根据业务情况的变化，合理调整人力需求。
如何让新员工快速上手，减少因人员变动而带来的培训成本和试错成本，是客服培训过程的关键。
2.用户接待：
用户服务环节可以细分为：“了解问题”、“解决问题”、“跟进”、“反馈收集”、“记录报告”这几个步骤。客服人员负责解决用户问题，提炼其中有价值的信息，并进行内部报告和总结。
尽管客服部门的价值被认为较低，但客服部门是最直接接触用户的部门。如何从与用户接触的过程中，整合和分析信息，并将其反馈到运营、销售甚至供应链部门，是客服部门提升其价值的关键之一。
3.客服管理：
由于客服人员是人，因此可能存在偷懒、舞弊、辱骂用户、企业资产盗窃等问题。如何预防问题的发生、在问题发生时进行识别，并在问题发生后进行适当处罚，是客服业务管理者需要采取的行动。
因此，AI如何在客服业务上发挥作用，也主要是围绕客服培养、用户接待、客服管理这几个方面。
二、客服培养环节的AI
1. 培训材料提炼
客服管理者需要对新员工进行入职培训，并对在职员工进行定期培训。在这个过程中，管理者需要定期收集培训材料，其中包括维护话术库、优秀案例和错误案例。
我们可以将用户接待过程中的聊天记录输入大型语言模型，利用提示词提炼其中的维护话术库、优秀案例和错误案例等内容。然而，由于AI生成的内容可能存在误导性，最终需要管理者进行审核和修正，确保内容的准确性和合适性，才可正式使用。
2. AI陪练
知识和技能之间存在本质上的区别。知识是实践的一种总结，但技能才是提高绩效和表现的关键。如果只是对客服进行一味的知识灌输，很难确保客服同事真正掌握了技巧。因此，我们需要对客服进行“刻意练习”，以确保客服同事将知识内化为相关的技能，并在这个过程中复盘问题，优化原有方案。
如果由客服管理者专门制定练习题，将极大浪费管理者的时间，而且无法与客服进行互动陪练。因此，这里可以借助AI的力量。利用用户接待的聊天记录和提示词工程，泛化并批量生成不同的客诉场景，并与客服进行陪练。同时，我们可以利用提示词对陪练结果进行评分，从而辅助管理者评估客服的能力掌握情况，帮助客服同事找到问题，并进行优化和改进。
三、客户接待环节的AI
1. 智能路由
智能路由是一种利用人工智能技术的系统，旨在根据多种因素，如客户的需求、客户的情绪、服务代理的专业领域和即时业务状况等，智能地将呼叫分配到最合适的客服代表或服务通道。
在公司业务规模庞大、需要大量客服并且用户场景足够复杂的情况下，对客服团队进行不同技能组的划分，每个组专门负责不同的场景。这种情况下，需要依赖“智能路由”系统来对不同诉求的用户进行分配，以实现接待“效率”和“效果”的最大化。
智能路由的建设可以基于用户属性定制规则进行分配，也可以训练小型模型进行条件属性分配。然而，这些方法都无法基于用户言论进行分配。在这种情况下，我们可以利用大型语言模型（LLM）对用户的诉求进行分类，作为智能路由分配的依据。
总体来说，智能路由的分配方式主要包括以下三种：
- 基于用户条件的规则分配。
- 基于小型模型的算法分配。
- 基于LLM提炼结果的分配。
2. 智能问答
客服智能问答是指利用人工智能技术来帮助客服回答客户提出的问题或解决客户的疑问的方法。
目前实现是智能问答的方案有以下几种：
1.知识库匹配问答：
这种方案需要预先构建知识库，通过文本匹配或语义匹配的方式使用知识库的答案回答用户的问题。这种方法能够快速准确地回答那些在知识库中有明确答案的问题，适用于固定领域或特定主题的问答场景，而且不存在AI幻觉问题。
图片来源于百度，为智齿科技的客服系统
2.自行训练的客服AI：
针对特定业务场景或需求，通过机器学习和自然语言处理技术，基于已有的语料训练企业专用的客服AI。这种方法能够对语料进行泛化，能够应对更广泛的客诉场景，提供符合特定业务需求的个性化问答解决方案。
但是AI是对重复内容的总结，在泛化场景容易出现幻觉问题，可能会给到用户不准确的答案。
3.RAG + LLM：
LLM缺乏垂直领域的知识，对客户的问题会答非所问。因此，可以利用RAG技术满足客服场景的需求。RAG通过大规模语料库进行信息检索，获取可能的答案片段，然后将这些片段输入到LLM中进行进一步处理和生成答案。这种方法能够利用LLM的特点，让LLM结合客户的上下文和知识库的答案生成合适的答案。对于没有能力训练客服AI的中小企业，他们也能利用这种方法使用AI的能力。
但是，RAG + LLM的方式同样存在幻觉问题，有可能给到用户生成AI胡编的答案。
这些方法主要解决答案匹配和分发的问题，解决“在什么时候回答什么”的问题。同时，智能问答系统还可以引入多轮问答、多模态答案、多样化知识库的形式，拓展智能问答的问题解决能力。
1.多轮问答：
客户找到客服，往往是带有一个目的，有些目的能被一句话解答，但是有些目的并不行，比如退货退款、投诉等情况。同时，大部分客户并不能准确地一句话描述问题，会存在“同义词”、“主宾缺失”等问题。这种情况，一般都需要进行多轮的问答来解决。
因此，智能问答系统的语料不仅仅可以是单句式的语料，也可以由多句的语料组成，这使得智能问答系统能够覆盖更多的场景。
2.多模态答案：
多模态答案不仅仅包含常见的图片、语音、视频等内容，还可以包含链接、表单、问卷的形式，以提高与用户交互时候的信息密度，提高问题解决的效率。
3.多样化知识库：
有些问题不一定能够很好地被解决，因此智能客服除了要能回答专业问题外，还需要具备寒暄、闲聊、安抚的能力，用于更好地服务客户。因此，我们需要准备相关的语料库用于适配不同场景，这里可以使用关键词、意图识别等能力控制在什么场景下使用什么知识库能力。
最后值得一提的是，“智能”并非空中楼阁，需要一步一步的积累。
前面提到的三种实现方案都是非常依赖语料库的积累的，需要先有人工对业务中常见的客诉问题进行总结，然后给到智能问答系统进行使用。数据的积累和回答效果是一个互为因果的螺旋上升的过程。
因此对于中小企业来说，要想用的好智能客服，专门的语料库运营成员是必不可少的，该成员需要负责收集并提炼高质量的语料库，并定期结合业务的发展进行语料更新。
同时，幻觉问题较难根绝，除非投入较大的成本进行模型训练（或提示词优化）、语料调优，对于中小企业而言，与其用这么高的成本进行维护，不如使用不存在幻觉问题的“知识库匹配问答”方案。
3. 客服建议
由于智能客服方案中的“客服AI”和“RAG + LLM”都存在比较明显的幻觉问题。我们可以使用“客服建议”的形式，规避幻觉风险问题。
所谓“客服建议”，是指在客户接待过程中，“客服AI”和“RAG + LLM”的输出结果以建议的形式展示，由客服人员决定是否采用。这一过程相当于人工审核的备用方案，只有在人工审核通过后，才将结果呈现给用户。这种方式能够完美地防止AI幻觉对业务造成负面影响，同时也能够利用AI的输出结果提升效率。
此外，我们还可以让AI结合人设，给出相应的安抚建议，而非基于知识库。这也能在一定程度上丰富客服话术的多样性。
4. 客诉情况总结
在客服工作中，当客诉量庞大、内容复杂时，人工难以迅速识别重点内容，需要花费大量时间阅读上下文，这严重影响了客诉处理效率。
为了解决这一问题，我们可以利用AI进行内容总结和提炼，快速辅助客服人员提炼客户诉求、情绪以及意图，并以一定格式输出，以便客服人员快速掌握用户诉求，定制应对策略。
此外，这种提炼和总结的结果也可以为“客服建议”、“智能问答”等功能提供决策依据，从而进一步提升客服工作的效率和质量。
5. 舆情提炼
在客服工作中，客服的价值并不仅仅在于回答用户的问题或安抚用户，更在于能够从海量的客诉中提炼出有价值的信息，并将这些信息反馈到运营、研发、销售等业务中，从而提高整体业务的效果。
想起之前看到篇文章，里面提到过腾讯内部的一个机制——10/100/1000法则。产品经理每个月要做10个用户的调查，关注100个用户博客，收集反馈1000条用户体验。尽管我不确定这个法则是否仍在实施，但它确实凸显了“充分聆听用户反馈”的重要性。
然而，让一线客服人员手动总结有价值的信息极大地依赖于他们的专业性和问题归类能力，同时也容易受到个体主观因素的影响，导致总结结果失真。此外，一线手动整理也无法完全覆盖线上的所有客诉案例，因此手动总结的全面性存在不足。
如果由管理者亲自去查阅，很可能会在海量信息中迷失，无法找到所需内容。
因此我们可以借助LLM的力量，让其替我们进行舆情分类，从中提炼出有价值的信息，使得人工查阅成千上万的客诉信息成为可能。
在这个过程中，我们可以借助提示词工程对话题进行预设分类，将相应内容归类到特定话题上，以便后续结合需求进行查阅。这种方案能够避免多次请求LLM导致存在“多个近似分类”，从而无法有效统计舆情分布情况。
与传统的分词方案相比，基于LLM的舆情分析能够更准确地分析舆情的内涵，而非简单地进行分词。
6. AI语音聊天/外呼
由于文本传达的信息有限，为了更高的接待效果，可以考虑采用多模态的内容形式，比如语音、图片、视频等，这些可以结合已有的AIGC方案进行快速生成。
目前较为成熟的是语音，借助文生音大模型，我们可以赋予客服一个声线，用来给用户传达对应的内容。通过语音的方式，能够更好地传达情绪，从而对用户进行情绪上的安抚。同时，基于AI声音，我们也可以实现智能外呼，用于主动营销、用户回访等用途。
结合人群划分策略，实现千人千面的大批量自动化用户触达。
7. 错字识别
利用大型语言模型对错别字进行识别，可以减少客服人员的低级错误，提高服务的专业度。这一技术虽然较为简单，但其实际效果却十分显著。
8. 话术润色
利用LLM对客服话术进行优化，结合特定人设，使得话术更加合适、专业，从而辅助客服进行更高效的接待。通过对话术的优化，可以提升客服的服务水平，使其更好地满足用户需求。
四、管理服务环节的AI
1. AI质检
在客服管理中，存在着各种问题，如偷懒、舞弊、对用户进行辱骂以及企业资产盗窃等。因此，识别、预警和应对这些问题成为管理者的重要任务之一。
如果仅依靠人工检查，很容易出现“看不全”、“看不及时”等问题。因此，我们可以利用大型语言模型（LLM）进行AI质检，结合提示词工程，梳理出质检的维度（如“态度友好”、“情绪稳定”、“用户反馈”等），并在不同维度上进行评分，从而评估客服在指定日期内的表现。
尽管这种方法可能存在幻觉问题，但它能够大大提高管理发现问题的及时性和效率。同时，基于AI质检的结果，我们还可以实现预警推送通知功能，确保将结果第一时间同步给相关成员。
总结
以上便是AI在客服系统中的一些实际应用。总的来说，对于中小企业来说，AI并未完全替代人工客服，因为在许多情况下，“定制化成本”大于“人力节省”。然而，在某些特定场景下，AI已经能够有效赋能业务并提升效率。相信未来有一天，AI能够给到客服行业更大的变革。
