AI落地Best Practice · 企业与业务成品 · 2025-07-10

我,人工客服,专替AI背锅

AI客服的现状令人啼笑皆非:本该提升效率的技术,却让人工客服成了"背锅侠"。这场智能革命究竟走向何方?

核心内容:

  1. AI客服在实际应用中的三大痛点
  2. 人工客服被迫为AI错误买单的典型案例
  3. 行业面临的成本与效率双重困境

当ChatGPT等大模型技术横空出世时,客服行业曾被预言将迎来革命性变革。然而一年多时间过去,这场变革的进展却与人们的期待大相径庭。

AI客服在实际应用中暴露出诸多问题:转人工客服困难、回复“驴唇不对马嘴”、绕圈回避问题.....AI客服激怒消费者的情况屡见不鲜。与此同时,人工客服成为AI客服的“背锅侠”,一边委屈一边四处给AI“擦屁股”。

这场被寄予厚望的"智能革命",并未带来预期中的降本增效,反而让整个行业陷入新的困境。

用户更加愤怒,商家成本不降反增,人工客服的工作量不减反增。

然而,AI正在吞噬着人工客服补漏时产生的数据,飞速进化。这场“AI大规模取代人工客服”的变革并非遥不可及的幻想,而是随时可能降临的现实。

而当AI真正成熟的那一天到来时,今天的这些“清洁工”们将发现,他们投喂的每一份经验,都成了吞噬自己的养分;他们修补的每一个缺陷,都成了自己职业城墙的缺口。

替AI背锅的人工客服

用户:“啊?这么贵啊?”“那祝你们生意兴隆哈!”

AI客服:“感谢您对我们品牌的支持,请您尽快下单~”

用户:“你是听不懂人话吗?”

在与电商平台客服的聊天对话框中,用户丢下差评后匆匆下线,留下客服实习生白晓慌忙撤回了这条不合时宜的感谢语。用户的那句“祝生意兴隆”明显带着讽刺意味,他是对安装费较高表达不满。

然而AI客服的情绪识别能力有限,无法分辨反讽与真心赞美,只是机械地根据“祝福语”关键词匹配出感恩话术。这不仅没有缓解矛盾,反而火上浇油。

2025年5月9日,白晓入职了一家为平台自营网店提供服务的第三方客服外包公司。尽管平台的AI客服号称集成了智能体和大语言模型,但在实际应用中仍频繁出现低级错误。

当AI客服激怒用户后,接盘的人工客服往往成为无辜的出气筒。

按照设计流程,用户进入客服页面后首先由AI接待,遇到超出知识库范围的问题或检测到情绪化语言时,AI会主动提供转人工服务。但转接后,AI依然不会完全退场,而是在人工客服忙碌的间隙继续插入“感谢”或“抱歉”等自动回复。

前面这起闹剧正是源于AI客服“见缝插针”的回复。

人工客服吐槽AI

幸运的是,这些差评后来被小组长认定为“非客服责任”,没有影响她的绩效。第三方外包公司规模较小,组长和项目经理会审核差评的责任归属。而在某在线旅游大厂国际业务部门担任英语客服的田玥,就没这么幸运了。

田玥公司的AI客服系统声称接入了DeepSeek这样的大模型,但依然麻烦百出。

有一次,伦敦希斯罗机场起火,用户想要改签,但是AI客服一直在答非所问,没有及时提供改签的按钮入口,用户的心情自然与机场一般火势熊熊。

此时,系统监测到用户情绪不佳自动转人工,而对话界面左下角的评价按钮也随之从“给AI评价”变成“给客服评价”。最后评价变成了对田玥不满意,但用户很难注意到这个细微变化。

针对AI的差评往往落到人工客服头上,直接影响绩效评分和工资收入。田玥感到这实在荒谬。

田玥曾听说公司的AI客服团队会根据差评案例优化模型,于是通过反馈渠道投诉客服评价界面不清晰的问题,但问题至今没有得到解决。虽然有些团队会剔除这类差评,但田玥所在的团队并不会做排除,她推测可能是因为业务量太大,团队无暇分析差评的责任归属。

成都某智能体AI客服创业公司CEO徐客有电商背景,对当前客服机器人的局限性有深刻的感知。据他介绍,市面上许多平台虽然声称接入了先进大模型,但实际调用频率很低。

当用户提问时,系统优先调用传统的意图识别或关键词匹配,在知识库中寻找预设的低成本固定答案。

只有在“问答对”知识库中检索不到答案时,才会调用大模型对“未知问题”进行补充回答。意图识别的计算成本极低,而每句都调用大模型会产生巨大算力消耗,平台这样做是出于降本增效的考虑。

此外,平台首要保证的是系统的稳定性,哪怕传统AI回复是错的、机械的,也比不可预测的、可能“失控”的大模型回复要稳妥。这样的客服机器人缺乏真正理解对话上下文的能力,倾向于基于用户的上一句话去进行简单的问答匹配,这就会让AI客服陷入“关键词陷阱”和情绪误判。

尽管AI客服漏洞百出,白晓所在的公司仍要求人工客服接线时必须开启AI。为差评背锅的委屈还能被看见,但白晓接待每位用户时都需要对AI的自动回复进行撤回和道歉,这让她平白增加了大量隐形的额外工作。

AI客服通过识别关键词来判断用户需求,常常出现失误。比如用户询问“安装师傅的联系方式”,AI只识别到了“安装”,输出安装指南 ,却没有正面解决用户的问题,这时候白晓得一条条撤回,解释道歉,再做出新的回复。

另外,AI自动回复总是使用特定话术,但平台质检要求同类话术不得使用两次以上。这时白晓也要撤回AI的自动回复。AI发送速度很快,有时白晓超过2分钟无法撤回,只能向用户道歉。更荒谬的是,一般情况下撤回后的道歉有两套统一话术,但一串对话中AI客服惹的麻烦往往超过两次,统一道歉话术很快用完,白晓只能重新组织语言道歉。

被激活的AI客服如同一架盘旋在白晓头顶嗡鸣的直升机,无孔不入地干扰着她的工作。

还没出现的赢家

急于上线的AI客服错漏百出,不仅没能减轻人工客服的工作负担,反而加重了情绪劳动。而那些期待通过AI客服来实现降本增效的商家,同样大失所望。

90后的潘艾在一家做鞋类的中小品牌的客服部担任管理层,她负责的店铺在国内电商主流的平台都已入驻,包括天猫、京东、得物、唯品会,还有抖音、快手、小红书等新媒体平台。

2024年年底,潘艾团队在平台AI客服之外尝试自己接入第三方智能体AI…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/zhinengkefu/2025071029348.html