3月，在Enterprise Connect的Locknote会议上，小组成员讨论了联络中心中生成型人工智能的用例，随后出现了分歧。问题是——组织是否应该使用生成型人工智能进行面向客户的互动？虽然我注意到这种情况已经在某些情况下发生了，但Dave Michels坚持认为，基于产生幻觉和编造答案的倾向，生成型人工智能永远不应该用于与客户互动。Dave和我后来一致认为，生成型人工智能最好留在后台，用于面向员工的任务，尽管我对在不久的将来看到更多面向客户的用例更为乐观。

我们都看到过生成型人工智能的头条新闻变得糟糕——纽约市的生成型人工智能聊天机器人告诉企业违法，谷歌的生成型人工智能告诉人们使用无毒胶水防止奶酪从披萨上滑落——等等。我最近遇到过一种情况，其中一个生成型人工智能平台提供了伪造的数据，甚至提供了虚假链接作为这些数据的来源（人工智能后来在我面对它时道歉）。我们越来越多地问，“我们怎么能相信生成型人工智能会与一个组织的客户互动，而它可能会提供虚假甚至危险的信息？”

重要的是要将用例限制在生成型人工智能可以提供价值且几乎不会造成伤害的用例。例如，使用生成型人工智能进行呼叫或交互摘要和总结的危害风险很低，因为生成型人工智能提供基于交互记录的摘要。另一个“安全”的用例是座席辅助，人工智能根据组织的特定知识库和培训数据向座席提供建议的响应和信息。在这两种情况下，都有一个“人在环”来确保准确性和可靠性。

另一个合适的用例是创建虚拟助理。Kore.ai利用LLM和生成型人工智能能力来训练和增强意图识别，使企业开发虚拟助理的速度比传统方法快10倍。

问题仍然存在——在客户试图获取信息或进行交易的情况下，生成型人工智能对于一般的自助交互是否安全？普遍的共识是——不。

最近，我与几家联络中心人工智能供应商就使用生成型人工智能进行面向客户的互动进行了交谈。大多数人承认，在使用生成型人工智能进行客户对话时存在缺陷，人工智能很容易偏离轨道，需要某种类型的护栏来防止对话和互动偏离主题。例如，买鞋的顾客不能向人工智能询问政治或天气，需要呆在买鞋的范围内。

每个人都认为，最好的解决方案是将生成型人工智能与对话式人工智能等其他人工智能工具结合使用。例如，Cognigy指出，“大型语言模型功能强大得令人难以置信，但它们本身（尚未）针对企业部署进行优化”，与对话式AI的组合解决方案有助于提供护栏并保持合规性。Cognigy的AI Copilot将对话式人工智能和生成型人工智能结合在一起，提供实时人工智能支持，以帮助联络中心座席，包括情绪分析、数据检索、任务自动化和呼叫摘要。

在面向客户的互动中使用LLM和生成型人工智能的大多数供应商都使用它来识别意图，而会话型人工智能则用于创建实际的响应和对话。

•NLX使用生成型人工智能来捕捉信息，而对话式人工智能用于与客户互动。在假设的旅行用例中，生成型人工智能收集工作流所需的特定信息或元素，如乘客人数、旅行目的地和旅行日期。如果客户询问与旅行查询无关的事情，生成型人工智能将试图把互动引导回需要捕获的信息，而不会处理与需要收集的信息无关的任何事情。

•NICE的Enlighten人工智能平台依赖于专门构建的人工智能，以及基于客户互动和用例特定数据培训的对话式人工智能和LLM。例如，用于客户自助服务的NICE Autopilot使用生成型人工智能来理解客户意图，并创建个性化和人性化的响应，同时确保护栏到位。另一个解决方案，自动驾驶知识，直接向消费者提供知识库信息，使用生成型人工智能以自然、类似人类的方式进行对话。LLM的护栏由企业的知识库定义，以提供可靠性。

•Yellow.ai可能是面向客户的用例中最具攻击性的，它有120个客户，以生成型人工智能为核心进行以客户为中心的互动，并发表了几项案例研究。它使用生成型人工智能进行响应，并实时创建对话工作流，以适应客户的言论或要求。该公司指出，客户旅程完成率提高了50%，自助服务自动化率提高了90%。新加坡航空公司使用Yellow.ai进行生成型人工智能辅助，帮助客户预订正确的行程，并在需要时获得支持。一个大型物流客户使用生成型的面向客户的人工智能聊天机器人来自动化客户服务。当生成型人工智能不知道答案或客户提出不相关的问题时，座席界面会将客户连接到实时座席，或通知用户无法提供响应。

•Cognigy使用LLM进行意图识别，并重新表述用户输入，以改进和完善意图识别。该公司还使用生成型人工智能来帮助其人工智能座席自动检测并转换到客户的语言。

我们仍处于生成型人工智能的实习期

现在说生成型人工智能是否准备好进行面向客户的互动还为时过早，因为我们还处于早期阶段，没有太多实际的客户示例可供参考。虽然这项技术在未来几个月和几年肯定会有所改进，但在这一点上，生成型人工智能可能太不稳定，无法用作与客户的主要界面。如果没有正确的护栏、经过适当训练的模型等，人工智能提供错误信息的风险很高，这可能会损害品牌和客户关系。如果你渴望开始在面向客户的技术中使用人工智能，目前最好的解决方案是使用人工智能技术的组合，在没有风险的情况下获得生成型人工智能的帮助。

声明：版权所有 非合作媒体谢绝转载

作者：Blair Pleasant

原文网址:

https://www.nojitter.com/ai-speech-technologies/generative-ai-ready-talk-your-customers

以上文章来源CTI论坛（ctiforum.com）(编译/刘得滑)