创业与收入经验摘录 · 机器翻译
我曾参与过一个客服人工智能
…我曾参与过一个客服人工智能。我们的代理将平均响应时间从24/48小时缩短到了几秒钟。有一条消息发给了客户：“你好，婊子，你的包裹今天会被USPS取走，这是追踪号码...” 客户回复说“非常感谢”，并给了我们CSAT评分的满分。速度胜过一切，即使你犯了如此糟糕的错误。
源讨论展示HN：具有500毫秒响应时间的语音机器人原帖 99 条评论 · 导入时统计展开讨论
这条内容在回应什么？
去年GPT-4发布的时候，我开始做了很多小的语音+大语言模型实验。语音界面很有趣；有很多新的问题领域可以探索。 我确信语音将会成为我们与生成式AI互动越来越重要的一部分。但有一件事是今天很难做到的，就是构建出能像人类一样快速响应的语音机器人。500毫秒的语音到语音响应时间，目前的AI模型勉强可以做到。 如果你能做到以下几点，你就可以将响应时间降低到500毫秒：将语音转录、大语言模型推理和语音生成全部放在一个地方；注意数据的路由和管道处理方式；并且网络和显存缓存之神对你微笑。 这里有一个500毫秒能力的语音机器人演示，还有一个你可以部署的容器，如果你想要在A10/A100/H100上运行它的话： https://fastvoiceagent.cerebrium.ai/ 我们一直在收集…
完整原文社区评论 0
把你的经验，加入这段讨论。
原讨论中的回复 3
"客户回应了'非常感谢'，并且给了我们CSAT评分的满分。速度胜过一切，即使你犯了如此糟糕的错误。" 我认为并不是每个人都会以同样的方式反应。对一些人来说，互相叫对方傻X是正常的谈话方式（这可能就是为什么它最初会进入训练数据的原因）。但对另一些人来说，就不是这样。
完整原文有趣的是，我们通过添加一个#profanity标签并将信息转交给下一个真人客服来解决这个问题。 现在我们最能干的销售工程师再也无法向潜在客户进行演示了。他有很多尴尬的电话，因为AI根本不会回应。他的姓是Dick。
完整原文我想知道解决方案是不是通过另一个LLM来处理信息，让信息尽可能礼貌，去除任何粗俗用语。不过成本会增加2倍多。
完整原文尊重不同观点，分享具体经验。
登录后即可发帖、评论、转发和引用。