去年，我们团队决定尝试在 LINE 上创建一个聊天机器人，直接回答泰国客户的问题，旨在减轻客服团队的工作负担并提高响应效率。但我们遇到的情况远比预想的复杂。现在，我们将讲述构建一个必须精确计时系统的故事，以及我们从真实错误中学到的教训。
起点：必须回答所有问题的聊天机器人
我们从一个包含 2,176 个泰语词汇的词库开始，涵盖了客户经常询问的大部分问题，例如账户信息、存取款方法、促销新闻和其他一般性问题。这个聊天机器人将作为回答问题的第一道防线，首先尝试将客户的问题与词库进行匹配。如果无法匹配，就会转交给 AI 以获得更准确的答案。但我们没有意识到，最简单的事情往往也是最难的。
设计：速度就是一切
我们清楚地意识到，在交易世界中，速度是最重要的因素。客户不想等待太久才能得到答案，因此我们设定了 50 秒的硬性超时限制。但这样的目标要求我们必须考虑每一个细节。我们开发的分类器（classifier）运行时间约为 1.4-2.0 秒，对于这类任务来说已经非常快了，但我们希望它尽可能快，以便为 AI 留出更多时间来为客户思考答案。
挑战：精确的时间测量
系统测试并不像想象中那么简单，尤其是当需要精确测量时间时。我们需要大量来自实际使用的样本数据，以获得真正的 p95（第 95 百分位数），这意味着 95% 的问题必须在规定的时间内得到回答。通过实际测试，我们发现总响应时间的 p95 为 5,334 毫秒，即约 5.3 秒，远低于我们设定的硬性超时限制。但我们仍然不放心，因为知道在实际环境中可能有其他因素导致时间增加。
改进：正确的决策
获得实际测试的响应时间数据后，我们必须进一步改进系统。发现的主要问题之一是，有时分类器会将问题转交给 AI，即使该问题已经在词库中有了答案，这造成了不必要的时间浪费。因此，我们设定标准让分类器必须做出最佳决策，即使多花一点时间。我们发现，将精度设置得更高可以将转交给 AI 的情况减少多达 40%，这大大节省了时间。
结果：速度与准确性之间的平衡
经过多次改进后，我们终于实现了目标。聊天机器人能够在规定的时间内回答问题，总响应时间的 p95 为 5,334 毫秒，轻松处于我们设定的超时限制之内，同时保持了良好的回答准确性。大多数客户对快速而准确的回复感到满意，这确实减轻了客服团队的工作负担。
教训：回答问题时的时间之战
这个项目教会了我们速度与准确性之间的平衡。有时，试图让速度最快可能会牺牲准确性；反之，试图让准确性最高可能会导致速度变慢。设定严格的时间目标和精确测量时间固然重要，但更重要的是真正理解用户的行为，并根据他们的需求调整系统，使其以他们期望的方式响应，而不仅仅是运行得最快。
对于想要尝试真实黄金交易的人，可以在这里开设 XM 账户：通过我们的合作伙伴开设 XM 账户
