第二百九十九章 他不是做模型的吗？（为盟主【Dues奶酪】加更） (5/6)

“叫这种外号，你还说你不是三岁。”苏念念嗔怪一声，接着说道，“好了，别打断我，皮查伊——劈柴当年做chm产品经理的时候，别的都不管，就认准了一个指标，用户数量，别的竞争对手在纠结做什么好不做什么好的时候，他就只看一件事，这个功能做出来能不能让用户变多，三年时间，就让chm从籍籍无名成为全球第一的浏览器，把和火狐都打倒了，一直到现在。”

韩路一开口评价道：“久违了，苏总的商业小课堂。故事不错，但是我不太认同。”

“你不太认同什么？”

“我们要的不是语料。”韩路一说，“要是定成收集语料，那所有的调教肯定都是冲着诱导用户多对话去的，每次结尾的时候都要来一句：‘其实你这个问题，我有一个最简单最直接的解决方法，你想知道的话，只需要回答一个好’，跟写网文的钩子似的。是，用户大概率会真的回答一个‘好’，这是很多聊天机器人现在在做的事情，这么做出来数据可能会很好看，但这不是我想要的。”

随着两人的交谈，车已经下了高速，韩路一在一个红灯前缓缓停下，转过头来对苏念念说：“日活、七日留存、对话数，这些都不是我想要的，我想要的是知道汤圆到底在多少场景可以真的起到帮助的作用，有多少场景下纯粹是在添乱。”

“那你的是什么？”苏念念倒是没有因为被否定而不高兴，反而来了兴趣，“你也说这么笃定，总不能只会挑我毛病吧。”

“我的很简单。”绿灯亮起，韩路一松开刹车，“就是要让汤圆知道自己什么时候不知道。”

“什么意思？”苏念念感觉有点儿闷热，把车窗往下摇了一点儿。

韩路一意念一动，空调已经调低了两度，他才反应过来，把手伸到空调旋钮那里转了一圈。

“现在模型最大的问题就是不会说不知道，不会拒绝。”韩路一说，“你问什么它都敢答，语气还特别自信，用户分不出它说是真的还是瞎编的，一旦被坑过一次，以后什么都不信了。我们要的不是显什么都会的机器人，而是能让用户信任的机器人，只要汤圆回答出来的，用户就能信任他不是在瞎说。”

韩路一说这些的时候，想起来前两天见的做a+医疗创业的江九思。

能保证低幻觉，甚至是零幻觉，才是让汤圆能够在高风险行业中落地的关键。

“汤圆要做的不是又一个有趣能聊天的聊天机器人，而是能让用户信任的人工智能助手，这一步必须走小心一些，第一印象很重要。信任一旦失去，就很难挽救回来了。”

韩路一驾驶着车一个右拐，驶入了一片园区。

“这个尝试我们在内测网页版已经在做了，不知道就回答不知道，但是到底什么时候是‘不知道’，有多少场景覆盖，我们还需要更多的数据。”

苏念念这几天也深入了解了现在的市场上主流的聊天机器人，对这个目标抱有疑问：“你说的这个目标，真的能做到吗？怎么实现呢？”

大语言模型作为一个概率预测模型，想要把结果导向“我不知道”这个固定答案，真的可行吗？

这里的挑战当然不是让模型回答“我不知道”，不然你直接对所有问题都回答“我不知道”不就完了吗？

与此同时，真正难的是找到“尽量回答知道的”和“遇见真不知道的时候要承认”之间的平衡。

“当然做到。现在可以先通过提示词工程来限定，同时测量准确率，这个方向御风的经验可以迁移过来；之后我们再考虑通过积累的数据迭代汤圆模型本身。”韩路一说道，“这方面可以让姜亦心和赵文渊去交流，工程层面和模型层面两方面配合，缺一不可。”