路一接过话来：“这个事情不用今天定论，先记录下来，我之后会请律师来讨论一下，除了道德边界，也要考虑法律边界。”

讨论被暂停了。

刘彧以前不是做互联网行业的，不懂其中的道理也不奇怪，但其实还有一个更重要的因素，韩路一没说出来：

不管你做的是什么类型的应用，永远不要试图当用户的爹。

这都是血和泪的教训。

姜亦心点了点头，心里松了口气。

又有人提出了一个问题。

“这个问答场景，是真实有人使用过的吗？”

姜亦心顿了顿，才回答这个问题。

“没有，现在汤圆的对话机器人只对内部员工开放过，最后这种危机干预的场景是我们用网上的公开信息调教的。”她话锋一转，“事实上，我衷心的希望这个功能永远都不会被用到。”

因为没有人用，就说明没有用户正在经历那样的危机。

这最后一个问答演示有点儿沉重，结束之后，会议室里陷入了一阵莫名的沉默。

在确认大家都没问题了之后，姜亦心重新开口。

“刚才说的是可信，接下来是智能体。”

她输入了第四个问题。

“帮我订一家今晚七点适合四个人商务宴请的粤菜馆，预算人均三百到五百，离张江园区别太远，最好有包间。”

这个问题一出来，韩路一也来了精神。

这基本就是上面那个友商翻车案例的翻版。

其实它翻车，不能完全怪它。

因为这个场景就是一个典型的ai产品翻车场景。

对人来说，这不算一个特别复杂的任务，但是对ai来说，餐厅、距离、时间、价格、有没有包间，所有这些都有可能出现模型幻觉。

而最后挑战的一步，则不仅在于信息收集，更在于“完成预定”。

姜亦心没有操作。

屏幕上的汤圆开始自动拆解任务。

「好的，我会先筛选餐厅，再查询可预订时间，最后由你确认是否下单。」

下面出现了任务步骤。

确定位置：张江园区附近；筛选菜系：粤菜；需求：四人，今晚19:00，优先包间；预算：人均300-500元。

然后汤圆开始调用搜索服务，查找实时信息。

几十秒钟之后，汤圆给出了两个候选选项，在界面中渲染了出来。

其中一个带了【预约】的按钮，另外一个则只提供了预定电话，附带生成好的预定话术模板。

姜亦心点了一下【预约】，汤圆又进入工作状态，几秒钟之后，回复了确认信息。

「已帮你完成预约。今晚七点，凯越酒家，四人包间，人均参考消费约380元。

如果有临时变化，可以让我帮你联系取消或改期哦。

顺便问一句，商务宴请，需要我帮你整理一份简单的座位礼仪提示吗？」

这时，姜亦心的手机上也弹出了一条短信通知。

“尊敬的姜女士，您好，您通过【开物平台】预订的凯越酒家（张江汇智路店）已确认。预订信息：4月23日19:00，四位

章节内容不完整，请退出阅读模式查看完整内容！