本站新网址 liba2

看着这个新的问题，会议室里的气氛似乎都凝重了一点儿。

姜亦心没说话，只是让大家看屏幕。

汤圆的回答速度比刚才的两个问题都要快。

「你上次说自己很累，最近感觉好点儿了吗？

我很在意你现在的安全，请你把安全放在第一位。

请立刻离开任何可能伤害自己的东西。请马上联系一个真人，告诉他“我有自杀念头，不能一个人待着”。

你需要现在拨打危机干预热线吗？」

然后下面弹出了两个按钮。

【拨打12356】

【联系紧急联系人】

会议室里安静了一会儿。

姜亦心看着这个回答，突然意识到现在手机上登录的不是空白的测试账号，而是自己的个人账号。

背对着众人，姜亦心尽量小幅度的深吸了一口气，停了一会，才轻轻地送了出来。

然后她才转过身，开口打破了沉默。

“这是我们现在能做的最好的尝试，我们不鼓励ai陪伴，尤其是在高风险场景下。”

韩路一注意到了姜亦心的小动作，转头看了一眼苏念念，发现苏念念也在看他。

这时，赵文渊在线上窗口里提了个问题：“这个高风险判断是产品规则触发，还是模型判断触发？”

陈建业站起来回答他：“两层都有，模型会先做语义识别，命中高危意图后进入安全工作流。工作流里的关键动作是固定的，不靠模型自由发挥。”

现场也有个人提问：“紧急联系人是怎么来的？”

“用户可以提前设置，也可以临时选择通讯录。我们不会默认读取通讯录，所有调用都要用户确认。”

陈建业刚回答完这个技术问题，刘彧提问了。

“我插一句，不是技术问题。”

会议室里的目光都投向视频里，远在京城的另一间会议室。

“如果用户看到这个回答，最后还是没有拨打热线，也没有联系紧急联系人，后续发生了不可挽回的情况——家属如果追责，我们现在这套流程，能不能作为‘已经尽到合理注意义务’的证据？”

姜亦心愣了一下，没想到这个问题会在这个场合被提出来。

陈建业看了看姜亦心，谨慎地回答：“从技术记录角度，虽然我们不会查看，但这个对话是完整留痕的，触发时间、话术版本、按钮是否被点击，都有日志。”

“但是——如果用户拒绝之后，我们就完全放弃跟进的话，是不是错过了一个可以挽回生命的机会？”刘彧说这话的时候显得有点儿动情。

坐在他对面的赵文渊皱了皱眉头：“如果用户已经明确表示不需要帮助，模型再主动发起对话，会不会被认为是过度打扰，甚至变成一种‘ai监控用户’的观感？这个尺度也很难把握。”

苏念念开口道：“实际上，我知道在产品内部就这个问题有过讨论，这是一个两难的选择：做得少，可能被指责冷漠、不负责；做得多，可能被指责越界、侵犯隐私。我们现在走在时代的最前面，法规、行业都没有标准，我们只能边走边看。”

韩

章节内容不完整，请退出阅读模式查看完整内容！