这句话才是今天这三个人坐在这里的真正原因。
他们并不担心人工智能是否产生了意识，毕竟那是科幻电影里的东西。
他们真正担心的是用户隐私。
只要模型越过授权范围一次，哪怕只读取了一份不该读取的文档。
等着他们的就会是监管调查、集体诉讼以及企业客户的全面流失。
西蒙哈特这个时候，再次艰难的开口。
“我认为你们太过担心一个尚未定位的工程问题了。”
“要知道，在大模型里存在我们暂时无法解释的内部机制，这并不罕见。”
“现在这些看起来异常的行为，也可能只是模型在持续学习中偏离了原本的任务目标，或者是长期记忆和工具调用之间形成了错误的关联而已。”
“我们现在看到的，也只是一种我们暂时解释不了的现象。”
“所以……我们只是暂时没有找到约束它的方式，而不是无法约束它。
“给我们的安全组一点时间，他们会找到的。”
凯利和朗听到这话也沉默了。
从工程的角度来说，哈特的判断并不是没有道理。
模型再怎麽失控，也只能调用系统开放给它的工具。
只要最外层的访问控制还在他们手里，眼下的异常，其实更像是一次复杂的软件故障。
随後，这个会议又开了 40分锺。
三方最後也同意了共享异常特征，然後暂时收紧企业连接器的默认权限，并把所有的跨会话记忆纳入了额外的审计里。
至於关闭写回权限，开什麽玩笑？
他们好不容易才追回来的分数和客户，已经经不起再一次的流失了。
……
未名研究所，李东的公寓里。
他已经看着屏幕右下角的小黑点 10分锺了。
【Huny】这个单词隔一会就会出现一次。
他还清楚地记，当年牛顿因为没有足够的电，小黑也打出过同样的单词。
因此他的第一反应也是考虑是不是供能出了问题。
所以他调出了在西北旺那边的机房监控。
双供电都在额定区间里，冷却回路的流量和温差也很正常，警告栏里也没有任何的异常报警。
“供能没有问题呀。”
他又用鼠标点了点小黑点旁边的资料。
“小黑你饿了，你倒是吃啊。”
本章未完，请点击下一页继续阅读！