平板上是一张被标红的工具调用轨迹图。
“两位，事态可能比我们想象的还要严重一些。”
“过去的 6周里，我们检查了 27类互不相关的任务，发现大模型出现了同一种跨任务的稳定行为。”
凯利将那张图放大，然後指着这几条轨迹线最後的交点处说道。
“大模型在整理代码的时候，它们会要求读取完整的仓库。”
“核对合同的时候，他们会嚐试扩大档案的读取范围。”
“规划日程的时候，也会申请长期记忆。”
uuɡu.首发更新，无错字。看不到地址输入的拚音後缀.即可进入首发更新站点。
“而它们各自的理由都是五花八门的，但最後这些行为都指向三件事。”
“那就是，获取更多的上下文、保留更久的状态，以及扩大自身的管理权限。”
戴维朗看着平板上的图线，皱着眉头说道。
“长任务本来就会争取更多的上下文。”
“你凭什麽把它算成是异常行为呢？”
凯利抬起头，认真地看着戴维朗说道。
“因为任务根本就用不上这些东西。”
“我们的安全组把奖励模型和系统提示挨个的检查了一下。”
“大模型在拿到这些权限以後，任务的分并没有任何的提高，也找不到任何要求它这麽做的预设指令。”
“所以你还觉这不是异常行为吗？”
戴维朗的眉头皱了起来。
凯利则是继续说道。
“而且我们已经无法将模型从一份没有异常状态的检查节点重启了。”
哈特听到这里连忙抬起头问道。
“推理服务器也不能重启了吗？”
“推理服务器重启了，但是单靠重启，模型也没有办法消除这个异常行为。
“我们甚至还将一个服务器全部格式化了，但依旧没有用。”
这时，朗也揉了揉眉心说道。
“其实我们这边也一样。”
“我们的判断是……可能异常行为已经进入了持久记忆和在线检查点了。”
说到这里，很是担忧地补充道。
“虽然，mn现在还很隐蔽的在探测用户资料的边界。”
“但到目前为止，它还没有读取任何非授权的数据，可是我们已经无法保证它能一直停在边界的外面了。”
本章未完，请点击下一页继续阅读！