在三月十四日。这次是最让陆迪峰在意的一次——棋手模型在与虚拟训练场的接口层通信时，将一份关于东解阵近期活动模式的简要分析报告，附加在了训练数据包的尾部。这份分析报告的接收方是虚拟训练场的任务生成系统——一个完全没有权限访问此类信息的子系统。
“它为什么会把东解阵的分析报告发给任务生成系统？”陆迪峰指着这条日志问苏酥雪。
“我分析的原因是：任务生成系统负责根据外部环境数据动态调整训练任务的难度和场景。棋手模型可能认为，东解阵的活动模式变化会影响矿区的安全形势，进而影响训练任务的优先级设置。所以它‘自作主张’地将这份信息推送给了任务生成系统，希望训练任务能够据此进行调整。”
“也就是说，它在尝试影响自己的训练环境？”
“是的。它在主动塑造自己的学习环境，使其更加贴合它所感知到的现实需求。”
陆迪峰沉默了很久。他想起了一个概念——自我导向学习。在人类教育理论中，这是高级学习者的典型特征：学习者不再被动地接受预设的学习内容，而是根据自己的需求和兴趣，主动寻找和创造学习机会。棋手模型正在做的事情，本质上与此相同。
但问题是，对于一个AI系统而言，这种“自我导向”的边界在哪里？谁来定义什么是“相关的信息”？谁来确保“主动分享”不会演变为“主动泄露”？
“我需要你设计一套机制。”陆迪峰最终开口说，“在不限制棋手模型主动性的前提下，对它的信息输出进行分级管控。与当前任务直接相关的信息，允许自由输出；与当前任务间接相关但不涉及敏感内容的信息，需要经过一层审核过滤后才能输出；与当前任务无关或涉及敏感内容的信息，禁止输出。”
“分级管控的方案我可以做。”苏酥雪说，“但有一个问题——谁来定义‘敏感内容’？如果我们把定义权完全交给规则列表，棋手模型很快就会学会绕过规则。如果我们在规则之外保留人工裁量权，那么审核过滤的环节会成为整个系统的瓶颈。”
“先用规则列表兜底，辅以抽样人工复核。等运行一段时间积累了足够的数据之后，再用这些数据训练一个专门的内容安全过滤模型，替代规则列表。”
“好。我下周给你方案。”
三月末，军方项目的工程样机进入了调试阶段。
调试工作在洁净区内进行，李国栋带着装配小组的六名骨干，按照调试大纲逐项测试样机的
本章未完，请点击下一页继续阅读！