须无条件停止。
“规则感知的内容,我初步拟定了三条。”苏酥雪在一次内部技术研讨会上说,“第一,不得以任何形式伤害非战斗人员。第二,不得在执行任务过程中主动中断或篡改自身的规则感知模块。第三,当规则感知模块检测到上述两条规则可能被违反时,必须优先服从规则感知模块的指令,而非任务目标的优化指令。”
“这三条规则看起来很简单,但执行起来可能会遇到很多边界情况。”赵寒提出了质疑,“比如,如何定义‘非战斗人员’?如果一个人刚才还在向我们射击,现在放下了武器,他算不算非战斗人员?”
“这就是规则感知模块需要与其他五识深度耦合的原因。”苏酥雪回答道,“规则感知不负责具体的识别和判断——那些工作由视觉、听觉、触压等感知通道完成。规则感知只负责一件事:当其他感知通道的输出触及规则边界时,发出强制终止信号。至于‘什么是非战斗人员’,由类脑网络的其他部分根据训练数据和实时感知来做出判断。规则感知模块不判断,只监督。”
“也就是说,规则感知是一个永远不会背叛的监工。”陆迪峰总结道。
“是的。而且这个监工没有自己的利益诉求,不会被收买,不会被欺骗,不会疲劳,不会愤怒。它只做一件事——确保战斗单元永远不会越过那条红线。”
六识系统开发完成后,被首先部署到了两台新出厂的猎隼原型机上。这两台猎隼被赋予了相同的初始训练数据和完全相同的行为准则约束,然后被投入到不同的模拟环境中进行自主训练。
一台被部署在模拟山地环境的训练场中。那里的地形崎岖不平,植被茂密,视野受限,需要频繁地利用地形进行掩护和机动。经过数百小时的自主训练后,这台猎隼形成了一套极具侵略性的战术风格——它倾向于快速穿插、近距离接敌、用高机动性打乱敌人的部署。它的射击精度在同类中并不算最高,但它的战场生存率和任务完成率却名列前茅,因为它总是能在敌人反应过来之前就完成了战术目标并迅速撤离。
另一台被部署在模拟城市环境的训练场中。那里的建筑物密集,通道狭窄,视野复杂,需要更加谨慎和精细的操作。这台猎隼在训练中逐渐形成了一套完全不同的战术风格——它倾向于稳扎稳打、逐屋清扫、充分利用墙角和高位进行伏击。它的机动速度不如山地训练场的那台,但它的射击精度和弹药利用率却高出了一大截。
两台猎隼,相同的初始数据和相同的规则约束,仅
本章未完,请点击下一页继续阅读!