的输入和输出都受到底层和顶层的双重约束。”
“也就是说,我们允许模型在中间层自由发挥,但它的输入必须经过底层的安全过滤,输出必须经过顶层的可解释性验证。”
“对。这个架构不能百分之百保证安全,但可以把失控的风险降低到可以接受的水平。”
陆迪峰沉默了很久。他知道,苏酥雪提出的这个方案,是目前技术条件下最务实的安全架构。但他也清楚,任何安全架构都无法完全消除风险——在人工智能这个领域,绝对的 安全 是不存在的。他们所能做的,只是在追求技术进步的同时,尽可能地系好安全带。
“那就按这个方案来。”他终于开口了,“安全机制的优先级,高于性能指标。任何时候,如果安全机制和性能指标发生冲突,优先保安全。”
“明白。”苏酥雪说。她的声音平静如常,但她的眼神中闪过一丝难以察觉的凝重。她知道,他们正在踏入一片未知的领域。前方可能是通往新世界的康庄大道,也可能是深不见底的万丈深渊。
但无论如何,他们已经迈出了第一步。
44460146
陌首提醒您:看完记得收藏【祭司书院】 www.jsshengmin.com,下次我更新您才方便继续阅读哦,期待精彩继续!您也可以用手机版:m.jsshengmin.com,随时随地都可以畅阅无阻...