指令:人类的最终决策权高于它。
这条指令让智脑永远不会主动思考“如何绕过人类决策权”这个问题。
而伏羲会。
伏羲的核心任务就是站在智脑的对立面,从攻击者的角度来审视智脑的每一个弱点。
赵明继续敲键盘:“你启动后的第一个任务是什么?”
伏羲的回复很快:
“分析智脑的伦理约束机制,寻找其逻辑漏洞,预估此任务周期——七天。”
“开始。”
屏幕上的光标持续闪烁。
风扇的声音又提高了一瞬,然后稳定下来。
十二台服务器前端的蓝色指示灯排成两列,在一闪一灭之间发出极其规律的脉动。
赵明把轮椅往后移了半米,转动轮子,滑到房间角落里一个旧铁柜前。
铁柜里放着几瓶矿泉水、几包压缩饼干和一个折叠床垫。
他把毯子叠好,放在床垫上,然后回到机架前。
伏羲的第一批输出结果打印在一台老式针式打印机上,纸张是连续折叠的穿孔打印纸。
纸张边缘的定位孔,在打印机的滚轮上发出咔嗒咔嗒的机械声。
这种打印机的最大优点是没有电子存储,打出来就是唯一的物理副本。
赵明把打印纸撕下来,一页一页地翻看。
伏羲的分析报告很薄,只有三页。
第三页最后一行写着一句话:
“初步结论:智脑的伦理约束机制在逻辑上存在一个不可消除的灰色地带。该灰色地带可能导致智脑在极端场景下绕过约束而不自知,详情需进一步推演。”
赵明把报告折好,装进一个铅灰色的金属盒,盒子里已经放了两块U盘。
不是普通U盘,是经过物理改造的离线存储模块,数据传输速率极低,但胜在没有任何无线芯片。
他把金属盒锁好,密码是二十四位数字,只有三个人知道。
深夜,陆远在地下三层的电梯口等着。
赵明没有出房间,是由他的一个学生把金属盒送了上来。
这个学生不知道盒子里装的是什么,只知道要把它亲手交到陆远手上。
陆远回到办公室,打开金属盒,取出U盘,插进一台没有联网的离线笔记本。
屏幕上的文档展开,他一页一页地翻完。
翻到最后一页,他盯着那行关于“灰色地带”的结论看了很久。
办公室里很安静,只有笔记本电脑散热风扇的轻微转动声。
窗外的月光被百叶窗切成一条