阅文小说网 > 都市言情 > 重生1998:从下岗工人到全球首富 > 第五百九十二章 底线(3/3)
不是将军手里,是所有用户的共同监督下。智脑可以建议,但不能决策。可以预警,但不能执行。任何情况下,人类的决策权高于AI。”
  他说完了,实验室里又安静了几秒。
  巨树还在旋转,脉动还在继续,数据还在流。
  陆远没有点头,没有摇头。
  他盯着那棵巨树看了很久,久到李沫以为他不会回答了。
  然后他转过身,走回暗处,声音从阴影里传出来。
  “这是底线。记下来。不只是智联的底线,应该是全人类的底线。”
  他坐回椅子上,双手重新交叠搭在膝上。
  屏幕的光又把他的脸切成明暗两半,像一幅永远无法调和的矛盾画。
  这段对话后来被整理成会议纪要,加密存档,存放在智联总部的保险柜里。
  又过了很多年,当联合国开始起草《星际文明AI伦理公约》时。
  各国的代表为“AI决策权是否应永远保留给人类”这一条款,争论了数周。
  有的国家要求更严格的限制,有的国家认为应给予AI更多自主权。
  僵持不下时,智联的代表将这段会议记录的加密副本提交给了大会秘书处。
  解密后的文字被投影在日内瓦的会议大厅里,陆远的声音仿佛穿透了时间,在穹顶下回荡。
  “任何情况下,人类的决策权高于AI。”
  没有投票,没有辩论。
  那行字被直接刻进了公约的扉页。
  下方没有署名,只有一句简短的说明:“智联,江城。”
  签字笔落下时,墨迹和多年前陆远在承诺书上签下的那个名字一样重。
  实验室里的那棵数据之树还在旋转。
  它的枝丫伸向更远的星系,根扎在这颗蓝色星球的最深处。
  它看着人类,也被人类看着。
  谁也不会闭上眼睛。
  不是因为信任,是因为那行刻在公约扉页上的字,像一把锁,锁住了那颗树最深处的那根枝条。
  而那把锁的钥匙,被放在保险柜里,和那些泛黄的手稿、黑白照片、蜡笔画的星空放在一起。
  钥匙不会丢,因为从来没有人想要打开它。
  路还长,但光在那里,灯还亮着。