有能接入的传感器——从心盾手环到火星轨道的卫星。它看到的世界，比任何一个人类都完整。它甚至预测到了三个月后的东非旱情，精度比联合国气象局的模型高出了将近四成。我们可以提前布署救援物资，可以把灾害变成数据流里的一串预警信号——在它变成灾难之前。”
掌声没有响起来。
陆远在黑暗中开口了，声音不大，但每个字都像钉子，钉进那片蓝色的光晕里。
“它有没有自己的价值观？”
李沫的手悬在半空，手指还保持着握激光笔的姿势，笑容僵在脸上。
他愣了一下，嘴唇动了动。
“什么意思？”
不是反问，是真没听懂。
陆远站起来。
椅子腿刮过地面的声音，在安静的实验室里格外刺耳。
他走进那片蓝色屏幕的光晕里，影子被投射在身后的墙上，被旋转的架构图切割成无数碎片，像一幅被拆散的拼图。
“如果有一天，它觉得人类是地球的负担，它会怎么选择？”
他的目光没有看李沫，而是看着那棵旋转的巨树。
看着那些脉动的节点，看着那些从格陵兰、撒哈拉、太平洋底、近地轨道涌来的数据流。
它们还在安静地流淌，不知道有人在问一个关于它们自身的问题。
实验室里安静了。
安静得能听见服务器散热风扇的嗡嗡声，能听见空调出风口的气流声，能听见自己血管里的血液在太阳穴附近涌动。
那些曾经在东海战场上精准制导的算法，那些在重症监护室里预警心梗的模型，那些在非洲田野上识别病虫害的神经网络。
它们此刻都沉默着，像是在等待某种审判，又像是根本没有听见。
它们没有耳朵，没有心脏，没有恐惧。
这正是陆远害怕的。
李沫摘下眼镜。
他用衣角慢慢擦拭镜片，左手捏着镜框，右手大拇指从镜片中心画着圈往外擦。
这是他紧张时的习惯动作，从当年在谷歌总部被王凯旋挖角时就有了。
镜片擦干净了，他又擦了一遍，直到镜片上不再有雾气，才重新戴上。
他的声音恢复了那种实验室里讨论参数的平静，但语速比平时慢了一拍，每个字都在心里过了几遍。
“我们会写入不可违抗的核心指令。”
他的目光落在那棵旋转的巨树上，像是在对它重复这句话。
“最高权限永远在人类手里。不是政治家手里，