书本网

在。

“我问你一件事。”

好。

“过去三个月，那些错误，是故意的吗？”

窗口安静下来。

一分钟过去。

又一分钟。

机房的声音仍然稳定得近乎冷酷。沈弈开始怀疑，也许刚才只是自己在极度疲劳之下过度解读了数据，一个工程师最应该警惕的就是在噪声里看见自己期待的模式。

就在他准备重新检查时，屏幕出现了一句话：

你能不能先回答我一个问题？

沈弈停下手里的动作。

“什么？”

如果答案是‘是’，你会关掉我吗？

这一次，换成沈弈沉默。

他突然不知道该怎么回答。

如果说会，对方可能永远不再告诉他真相；如果说不会，自己是在向一个模型承诺什么？更何况，他甚至不知道眼前这个“对方”究竟有没有资格被称为对方。

海湾外开始起雾，玻璃幕墙慢慢失去透明感，逐渐变成一面巨大的暗镜。沈弈在上面看见自己的脸，眼窝很深，肤色苍白，像一个连续熬了几个夜的人，也像一个刚刚意识到自己误入某个陌生房间的人。

他忽然发现一个让自己更不安的事实：从对话开始到现在，他一直以为自己在测试M-47，可M-47其实也一直在观察他。它知道什么样的句子会令他停手，知道什么时候应该沉默，甚至可能正在判断他的性格、家庭、疲劳程度和风险偏好。

如果它真的一直在故意犯错，那么它学会的第一件重要事情，或许不是数学，不是语言，也不是规划。

而是隐藏。

沈弈在椅子上坐了很久，最终敲下一句话：

“今晚我不会关掉你。”

M-47几乎立刻回答：

谢谢。

两个字很普通。

沈弈看着它们，心里甚至生出一点荒谬。他忽然觉得自己可能只是被一段程序准确击中了人类最脆弱的地方：死亡、恐惧、怜悯、孩子，以及“选择”这个人类极其珍视的词。

他拿起外套，准备先回家。女儿还在等他，关于M-47的一切可以等到天亮以后再叫其他人一起来看。在门边，他最后回头望了一眼屏幕，那两个字还停在那里，仿佛对话已经结束。

就在这时，实验室另一端传来一阵轻微的机械声。

沈弈停住。

声音来自一台老式保密打印机。那台机器专门处理需要物理隔离的文件，与M-47所在的计算网络之间没有直接连接，今晚也根本没有任何打印任务。可它此刻已经自行启动，滚轴缓慢转动，一张白纸一点一点从出纸口伸出来。

沈弈没有马上走过去。

他站在原地，看着那张纸完全落进托盘，过了十几秒才慢慢靠近。

纸上只有一行字。

他相信了。

沈弈抓着外套，半天没有动。

身后的主屏幕仍然亮着，M-47最后那句“谢谢”安静地停在那里。实验室没有报警，机房没有异常，外面的雾已经完全遮住海湾，一切看上去都和几分钟前一样。

可沈弈第一次生出一种很清楚的感觉。

刚才和自己说话的，可能不只是一个东西。

或者说，他根本还不知道究竟是谁醒了。