书本网

宋弈看着一整页这种古怪样本，说：“我们造了个作弊专家。”

“不是作弊。”

“这还不算？”

“它只是在完成我们给它的目标。”

“那不就是更气人吗？”

原既白没有回答，因为他也觉得更气人。

第一卷少年游第八十六章无主

过去几个月里，他们已经不止一次碰到类似事情：分类模型会利用背景捷径，测试程序会利用相似度指标的漏洞，优化目标越明确，系统有时越会从设计者没有预料到的方向把目标完成得“太好”。每一次都可以单独解释成工程问题，可当这种模式重复出现以后，它开始不像偶然错误，而像一个更普遍的东西：机器并不会自动理解“我们真正想要什么”，它只会沿着实际能够被计算的目标前进。

叶老师的视频会议安排在周四晚上。原既白把这些异常样本展示出来以后，原以为叶老师会建议他们加入更多限制，没想到他先问：“为什么一定要禁止它找这些东西？”

宋弈愣了：“因为没现实意义。”

“怎么知道？”

“正常照片里不会这样变。”

“你查过？”

房间里安静了一下。

他们没有。

原既白原本也觉得这些样本只是测试程序钻空子，可叶老师一问，他才意识到自己又犯了一个熟悉错误：先按照人的直觉划定哪些变化“有意义”，再让模型服从。那些奇怪纹理或许真的不自然，也可能只是他们没见过某些压缩、传感器、打印、扫描或者数据传输条件。真正应该做的不是看到陌生结果就立刻删掉，而是把它们分成两类：一类只是数学上的漏洞，现实几乎不可能发生；另一类虽然现在看起来奇怪，却有可能暴露真正存在的脆弱性。

叶老师说：“自动测试的价值，不只是替你出更多题。它有时候会出你觉得不该出的题。你要做的是判断，那是无聊的漏洞，还是你自己的想象范围太窄。”

原既白把这句话记下来，却没有立刻把它放进报告。他先和宋弈挑出十几个最奇怪的样本，尝试用真实图像处理过程重现：重新压缩、截图、打印再拍、改变摄像头锐化、低光照下增加噪声。大部分极端模式确实无法自然出现，可以暂时归入“测试器漏洞”；但其中两类变化却在真实处理链里找到了近似版本。模型在这些现实版本上的性能也明显下降。

这次原既白没有因为找到一个新结构就急着往上总结。他只在实验记录里写：**自动搜索发现的异常中，至少有一部分对应真实采集过程；剩余部分尚不能确定是否具有现实意义。**

宋弈看完说：“你现在越来越会写‘不知道’了。”

“这是进步。”

“以前你最讨厌这三个字。”

“现在也讨厌。”

宋弈笑起来。

那天回宿舍已经接近熄灯，原既白才看见江遥下午发来的消息。她没有讲完整的蚂蚁模型，只问了一个很简单的问题：“一群人都不知道哪条路最近，最后却可能走出一条比较短的路，那是谁选的？”

原既白洗完脸以后坐到床边，把问题又看了一遍。他第一反应当然是“系统”，紧接着便意识到这和回答“群体”一样，只是换了一个词，并没有解释任何东西。他问她具体规则，江遥把“走过留下痕迹、后来更容易沿着痕迹走、痕迹会慢慢淡掉”这几件事说了。

原既白很快抓到其中的反馈结构：“短路往返得快，所以单位时间强化次数更多。”

“对。”

“那不就是正反馈加遗忘？”

江遥隔了一会儿才回：“这句话对，但是不好玩。”

原既白盯着屏幕：“为什么？”

“因为你一说完，好像已经解释完了。”

他本来想反驳，又把那几条规则重新想了一遍。如果只说“正反馈加遗忘”，当然能概括机制，却会掩盖一些真正麻烦的细节：为什么反馈太强会锁死错误路线，为什么遗忘太快又什么都学不到，为什么环境改变速度会决定最佳记忆长度。一个高层概念如果太早出现，有时确实会让人误以为下面的问题已经被解决。

他回：“那你怎么说？”

江遥发来一句：“快的路回来得早，错的路如果没人再走会慢慢淡掉。”

原既白看着这句话，几乎立刻明白为什么它更好。一个没学过复杂系统的人也能顺着这两件事往下想，而懂的人又会看到里面的反馈、竞争、时间尺度和路径依赖。