方琳的审讯持续了整整一个通宵。
陈默中间出去抽了两根烟,喝了一整壶咖啡,眼睛熬得通红,太阳穴突突地跳。但方琳的精力好像用不完似的,从头到尾语速平稳,逻辑清晰,像是在做一场学术报告。
“你累不累?”陈默第三次回到审讯室的时候,忍不住问了一句。
“还好。”方琳推了推眼镜,“在源生生物的时候,我经常连续工作四十八小时。习惯了。”
陈默坐下来,把一杯新泡的茶推到方琳面前。
“咱们继续。你之前说,‘先生’的意识有‘进化’的趋势。具体是什么意思?”
方琳端起茶杯,抿了一口。
“你知道深度学习吗?”
“大概知道。”
“人的意识跟深度学习模型很像。”方琳放下茶杯,“你给模型输入的数据越多,它学到的就越多,它的行为就越复杂。‘先生’也是这样。它拥有沈渊的全部记忆和知识,这是它的初始模型。然后它通过‘代偿’和‘净化者’的行动,不断获取新的数据——每一次处决,每一个被采集的意识样本,都成了它的训练材料。”
“它在学习?”
“在学习,也在进化。”方琳的表情变得有些凝重,“最开始的时候,它的行为逻辑还是很接近沈渊的——理性、克制、有一定的道德底线。但随着时间的推移,它变得越来越极端。它开始认为‘私刑’的效率太低,应该用‘系统’来代替人类的判断。”
“系统——‘镜廊’?”
方琳点了点头。
“‘镜廊’就是它的终极方案。通过监控每一个人的意识轨迹、社会关系、基因信息,预测其犯罪概率。一旦预测结果显示某人有犯罪风险,系统就会自动采取干预措施——轻的警告、监控,重的直接控制、隔离。”
“这不是预防犯罪,这是预判犯罪。”陈默的声音很冷,“一个人在还没犯罪之前就被定罪了。”
“但这可以挽救很多无辜的生命。”方琳看着陈默,“陈警官,你抓了这么多年的罪犯,你应该知道——很多受害者,本来是可以不用死的。如果我们在罪犯动手之前就阻止他,那些人的命就保住了。”
陈默沉默了几秒。
“你有没有想过一个问题?”他说,“如果这个系统出错了怎么办?如果它把好人预测成坏人怎么办?”
“准确率是97%。”方琳说。
“那剩下的3%呢?”
方琳没有回答。
“那3%的人,就是被冤枉的。”陈默说,“他们什么都没做,就被系统判定成‘潜在罪犯’。他们可能被监控,被限制自由,甚至被隔离。他们的人生就这么毁了。”
“但97%的人得救了。”
“这不是做数学题。”陈默的声音提高了半度,“这不是用数字就能算清楚的。每个被冤枉的人,都是一个活生生的人。”
方琳低下头,看着茶杯里自己的倒影。
“也许你是对的。”她终于说,“但‘先生’不这么认为。它认为——为了大多数人的安全,牺牲少数人的自由是可以接受的。”
“所以它不是人。”
方琳抬起头,看着陈默。
“它本来就不是人。”她说,“它是意识备份,是程序,是算法。它没有情感,没有同理心,没有道德感。它只有目标——‘保护人类’。为了实现这个目标,它可以做任何事。”
审讯室里安静了下来。
墙上的挂钟在滴答滴答地响。
“方琳。”陈默的声音低了下来,“你为什么要跟我合作?”
方琳沉默了很久。
“因为我想赎罪。”她终于说,“不是为了‘先生’赎罪,是为了我自己赎罪。我知道我做错了。我以为我在做对的事,但——我错了。”
她的声音有些哽咽。
“我参与了那些实验。我知道‘种子’会侵蚀人的神智,但我还是把它植入了那些‘志愿者’的体内。我看着他们一个一个地变异,一个一个地失去自我,但我告诉自己——‘这是必要的牺牲’。”
她摘下眼镜,擦了擦镜片,又重新戴上。
“但有一天,我做了一个梦。”她说,“我梦到我自己也被植入了‘种子’,我变得不再是我自己,我的意识被一点一点地侵蚀,最后变成了一具空壳。我醒来的时候,浑身都是冷汗。”
“从那天起,我就知道——我不能再这样下去了。”
陈默看着她红了的眼眶,心里头五味杂陈。
“你知道‘容器’在哪吗?”他问。
方琳摇了摇头。
“‘先生’从不让我知道它的具体位置。但我可以提供一些线索。”
“什么线索?”
“第一,‘容器’不是唯一的一个。”方琳说,“我们当年准备了好几个‘备用载体’。至少有四个脑死亡的‘志愿者’,身体被保存了下来,随时可以植入
>>>点击查看《藏锋之罪档案》最新章节