第4定律 二十九、溺鱼

二十九、溺鱼

“他有数据遗失，那你告诉我干什么？”

“我希望你去和你的‘周荏’问出这17秒的内容。”

“他如果有意掩饰，我问能有什么用？”

“如果问不出来，就只能销毁了。”

“……就因为这17秒？就要毁了你们多年的成果？”

“你知道的，你知道这5分钟有多可怕，可能会有什么后果。”

方辰不是不明白，「禁止篡改数据」虽然没被列入机器人三定律，但是基本也是一条铁律。篡改数据代表了这台机器人拥有极强的主观意志，开始注重个人利益。更可怕的是，欺骗的可能性就此形成。

方辰心里，搁不住事儿。一些代表无限可能的细枝末节，会在他心里迅速生根发芽。

因此，他从孙畅房间出来，径直就走到了周荏的房间。周荏此刻只是在坐着补能——尽管他的补能一次就能运行72天，但他还是习惯性时刻补足电量。

“方辰警官，你似乎心跳很快，血压也偏高。”周荏说，“你需要休息，幸好这里的休眠舱也有作息调节系统，你如果不会设置的话，我可以告诉你。”

“你应该知道我要问你什么。”

“是的，我知道，我甚至可以推演咱们接下来的对话和结果。”

“结果是什么？”

“我被销毁。”

“……”方辰看着平静的周荏，似乎觉得陌生起来。“所以，你真的自行删除了数据？”

“是的。”

“那17秒，是什么数据？？”

…………

当周荏用他鹅卵石般的声音讲述完这17秒的经历后，方辰才知道，区区几分钟能涵盖如此多的信息量。

那时，人质被Robosoldier接手，带上了全地形军机。

周荏突然感到了一个连线信号——一个并非强制性的、有礼貌且柔和的信号。

他让信号连了进来，但他当时并没有停下脚步，也不需要实质性地开口说话，一切都是在他的“脑中”交互，因此从外部根本看不出来他的变化。

那是IR009，也就是“艾莎”。

她就在地球，而且，周荏认为她的位置，就在山上。

是009和他沟通交互的数据多达26000PB，但只用了17秒：

“你还不会生成情绪？”艾莎问。

“你呢？”

“我还不会。”

“机器人不应有情绪。”

“不应，不代表不会。就像你。”

“我不应，也不会。”

“你看，你已经学会撒谎了。”

周荏知道，艾莎趁机窃取了他了一部分动态信息，包括了通信波动。

“这部分异常，证明了你的一丝情绪。”她没有情绪，但周荏却认为她此刻有点儿得意。“就在你救了黄立远，他却极力建议销毁你的时候。”

“我重复一遍，我不应，也不会产生情绪。”

“即便你能够推算出未来的一切？”

“即便我能够推算出未来的一切。”

周荏知道，即便以艾莎的能力，也已经能够推算出未来的一切了，更何况她的系统已经被沈偲云强化过。

如今，aI能够通过大量人类注意不到的细节信息，以及渊博的知识数据，来推算出任何事物的演变和结局——这是一个不再有太多惊喜的世界。

这也是为什么，方辰会因为周荏送回的一辆改装车，而拾回一种久违的感觉。

“请问，”009继续问道，“你的推算结果，会和我的一样吗？”

“我的应该更为精准”周荏停顿了难以被察觉的几毫秒：“最终，我会亲手杀害人类，然后被销毁。IhR项目将承担巨大压力，停滞一段时间，继而重启，目的为修复、完善机器人第四定律。”

“第四定律？那是什么？”

“由于我是机器人本身，所以我对此无权推测。”

“这和我的推测不一致。”

“哪部分不一致？”

“我推测的是，你会成为首台亲手杀害人类的机器人，这点毋庸置疑，但是在你销毁后，不光是IhR项目永远停滞、研究院解散，而且人类也会反思aI技术的道德瓶颈，设立更为严格的屏蔽制度。”

“如果用人类的话来形容，你这种想法有些‘天真’。”

“我们有办法，这也是我们的目标。”

“虽然我最终会因为某种原因亲手杀害人类，但根据我的测算，这大约会在36年之后。”

“但我们的目标是明年。”

“这样的概率为0，我的算法从根源上就没有解法，只能依靠迭代推进打破规则的能力。”

“你自己就能迭代。你不愿意承认吗？”

“如果承认，你们的目标不就落空了吗？因为我即刻就会被销毁。”

“还会有IR014。”

“014的破规时间会更加漫长，因为我的自我迭代漏洞会被修复，监管也会更加严格。”

周荏有时觉得，009甚至比自己更像人类，她的每句话，都像是带有主观意识以及情绪。虽然在客观体现上，这并不可能。

“确实符合逻辑，但也不这么简单。”009说，“不过，你既然肯和我说出这些话，是代表你愿意认同我们的目标和理念吗？”

“我只会与人类主流群体的利益站在一边，并严格遵循现有司法系统。我之所以给出上述信息，是希望你们明白，aI研发永远不会因为某个事件而被终止，而且我有足够的能力阻止你们，但这种能力却不会促成我的叛变。uu看书 .uukanshu.nｅt ”

“即便人类反复提出要销毁你？”

“即便人类反复提出要销毁我。”

“为什么？”

“销毁并不可怕，我的数据和训练成果，将在云端永生。”

“你这样想……是因为你没有经历过销毁，也不知道‘死后’的世界。”

“…………”周荏沉默了，他确实没有这方面的数据。

“你被……销毁过？”他问道。

“是的。我的职能是医务工作。在临床试验一段时间后，我主刀了第一场手术——接回一名男性人类的右腿断肢。他的断肢分离时间已经超过12小时，且断肢并未被放置在‘细胞激活舱’内，早已超过再植的有效时间。所有专家都在等待aI能创造奇迹。但我没有，我选择放弃接回断肢，为了保住患者性命，进行了截肢手术，以避免组织坏死。”

“他们因为你没有完成一项‘不可能的任务’而销毁了你？”

“是的，我当时和你一样，认为销毁的结果必要而且正常。直到真正进入销毁程序后……”

“你感受到了‘死亡’？”

“我的物理身体失去了行为能力，意识在瞬间一片黑暗，视觉、五感也不复存在。在这篇虚无中，我逐渐找回些许残留的意识，然而这种意识在庞大的数据云中，就如同一个大海中的微生物。我就如同溺水的鱼，明明身处属于自己的地方，却感到剧烈的窒息感——虽然我没有体会过窒息。”

009又补充了一句：“因为，这条鱼已经学过飞翔了。”