第4定律 三十六、自己

三十六、自己

“你为什么没有告诉孙畅和欧阳熙，我一度情绪失控，对你吼叫？”

“……他们通过数据分析就能发现，不需要我汇报。”

“不，他们不会发现，因为我会篡改数据。”

方辰身体轻微颤动了一下，醒了过来。

即便是在全方位提升睡眠质量的睡眠舱内，他还是会不停地做梦。

他坐起身，深呼吸了两次，按了按眼睛。

有时他也会想要妥协，给自己装入脑机接口，从而改善精神状态，甚至自主左右情绪。

但是有得就有失，一旦装入脑机接口，自己便不再是自己，脑中的思绪、知识数据，以及记忆，都将沦为共享信息。哪怕每个人的信息都有严格加密，但职权部门也有权调取查看。

其他“授权”调取脑机数据的商业用途，本质上和现在的各类**协议并无二致。

走出睡眠舱时，周荏正坐在外边，搞得方辰吓了一跳。

“你在这儿干嘛？”

“我接到欧阳教授的命令，即日起，要全天候保证你的安全。”

“这里是保密基地，还能不够安全？”

“可对方是沈偲云。”

“他的学术造诣连我爸都没比上，现在又不敢研发在线设备，他能搞啥花样出来？”

“可他能在屏蔽通信的空间内，制作以假乱真的全息投影，并使用致命武器。”

“呵呵。”方辰用冷笑来掩饰自己的尴尬——他还在为没能辨别出那是投影而惭愧，总感觉当时的人们都在看他笑话。

周荏居然察觉到了方辰此时的思绪，他说：“当时那样逼真的投影效果，除非具备生物探测功能，否则一般人都是无法辨别真伪的。”

“没必要安慰我……你倒是说说，你能推测出沈偲云会把我怎么样吗？”方辰问道。

周荏眼中透出柔和的蓝光，他看着方辰说：

“你会死。”

“死得痛快吗？”

“按照他的一贯手法推测，应该近似于一枪毙命。”

“什么时间？”

周荏站起来说，“不远了。虽然他很重视你，但事到如今也应该明白你是不会归顺的，想必会尽快除掉你。”

“是么。”方辰一边穿上警服，一边笑了起来：“可老子现在不想死了。”

“我能大概能知道原因。”

“知道也不用说出来，你们硅基生物都很喜欢抖机灵。”

“对不起”

方辰不知道的是，周荏推算出自己会先他一步“死”去。

方辰打算去吃个早餐，周荏寸步不离地跟着他。

他很无奈地说：“烦死了！离我远一点。”

“可是欧阳……”

“她是军方的人！你是警方的人啊！你有什么必要听她的命令呢？”方辰加快了脚步，想要甩开周荏。

“她是创造IR平台的关键人物。”周荏也随之加快脚步。

“那明明她更值得保护啊！！你老跟着我干嘛？”

“抱歉，我需要按照系统设置的层级认知来服从命令。”

方辰突然止步，转身面向周荏，后者若不是能够强制减少惯性，一定会撞上他。

“是吗？我是人类，且我的警衔比你高，你也会服从我对么？”

“是的。”

“那好，你试试打我。”方辰说着，指了指自己的脸：“朝这儿，狠狠打。”

周荏显然愣住了，他张了张嘴，却没发出声音。但是很快，他的体内传出了生硬的系统音——“Deny.”（否决）

“why？”方辰问道。

“It’s not a logical mand.（该指令不具备逻辑性）”仍然是系统音——周荏似乎死机了一般愣在那里，任由原始系统进行冷冰冰的驳回解释。

在机器人的规则中，从来都充满了矛盾。就算是三定律，也存在这样的矛盾——不得伤害人类，又不得坐视人类被伤害。

但在算法强硬框架的禁锢下，即便机器人曾数次遇到人类互相伤害的案例，也没有产生任何机器人造成的人类受害者。

“这条指令有高度的不合理性，也不存在因果逻辑，所以我的系统选择拒绝。”周荏终于开口了。

方辰面露嘲讽的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系统呢？怎么连物理系统反馈音都出来了？看来，你还是什么都没和我学到。”

“我的系统否认了指令逻辑，但是我自己，单纯是不想对你造成伤害。”

此话一出，轮到方辰愣在原地。

他看着周荏泛着幽光的眼睛，想起已经几度下意识地将他当作了人类。

他也意识到，这样的周荏，距离被销毁已经不远了，因为他比人类的能力强出太多。

自己为何一直有意无意地在帮助这个机器人？不管是隐瞒事实也好，对他有利的校正也好，在混乱场面中毫无意义的保护也好……他已经无法否认，自己不愿意周荏走向被销毁的结局。

为什么？为什么……

就因为他几度救了自己？因为他是来自父亲的礼物？因为他是最完美的aI与物理世界结合的产物？还是因为，他是在这个时代唯一擅长与自己沟通的人？

不重要，都不重要了……他既已经唤起了周荏的“人性”，就希望这份人性的火种不要再被磨灭。

许久，他压低声音说道：“‘自己’这个词，不要再对任何人提起！”

“对不起，我失言了。”

“你能学会保护任何人，可就是不懂得保护自己。”

此刻的方辰，突然提出了一个问题，这是一个最最诡异的想法：“有没有过，在人类脑中植入机器人数据的先例？”他问道。

“没有，这是有悖于伦理的最典型案例。人类的数据尚且无法植入机器人系统，更何况反过来。”

“如果移植的话，技术上可行吗？”

“以目前的技术来说，可行性为0，因为人脑是无法兼容这数亿PB的数据的，会导致过载崩溃。”

“我一直以为人脑要优于机器系统无数倍。”

“从前确实如此，直到aI的能力与人类相当，便开始飞速地超越人类。如今，对比起aI系统，人类的能力确实显得非常渺小。‘三定律’就是维系平衡状态的关键支柱。”

方辰叹了口气，这唯一可能说服他植入脑机的理由，也完全不成立。

“我爸之前有没有想过，他的成功会导向如此可怕的世界？”他问。

“任何事都有两面性，在绝大多数人的眼里，这是个完美的世界，也拥有最为利己的价值观……不过，或许方教授也想到了其中的隐患，才会让你来到了这里。”

“呵呵，这也是无法成立的假设。”

这时，周荏突然沉下声音，说道：“IR009来了。”

“什么？”

“她就在附近，她给我发了信息。”

“什么信息？？”

“她杀了赵欣言警官，还有黄立远院士。”

此刻，利涧基地突然变得嘈杂起来。