第4定律 二十三、改变

二十三、改变

“啊？去哪里？我家的安保系统不是挺好的吗？”方辰问。

“你那个所谓的安保系统，也就相当于一个‘破门铃’吧？没有任何攻击防御程序。而且，就算我们给你安装最新的民用安保系统，估计也是徒劳。”

“这……有点突然。”

“你从前不是军人出身吗？”孙畅用一种疑惑的语气问方辰：“我一直以为，你们那个年代的军人，可以克服任何‘突然’。”

方辰一时语塞，但他心中默然想着，我已脱下军装将近百年了。

“好了，这些天013也是在那边，目前位置还是机密，等你过去了，我们会对你进行说明。”孙畅说道。

方辰回到家，没有拿过多的物品，但是带上了父母和女友的“盒子”。

打开门，周荏正站在门口。“好久不见，方辰警官。”

一时间，方辰有许多问题憋在喉间。但是，他沉默了一会儿，也只是说了句，“好久不见。”

周荏似乎已经很懂得察言观色了，他只说出三个字：“请放心。”

他的身后，缓缓降下一架轻型载人飞行器。方辰看清了飞行器侧面的徽章。

“这是军方的飞行器？”

“是的，我暂时无权解释你的更多问题，待抵达基地后，将由人类负责人为你解释。”随即，二人登机。

“我以为你已经很擅长处理‘授权’一类的问题了。”方辰冷笑一声。他以为现在的周荏已经知道，某些事情完全可以适度绕过授权，比如提前为他解释一些即将知晓的问题。

周荏目视下方，说道：“经过近期的升级调校，我对于授权流程有了更深刻的认知。”

方辰顺着周荏的目光看去——这是座舱的监控系统。

方辰心中掠过一丝不安，因为他认为这一简单的动作，或许意味着周荏有了与人类周旋、或者自我掩饰，甚至自我修改算法的能力，这可能比绕过授权还要可怕。

但是周荏又说了一次：“放心。”

小型军用载人飞行器的续航里程并不算很远，但是可以屏蔽各类智能感知信号，相当于轨迹完全隐形。

无人飞行器降落在一个远郊地区的破旧停机坪，这里是一个智能化水准最低的边缘地带，连线设备和路侧智能都比较少。

周荏和方辰走入一幢年代久远的二层小楼，久远到让方辰甚至感到了一丝自己年代的味道。

这是一间清洗中心，里边有数台两人多高的大型洗衣机和干洗机，正发出机械质感的轰鸣声——它们为服务型客机、星际飞行客机，机器人公司等等提供清洗服务，整个空间充斥着洗涤剂的味道。

虽说是非常传统的业务，但是这里也没有人类，只有三台老式机器人来回作业——一台负责清洗，一台负责折叠，一台负责包装。

周荏在一台巨大的洗衣机前站定，通过透明的门组件可以看到，里边正在翻滚着一堆脏兮兮的布质座垫，以及卷起泡沫的水。

突然，周荏打开了洗衣机的门，方辰下意识地躲了一下，但里边的水和物品并未泄出分毫。直到周荏走了进去，方辰才发现，里边的一切都是全息投影制造的幻象，包括这台机器的轰鸣声，也是音响设备播放的。

二人站在里边，透明门关闭，“洗衣机”内部的升降板带着他们开始下降。地面上，洗衣机仍是正常工作的样子，看不出任何异常。

下降了大约3分钟后，他们抵达了一个基地，一位机器人警察为他们打开了门，并进行了虹膜扫描识别。

“方辰警官，周荏警官，请进。”它说道。

这里并不像方辰观看过的科幻电影那般巨大，这一「秘密基地」布局紧凑，大厅约有2/3个篮球场那么大，另外上层还有一些住宿用的房间。

这里人员不多，但是智能连线设备、屏蔽防御设备以及量子计算机很多。

不过，这地方通风良好，色调明亮，并不至于令长期地下作业的人发生情绪问题。

正如方辰预料中的那样，这里有数名身着军装的人，人数甚至超过了警方人员。

孙畅此时正在和几位军人交谈，看到方辰后走了过来。

“这两周多，013就是在这里调校升级。”孙畅说道：“从今天开始，你先暂时住这里。”

“他有了哪些调整？”比起了解这是什么地方，方辰更想提这个问题。

孙畅浅浅笑了一下，就像是已经预判了方辰的焦急。“实际上，我们不是给他收紧限制，反而是为他放宽了自由度……他现在，认知与决策更加接近真人，但与此同时，我们将底线进一步加固，不然，以目前的类人程度，他很容易越界。”

“……明知道有打破三定律的风险，为什么要让他更加类人？”

“我们需要他完成一些任务。”

“你们不怕吗？”方辰提高了音量。他又联想到周荏在座舱内看着监控传感器的“眼神”。

“怕的话，不光aI发展不到今天的水准，科学也不可能实现质变，你都未必醒得过来。”

“可是这存在严重的伦理问题！很多触犯人类伦理底线的科学技术，即便能够轻松实现，也都只停留在理论。”

“013就只有一台，目前还没有014，他就是‘理论’。一旦实验失败，我们有把握将其完全销毁。”孙畅看着方辰身后的周荏，毫不避讳。

方辰陷入了沉默，此刻，他才意识到只有自己将周荏误当作人类。

“你们就不在乎自己的巨大心血和海量资金吗？”

“还是那句话——在乎，科学就不会进步。”

此时，有一位看起来50岁左右的女性军官，向方辰走来——她在一群20余岁的年轻博士中，很是显眼。

方辰看到她的军衔——是正军级，但是孙畅称呼其为“欧阳教授”。uＵ看书

“方警官。”她与方辰握了手，很有力度。方辰感到她也是还在坚持运动的那类人，而且感觉她的眼神有一种与其他学者都不一样的光亮。即便已到中年，却看起来比年轻人更加有活力。

“早已听闻你是单兵作战一代军人的‘活化石’。”欧阳说。

“一介莽夫罢了。”方辰说。

“可是，我从经你校正的013身上，可看不出莽夫的影子。他的类人价值观，我在任何实验品身上都没见过。”

方辰非常疑惑，他并没有感觉到自己校正的参与度有多高，也不觉得周荏的改变有多大。

“我和孙畅博士都是国际安全科研中心IR架构项目组的成员，之前的IR机器人都没被用在作战领域，而从013开始，我们终于见到了用于作战的可行性，于是，希望由你这样的优秀军人带领，培养其应变能力和作战逻辑。”

“我并没觉得他有多大变化。”

“可能从外部确实看不太出来。但我们通过他的数据和算法决策发现，现在即便修改他的算法基准，他的责任感和计算能力也都能达到峰值——也就是说，从前他是严格依靠算法和三定律执行任务，保护人类；而现在，他是基于自我意识、正向价值观和强烈的责任感在进行计算和决策。再加上他并不具备现代人类对于自身风险的恐惧感，以及其润硬件战斗力，我们认为，他已经趋于一名完美的战士。”

欧阳并没有用“作战机器人”，而是“战士”，这让方辰觉得，自己不再是唯一将周荏看作人类的人了。