第4定律 五、定律

五、定律

「守住人类底线」的红字，已经熄灭。

一群警用具身机器人，由两位人类警员指引，为瘫倒在地的暴动人群加上手铐。

方辰在其间站立着，似是还没缓过来一般，有些木讷地看着这片残局。

щщщ?t t k a n?￠〇

经过他的警方机器人向他敬礼或是致意，他毫不理会。

“你在没有携带反躁动波耳机的情况下，就启动了声波压制，这非常危险。”周荏说道。

“我仓促启动压制，难道不是因为你的愚蠢行为吗？”

“当时我的确失言了，这源于我对人类行为观察/预测的不准确，以及对动机的不理解。对此我深感自责，你可依规进行处罚。”

“当然要处罚，不然你总有一天会害死人。”方辰看向他，说道：“IR013，启动奖惩模式”

周荏眼睛亮了一下：“奖惩模式已开启。”

“惩罚记录：对环境、氛围，人类行为严重失察，无法明确体会愤怒情绪、语义语境及暴力倾向。”

“已记录，即将惩罚。”

周荏的眼睛变暗，然后又重新透出微光：“情绪分析算法已于线上优化，相关场数据景已上传反馈，深度学习鞭策已备案。”

方辰感到有些惊讶，因为以前他也曾在执行任务后，偶尔校正过具身机器人。那些机器人往往需要等1-2天时间才能优化一个场景，IR架构机器人居然可以做到3秒钟就完成！

“为什么你能这么快就完成优化？”

“因为同时在线支持我的，是28台量子计算机，以及无法计量的大模型。”

方辰此刻，仿佛听到了来自-272°c的量子比特碰撞的轰鸣声，以及无数aI芯片、gPu在不间断计算的运转声。尽管如今的量子计算机已不再需要这样的温度限制，也从没有他幻想出来的巨大噪音。

然而，周荏接下来说出的话，更加令人震惊——

“我自身亦可参与改写算法。”

这个答案令方辰不寒而栗，他突然觉得，面前这个一脸和善俊朗的男人，似乎是一个可怕至极、有能力摧毁一切能力的生物。

此时，一个刚刚参与暴动的人，抬起头来，虚弱地对方辰说：“他早晚有一天会干掉你，取而代之！就像他们早晚会干掉人类。”

方辰没有说话，他还沉浸在“自改算法”的震惊之中。

地上那人又再说了一遍：“你要是还当自己是人类，就应该切断他的中枢，毁了他！”

“你闭嘴！”方辰喊道。若不是规制限制，他很想揪起这人狠揍一拳。

“担心是徒劳的，我无法改写机器人三定律。”周荏说道，脸上似乎是一种疑惑的表情，他不明白人们在害怕什么。“我要做的，只是服务人类。”

机器人三定律：

机器人不得伤害人类，或坐视人类受到伤害；

除非违背第一定律，否则机器人必须服从人类命令；

除非违背第一或第二定律，否则机器人必须保护自己。

但无论如何，IR架构背后的硬件和软件，足以令人生畏，因为它似乎强悍得足以轻松推翻任何定律。

方辰看了他一眼，就像是在重新认识一个物体。

然后他扭头走向警车，想去向上汇报，然后申请卸去校正IR013的任务。

这时他才发现警车边，站着赵欣言。

“你刚才死到哪儿去了？”方辰问。

“这是很简单的任务，我没想到会有这么大的麻烦。所幸按照规程，压制声波只开启10秒，对生理上不会造成不可逆伤害。”

“我要告诉孙畅，就4秒，你们就差点儿多了个烈士！”说着他就打开车门。

可赵欣言又把车门挡上了：“为什么要进车里？”他用下巴指指周荏“怕他听见么？把他当成真人了吧？”

“别挡我！这东西能自我修改算法，我要汇报，卸掉校正任务。”

赵欣言没有看方辰，他只是朝周荏摆了摆手：“来来来，过来！”

周荏朝警车走来。赵欣言笑着说：“哈哈，瞧他的步态，是不是都有点儿像你了。”

方辰扭头看着周荏，皱起眉头。

周荏走近他俩：“赵欣言警官，你好。”然后他伸出手要与之握手。

突然，赵欣言收起了笑容，抬起一脚狠狠踹上了周荏的腹部！

周荏一个趔趄，然后赵欣言又补上一脚，前者跌倒在地。

“你要记住，他不是人类，最终也不可能成为人类。”赵欣言对方辰说，“知道我刚才为什么一直没有应答通讯吗？是因为我要观察，观察IR013，观察你们的互动和处理方式，观察他的应对能力。果然，我看到他制造了麻烦，甚至让你陷入危险。”

“所以我要上报，终止任务！”

“可是，他也算救了你一次。如若换我在场，你必定会结结实实体验10秒的压制声波，到现在还站不起来。Ｕu看书 .uukanshu．neｔ ”

“其他具身机器人也能做到。”

“不能的，这你应该清楚。”

赵欣言恢复了笑容：“但是，这都是试错的一部分，把它记录在报告中，持续校正，然后继续任务吧。”

“走开，我和你说不通，我要和孙畅通话！”

“孙畅不可能让你卸掉任务的。他自己就是IR架构研发团队的一员，而你是整个团队推举的执行校正任务的唯一人选。”

“你为何希望终止对我的校正任务？方辰警官。”周荏问道。

方辰没有回答，而赵欣言说道：“他把你当成人类了，哈哈，这家伙不愧是21世纪的古董。”

“可我不会是人类。”

“但你会有自我意识！”方辰说。

“我现在就有自我意识，但对人类没有威胁。例如，我会认为赵欣言警官刚刚的无故攻击并非正当行为，但基于设定，我不会对此有任何抵抗或反击。”

“你知道吗？”方辰对赵欣言说，“仅以他的物理质量来说，你就不可能踹得动他分毫。更别提他能即时启动稳定系统，根本不可能倒地。你现在知道他有多聪明、多像人了吗？”

“你是说他故意倒地，以示服从？就因为我警衔比他高吗？”

“就因为你是人类！而且他对你没有不服从的权限。”

“有意思。”赵欣言说道：“不过，不管他的类人技术多么好，你可别产生感情啊。“他看着周荏的眼睛说道：

“说不定，等你的校正任务结束，他就要下线销毁了。”