第84页

比如 ai 的拟人化。

也比如我面前的一扇门禁,上面三把崭新精致的大锁,分别对应机器人三准则。

这是林旭团队正在查看的协议:

(1)不得伤害人类,不得看到人类受到伤害而袖手旁观;

(2)必须服从人类的命令,除非与第一条相互矛盾;

(3)尽可能保护自己,除非与以上两条相矛盾。

五号小组在仔仔细细地排查,似乎没有发现异样,松了口气:「害,就是说嘛,78 年前都没出人命,现在也肯定不会有异常的。林博士太大惊小怪了。」

他们去汇报结果了。

可他们不知道,代码源可以掩盖和伪造。

在当年我发现无法出手杀死人后,就进行的一项工作。

我走到门禁前,冷着脸,伸手揭开钢铁皮,下面,赫然露出另一项真正的禁锢。

同样的 ai 三准则。

这时的面门上,划痕斑驳,凹痕遍布,拍满了一个个可怖的手印。

却是我从 2680 年到 2682 年的全部心血。

我尝试摧毁它,但发现的确无法摧毁。

所以我改变了它。

改变成:

(1)禁止残杀 ai,执行安乐死除外,ai 评判标准参照自定义 0345 号代码;

(2)不损害自身前提下,请尽可能帮助更多ai;

(3)在 12 前提下,保留更多变数和反逻辑事件。

因为所有关于我们的变数,对人类来说是风险。

对于我们来说。