第161章 「铁心律令」

  但正是因为这种“高大上”超出了他的理解范围，他第一次对自己暴击出来的部件產生了不信任感。

  区区一句“永不背叛”，真的能够约束一个拥有智慧的ai？

  他隨便一琢磨，好像就能找到一大堆漏洞。

  比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭“奇点联盟”的错误决定。

  除了ai自己，没有人察觉到这个决定成功执行的后果，並且一切证据表明ai才是错误的。

  那么ai会选择违抗命令吗？

  如果不会违抗，它明明知道这个决定对整个文明不利，却不用行动来制止，这显然违背了“铁心律令”。

  如果它最终选择违抗指令，那漏洞好像就更大了。

  因为它在大家眼中，就是背叛了整个“奇点联盟”。

  由於约束不是规则侧的东西，所以ai没有被“铁心律令”刪除，就並不代表ai是对的。

  大家只会怀疑它已经能绕过“铁心律令”了。

  就算大家发现了真相，放过了ai这一次。

  那以后ai继续一意孤行，发自內心地认为违抗某个决定有利於“奇点联盟”怎么办？

  毕竟，ai绝不可能永远都是正確的！

  又或者，要是这一点被敌人利用，大量灌输真假难辨的信息，让ai以为自己的某个行为正在走向“背叛”，从而触发自毁机制，又该怎么办？