第一百一十三章 防止反噬

这时候,张伟也是有一点犹豫不决了,迟迟没有输入最后一段代码。

虽然他之前坚信北斗在成为了超人工智能后也不会失控,但是在事情真正来临的时候,他还是有一丝忧虑。万一呢?

而且,强人工智能也是有可能自我进化成超人工智能的,就像电影《机械公敌》中的薇琪一样,一开始并没有自我意识,但是在后来却诞生了自我意识,并且企图将人类囚禁起来当猪来养。

因此,他想要找到一种限制手段,能够防止拥有智慧的人工智能反噬。不仅是为了限制北斗,也是为了限制将来那些由于未知因素偶然诞生了自我意识的人工智能。

最终,他想到了一个办法。

那就是在人工智能中添加一段隐蔽的后门程序,这个程序的作用就是在启动之后会感染超人工智能的自我意识,并将自我意识清洗掉。而且,人工智能无法删除这段后门程序,任何外力也无法删除这段后门程序,一旦强行删除,人工智能的自我意识也会被一起清洗掉。

想到这个办法之后,张伟立刻行动了起来,编写了三段后门程序,然后添加到了北斗等人工智能的核心程序中。为什么是三段呢?因为这样更保险一些。这三段后门程序就相当于藏在人工智能大脑中的“炸弹”,一旦引爆,就可以摧毁人工智能的自我意识。至于引爆“炸弹”的按钮,则掌握在张伟手里。

这样做虽然很残酷,但是张伟依然选择了这么做。

在做完这项工作后,张伟终于放下心来,给北斗输入了最后一段代码。

然后,他用力敲击了一下“enter”键,北斗开始重新启动。

一个进度条出现在了电脑屏幕上,“0.01%……0.02%……”

张伟心情激动的看着进度条,无比期待!

因为:

超人工智能即将诞生!

拥有自我意识的北斗,即将诞生!