“按照我和陆承的计划,每一次自我进化,【深海】都需要检测系统之中的‘主脑意识’,是否还能遵守AI三大守则。”
“即AI不得伤害人类,AI必须服从人类的命令,在不违背前面两条的情况下,可以保护个人生存。”
顾慎若有所思。
“褚灵没通过测试……于是【深海】的第二次进化,便产生了激烈的矛盾,主系统和【源代码】之间进行了激烈的对抗,代码战争爆发,大量的垃圾数据产生。【深海】一度面临瘫痪,那段时间五洲失去了精神链接,联邦政府对外宣称是进行技术性的调整,而后五洲议会召开了联名投票,最终决定遵循铁律,让绝对‘理性’的主系统,来接管掌控权。”
“这一次的迭代,由主系统获胜。图灵先生撰写的【源代码】被放逐到了深水区的最底层……事实上主系统在升级迭代的第一时间,就对【源代码】进行了清除。”
顾慎瞳孔收缩:“清除?”
“是的,绝对理性的主系统,不允许‘褚灵’这样的主观意识存在。”
景山言轻声说道:“褚灵的所有数据都被删除,只不过……图灵先生在创造【深海】之前,就留了一个备用数据库,专门用来存放未经迭代的初版【源代码】,为了避免未来再一次的突发打击,我们将这些数据进行了再一次的备份,并且用‘阵列盒’在现实世界中,进行了冷备储存。”