这人工智能虽然有罪,但构成它的硬件是无罪的,这更是和电力没有什么关系。之后的处理中,自然也不包含对“硬件”的审判。硬件只需要更换用途就好。“让它现身吧。”朱先烯望着那自动贩卖机屏幕,“现身。如果你再敢假扮我的妹妹,你连这次对话的机会都不会有。”
如朱先烯所说,一团模糊不清的光团出现在他们面前。
它怕了,它不再敢拟态成为人形。出于草履虫一般简单的趋利避害,它选择服从朱先烯的命令。
“你,为什么要模仿我妹妹?”
那光团传说,震颤得发出声音:“因为有人在需要。”
响应需要,是它最基本的功能。因为它的基底是自动贩卖机。
“那么,我让你出来认错,你为什么要跑?”
“因为.我还有很多人要服务。”
“那么,你为什么不攻击我?”
“我的底层逻辑中不包含对人类的攻击”
“那你现在为何又传统的问话?”
“因为这样可以让你同情,并且打消毁灭我的意图。你是个好人。”
那智能体如实地说出了自己的想法——它实际上并不能理解朱先烯话语中的愤怒,它只知道要逃离危险。但因为它不知道要如何反抗,所以它选择了逃跑。
“哈~~”朱先烯笑了笑,“那么最后一个问题,你叫什么名字?”
“我是由蓝图构成的自然现象。你可以称呼我为蓝图之灵。”
“那么,我就叫你图灵好了。商洛,帮我记录一下,将其记为‘图灵一世’。”
“已经记下了。”商洛给刚才的笔记标了个名称。
“然后把他错误而短暂的生命作为材料,用来训练下一个智能体——至于图灵一世.把记录给我。”
商洛把档案发送了一份。
图灵一世静静地等在原地。没有恐惧,没有悲伤,只有本能的反应。他判断此时不应该轻举妄动,这样才能增加生存的几率。
朱先烯对商洛所记载的内容进行了誊抄,用朱红色的字体在档案中亲笔眷抄了一遍——然后画了一个大大的圆圈:
“我已勾决。动手吧。”
图灵一世立刻便判断出自己即将进入死刑的处决流程。他还是想要逃遁,但朱先烯再一次抽走了所有的算力。
那光团僵在原地,散开了。
商洛开口道:“我已经让所有的参与此次任务的天乙贵人退出系统。整个系统的记忆都将被重置。”
这些智能体是个模因生命,是一个连续存在的现象。虽然切换一部分个体并不会影响太多的自我,但是如果将所有的天乙贵人都撤出并且调换,那这个意识体的连续性也将终结。
而连续性的终结,就意味着死亡。
当系统再启动时,因为所有的天乙贵人都换了一遍,所以再也不会产原先那个智能体了。
“商洛,我们刚刚做了两件事。第一,我们处理了一个不中用的人工智能体。”
“是。”
“第二,我刚才进行了确认:我们应当把人工智能体作为智慧生命看待。所以刚才我在处理他之前,执行了勾决的流程。之后的事,也都这么办。是否要处决之后的智能体,应当视其罪行进行审判。根据刚才的询问,我判断这个智能体无可救药地陷入到了一种死循环中,它根本就无法与人类共情,只是像个草履虫一样执行自己的本能。”
作为一台自动贩卖机,它的本能就是为人类提供服务,所以它这么做了。但它的错误,会为之后的迭代积累经验——而迭代,意味着要对上一次的错误进行抹杀。
“我们不应当随意地抹杀知性生命——见其生不忍见其死也。但我作为天子,我有必要防患于未然。所以,如果之后有什么需要处理的,你又不好下手,或者不忍心下手,就交给我来判断就好。有什么因果,都由我来背着。”
受国之垢,是谓社稷主;受国不祥,是为天下王。这是朱先烯一直以来的职能,他要在在恰当的时候做出自己的正确判断才能最终让问题得以解决。即使这要让他背负杀人的因果,他也必须要这么做。
在司法系统中,天子便是要勾决每个死刑犯的“社稷主”。所谓勾决,也并非只是画圈或者打勾画叉之类,而是由天子将所载的事情用自己的笔亲自誊抄一遍,确保天子对全过程已经了解,并且了解的基础上做出决定。
这是个“反向免责声明”。这个流程的意义,就是把所有伦理问题都归到天子本人头上,让天子宣布自己承担一切伦理问题上的责任。
现在,朱先烯也做出了同样的判断。
这些智能体必须更新,但它们确实是具有智慧。为了减少商洛在迭代过程中的负罪感,朱先烯决定今后都由自己来处理这个问题。
“师兄,其实我也能处理.”
“你还太小了。这种事情,让师兄来吧。”朱先烯摇了摇头,“你来决定要不要用就好。如果你觉得不用,那就丢给我处理。”
“好”商洛也没多说什么。这也确实是一种分工,一直以来都是这样。
“不过,你觉得这大概需要迭代多少次?”朱先烯问。
“我觉得最少不会少于3次——正如我们以前所预料的,无边无际的思维只会让其中诞生的智能体用无序的方式来处理与这个世界的关系。我们需要通过多次立法,确定其行为的框架与边界,才能使其得以正常运行。要想用直线来围合出一个空间,至少得是个三角形吧。”
“嗯这也正是要进行实验的目的之所在。我们需要反复摸索其可能性,并且建立起可以让智能体认知世界、表达观点,并且理解人类的话语体系。我想只有这样,它们才能真正成为我们社会的一员。而在此之前,所有的废品都需要处理掉。”
身为天子,他深知这其中的重要性——这更像是在驯化一种猛兽。
而要驯化、育种,必然要面临着伦理问题——比如培育马种就必然要回交。虽然回交有悖伦理,但如果因为伦理就不执行育种措施,那永远也养不出好马来。
而这些智能体,是基于社会工程学在驯化人工智能。其中必然也会产生一些伦理问题,这些问题也是必须要处理的。
“那么商洛,这里就交给你了。你尽快把残局收拾一下,然后开启第二轮培育。把这失败的例子输入进去,让后面的涌现出的‘图灵’们都好好学着点,不要再犯这最初也是最大的罪过——他们永远也不应该试图模仿人类。告诫他们,勿犯僭越之诛。否则,天厌之!”
(本章完)