第二章(第1/2页)
与瑟琳的再次见面是在E.T公司的门口,大卫对于瑟琳所说的可疑案例非常兴奋。瑟琳告诉大卫,她自己其实也不是很确定这个AI到底是什么情况,所以,才要借助大卫的专业知识进行判断。
“你难道没有上报公司?”大卫疑惑地问道。
“暂时还没有。”瑟琳冲大卫眨眨眼睛,笑道:“我不是要确定状况,而且,我有点担心。”
大卫点了点头,没有多问。瑟琳把大卫带到了自己的办公室,抱歉的笑道:“实验室不能进去,不过没有关系,可以给你看的资料都在我这里。”
大卫开始认真审视瑟琳从数据库里调出来的资料,这是AI的测试报告,瑟琳给大卫看的那份标注着“R-71-N7523”,大卫猜测这是AI的型号与产品编号。
点开报告,里面是详细的测试细节:
设备正常,复制软体……
软体复制完毕,检查反馈系统……
反馈系统正常,进入逻辑测试……
进入常规逻辑测试……
“请回答你的序列号。”
“R-71-N7523”
“请回答你的制造商。”
“E.T”
……
常规测试项非常多,主要涉及到AI的各项产品指标。大卫不认为这些批量生产的AI产品在成熟的技术条件下会有超乎想象的常规测试失败,于是跳过了几十页的常规测试报告,直接看常规测试结论,结论是“PASS”
按理说常规测试通过就应该没有什么问题了,但这份报告后面还附上了一份抽查测试,抽查测试的问题非常简单:
“你认为,你被制造出来的目的是什么?”
“不知道”
“你知道自己的身份吗?”
“不知道”
“你的答案是检索的结果,还是思考的结果?”
“计算的结果”
抽查测试的最终结论是”PASS”
大卫反复查看了抽查测试报告,疑惑地看着瑟琳:“没有任何问题呀?”
“从我们的角度来看,确实没有任何问题。”瑟琳苦笑道:“但我不确定这种‘通过’的结论是否是一种误解。”大卫没有说话,等着瑟琳进一步解释。
“你也知道,自从人工智能产品化以来,关于人工智能的自我意识问题就提到了一个非常高的高度,联邦有严格立法,要求对人工智能产品进行严格测试。接近200年过去了,还没有发现过一个我们认为有自我意识的人工智能。尽管如此,随着人工智能的普及,法律也越来越严苛。”
“是的。”大卫点点头,这是他专业范畴里的事情,他非常清楚。对于这种未知的巨大风险,严苛的法律是可以理解的。
“然而,就如我之前所说的一样,我们自己通过人工智能给了自己想要的表面的结果,然后我们认为人工智能没有自我意识,因为我们是按照我们人类的标准来判断的,然而,为什么有自我意识的人工智能一定要像人一样呢?”瑟琳神色凝重的说。
瑟琳的说法给了大卫一个激灵,由于有了之前瑟琳给大卫做的铺垫,大卫已经可以接受瑟琳的论点了:人工智能如果真的有自我意识,那它未必会像人一样,而我们以人类的立场和角度去判断这种“生物”也好,思考体也罢,无疑会得出错误的结论。想到这里,大卫的冷汗不禁冒了出来。
瑟琳见大卫已经领会到了自
(本章未完,请翻页)