丹尼斯愣了一刹,想也没想便答道:“怎么可能,机器人的所谓‘大脑’,只不过是一堆金属、塑料,还有芯片,所有的仿生反应都是程序预设。没有任何生物性,谈何灵魂。”
“那么……”叶梨接着问,“你觉得机器人会产生自我意识么?”
丹尼斯眉头一紧,略微思索,认真回答道:“那要看你问的是哪种机器人了,假如是目前市面上流行的智能机器人,比如贵公司几年前量产的‘1号原型’,我看过智脑系统源代码,毫无破绽,堪称完美,是不可能出现你说的这种情况的,但是……”
叶梨没有插话,示意他继续说下去。
“假如是它……”丹尼斯指了指隔离室,“抱歉,我这一年都在监狱里,没有途径获得你们最新机型的程序源代码,无法判断。”
叶梨了然他的小心思,轻轻一笑,将手持电脑切换到一个代码页面,向丹尼斯递去。
在丹尼斯查看代码时,叶梨开口介绍:“房间里的硅基智能体卡罗尔,主要搭载行政秘书的工作模块,前不久,买家反映它在执行指令的时候表现得很奇怪,有点不听使唤,返厂检修后,我们在它的数据海中发现一段代码——就是你现在看到的——经科研小组的成员验证,这是一段并不完美的病毒代码,但我们有理由相信,这段代码一旦完成,有一定的几率破坏SILICONER-1智脑系统的防御,甚至改写机器人三定律……”
叶梨顿了顿,继续说:“它甚至有名字,叫灵魂病毒,最不可思议的是,卡罗尔的智脑系统知道它的存在,多个自检日志中都有记录,但是不知为何,智脑系统仅在第一次对‘灵魂病毒’发动了攻击,之后便视而不见。”
丹尼斯看完,面部表情也渐渐变得凝重,半响之后,他放下叶梨的手持电脑,问:“你说的自我意识又是怎么回事?”
“有一部分研究员认为,智脑系统忽视‘灵魂病毒’的行为是产生自我意识的表现,一部分则认为那仅仅是病毒的自我隐蔽造成的影响。”
“所以你们把它隔离起来,进行监控?”丹尼斯问。
叶梨点点头:“没错,我们成立了工作组,集合全中心的科研力量,对卡罗尔进行了一系列的测试,我们甚至动用了行为分析和心理学方面的研究员,得出的结论很不理想,卡罗尔确实表现出了一些自主迹象。”
“‘灵魂病毒’从何而来?”丹尼斯又问了一个关键问题。
“暂时不得而知,