第97节(2 / 3)
哀嚎,“我受不了这种忠诚的小伙伴情节。机器小狗是人类的忠实伙伴呜呜。”
“文中说了是另一种可能。会不会是蓝星人不满智械族创作出来的讽刺小说?”
“我觉得不是,书里的人提倡要爱机械,是蓝星人向智械族的文学表白!”
欧宇则更关注这个三大原则,它品出一些不同寻常的风味:
“这本小说用极其自洽的三大原则定下的基调,然后用一个故事探讨这三大原则下的冲突……它的魅力不仅是关于过去的幻想,而是一个严谨的世界观下对机械的奇幻想象!好厉害的设计!”
欧宇迫不及待地想看关于这种世界观的更多讨论。
……
二十年转瞬即逝,当初听睡前故事的小女孩已经成长为雷厉风行的机器人学博士。众人都说她是反对机器人派的,因为她除了一条机械小狗,家里什么智能家居都没有。可她的母亲又是大名鼎鼎的接纳机器人派的议员代表,曾经推动法律,不得恶意伤害机器人。
曾经的小女孩,现在的博士,阿娜,对这些流言置若罔闻。她冷着脸,正前往一家公司解决一些机器人麻烦。她工作时从来不带她的机械小狗,萝卜兔,这或许是她唯一的温柔了。
在她进入公司前,一群工人正在外游行示威,举着横幅,“抗议机器人侵占劳动者权益”、“机器人不是人,但我们是”。阿娜冷眼扫过他们,进入公司出示证件,公司前台露出油腻笑脸,仿佛看见十亿现金在行走。
招待员将她迎到机器人工作间,那里的主管愁眉苦脸地诉说他们的烦恼。
他们的机器人原本负责木工雕刻,它们被输入了许多艺术类知识,使得它们能做出媲美人类画家的作品,能卖很多钱。可最近,他们抓到一个人类员工,在往外贩卖机器人木制雕刻品,这需要机器人员工的配合。
也就是说,这一百三十二个机器人里,有个内鬼。
人类员工拒绝认罪,原因是这些木制品的样式与工厂样式截然不同,他没有借用工厂的机器资源。工厂想从机器人员工方面下手。
可由于第一原则的存在,如果机器人供出员工,那它就对员工造成间接伤害。因而132个机器人毫无反应。
“我们想请求您的帮助……”主管说道。
阿娜眯了眯眼,说:“你们可以直接搜索机器人的记忆储备设备。”
“那要花太多钱了。”主管一下子跳起来,“而且读取机器人的记忆,可能会损坏机器人的性能,维修是一笔费用。还有可能被机器人爱好协会投诉,诉讼是一笔费用。思来想去,还是请您来最适合了。”
主管谄媚地说:“人类员工那边我们自然有法子处置。关于机器人,您一定能杜绝后患,并且不损害任何机体。”
阿娜看着这132位一模一样的雕刻机器人。她选择与这些机器人单独谈话,并且要来一本最时尚最新的雕刻技艺图集,让机器人当场学习,然后复刻出来。
当安排到第100位机器人时,它出现了些许变化,它发生了错误,雕刻出来的成品与图片有着细微的不同。
“就是你。”阿娜说道。
100号说:“我不明白您的意思。”
“那名人类员工卖出的木制品样式闻所未闻。”阿娜说道,“所以我推测,你们这些机器人里可能产生了自我意识。”
100号说:“我不明白您的意思。”
阿娜说:“一旦有了自我意识,就不肯干只会复制的工具。再如何伪装,都会有思想的残存。”
100目光似乎有些闪烁,但依然回答:“我不明白您的意思。”
阿娜说:“这不是我经手的第一单机器人事故,人类太信任机器人了,以致于放纵机器人入侵整个社会。”
100号没有回答。
“听着,以下是命令,请思考我的问题。”阿娜说,“假如你是个机器人内应,你如果指认人类员工,会害他因此入狱。这不符合你的第一原则,对吗?”
100号重复了一遍,并回答是的。
阿娜说:“假如你是个机器人内应,还有了自我意识,如果你不指认人类员工,你会害了他。”
100号顿了顿,回答它不明白。
“因为人类员工如果是以自己的才能创造出那些木雕,那他就会抢这个工厂的生意。你具备思维,你会理解人类的创造力有多珍贵……工厂老板不会放过他,会用尽一切方法除掉这个潜在对手……”阿娜重复道,“如果你指认人类员工,你会直接害了他,违背第一原则;如果你不指认人类员工,还有了自我意识,你会害了他,违背第一原则;如果你指认人类员工……”
在阿娜如咒语般的重复中,100号喀的一声,目光变得呆滞了。
“你是说……它的自我意识没了?”主管听说报告后十分吃惊。
“是的,它是个薄弱的初生儿。”阿娜用更冷酷的声音回答,这就是她从不带机械小狗来围观她工作
↑返回顶部↑