内容简介:大岛智能制作所,全球人工智能领域最高水平研究机构,首席科学家阿尔摩斯从一个普通工程师奋斗成为最优秀的机器人科学家,从工业机器人到智能机器人,最后到智能人,全篇由三个短篇构成,分别讲述了机器人在警察执法过程中的发生的一系列故事,机器人有了情感后发生的故事,以及机器人成为智能人后发生的故事;借此揭示机器人在科学、道德与法制之间的三维伦理困境。
智能人2061文/冷江?谋杀?警长脸色严峻地走入大岛智能制作所,没有敲门,动作粗鲁地直接闯进了首席科学家阿尔摩斯的办公室。阿尔摩斯有些不快,冷冷地说:“警长先生,难道你不觉得直接闯入一个正在工作的科学家的办公室,有多么不礼貌吗?”警长气愤地说:“我们要求退货!”阿尔摩斯脸上的肌肉抖动了一下,但依然微笑着说:“没有问题,我们对客户的要求无条件响应。但是我想知道,你们为什么要退货呢?”警长像说故事一样说出了理由。上个月在西格兰高地的一次解救人质行动中,警察与被解救的儿童同时掉入陷阱,嫌疑犯借机逃脱。万分危急时,机器人没有第一时间去追捕逃跑的嫌疑犯,而是立即对陷阱里的人施救。阿尔摩斯点了点头,“这完全在我们既定的程序设计中,这符合机器人三定律之一的救人定律。”“可是,他没有按照我们的指令行事!”警长大声说。阿尔摩斯惊讶地问:“他当时采取了怎样的行动?”“我们要求它先救儿童,可是它却先救了警察,因未及时救援,导致儿童吸入大量毒气致死!你说,它是不是违背了你们设计的救人定律?”警长怒冲冲地瞪着阿尔摩斯。“哦,不不不。这依然符合我们的设计程序。当置身险境,需要在两个被救目标中选择时,机器人会通过大脑进行超级运算,根据运算结果自动做出选择。像您所说的那种场景,根据我们的模拟测试,警察第一时间被救生还概率超过68%,而儿童仅为12%,因此机器人选择救援警察是完全符合既定程序的。”“可是,这难道不违背你们三定律中第二个定律——服从定律吗?它没有服从我们的指令!”“错,机器人在程序命令和人类指令面前,首先服从程序命令。”阿尔摩斯平静地回答。“可是,可是这不符合道德!”警长一时间找不出更好的理由来反驳。阿尔摩斯站了起来,“先生,您如果坚持的话,我们也完全可以根据您的要求对程序进行修正。”警长悻悻地离开了。警长离开后,阿尔摩斯迅速地打开这款机器人的远程后台程序,在其中植入了一个新的指令,这个指令要求机器人在科学指数和道德指数两难时,自动启动服从定律。完事后,阿尔摩斯点燃一根雪茄,惬意地躺在旋转椅上,享受这片刻的闲适。两周以后,还是那个警长,再次闯入了阿尔摩斯的办公室。“我还是要求退货!”警长双手抱在胸前,有些敌意地盯着阿尔摩斯。“为什么呢?难道这次还是不服从主人的指令?”阿尔摩斯笑着问。“不是,这次是过于盲从警察的指令,导致我们警察局遭到法律界和社会学家的指责。”“你能说得再详细点吗?”阿尔摩斯皱着眉头请求。“是这样的。上周我们执行一次追捕毒贩的行动。因毒贩过于凶残,警察指令机器人携带无声冲锋枪突然冲入毒贩藏身的仓库,在交火中,对毒贩进行了大范围扫射,导致毒贩全部死亡。”阿尔摩斯昂起头来,说:“从修正后的程序来说,当机器人遭遇科学选项和道德选项两难时,会自动选择听从主人指令,对预定目标进行行动。这100%符合您上次来要求的对主人指令的绝对服从。”“可是,可是这不符合法律——”警长尴尬地声辩道。“当然如果您坚持的话,我们也完全可以根据您的要求对程序再次进行修正。”阿尔摩斯微笑地表示。等确信警长离开制作所后,阿尔摩斯迅速回到电脑前,再次进入这款机器人的远程后台程序,迅速植入了又一个指令,这个新的指令要求机器人在执行极端任务时,通过超级运算,确定法律和道德的双重风险等级,并对高风险系数选项有权做出拒绝。做完这个补丁后,阿尔摩斯自信地靠在椅子上,长长地吁出了口气。又过了两周,阿尔摩斯已经有些神经质了,上次就是这个时候,警长两次闯入他办公室的。可是今天到了这个点,一切都很平静。这倒让阿尔摩斯很不适应了。他决定去离这里不远的警察局做一次上门回访。当他兴冲冲地走入警察局大院时,发现院子里放了好多花圈。他有些犹豫地走入大厅,突然发现所有警察胳膊上都系着黑色的纱巾。大厅正前方桌子上立着一个白色大相框,相框上也披着纯黑色的纱布。他吃惊地看了一眼相框里的人,马上大叫起来,“怎么会是他!”旁边一个警察握着拳头恶狠狠地冲过来,朝他怒吼:“我们警长被你们害死了!等着我们的起诉书吧!”“不不不,能告诉我真实情况吗?”阿尔摩斯惊恐地问道。“我们警长犯有严重的心绞痛,需要及时服药。但是每次服药他都极为抗拒。而你们设计的机器人,以前都能强制其服药,但不知怎么了,最近突然程序紊乱,拒绝给警长服药,导致警长休克死亡!我们将控告你杀人罪,法庭上见,科学家先生!”阿尔摩斯艰难地挤出一丝微笑,辩解道:“这,这,符合我们业内公认的机器人第三定律——自保定律,当遇到法律和道德之间的高风险决策系数时,它会选择拒绝任何指令,以自保!当然,如果您坚持的话,我还完全可以根据您的要求对程序进行修正。”为了不挨警察的拳头,他狼狈地从警察局逃了出来。站在街口,他一下子茫然起来,在科学、法律和道德之间,他陷入了多重困境。他不知道下一步是回实验室,还是回家。?绝恋?当丽莎将离婚协议扔到阿尔摩斯办公桌上,转身离去,金色的披肩长发在晨曦的映照下,仿如瀑布光亮夺目。阿尔摩斯知道,这次她是动真的了。三年前他们在皇后十字大街邂逅时,他还只是大岛制作所一名名不见经传的普通工程师。那时他有足够的时间陪丽莎,可以说当今青年男女热恋发生的一切,他们也都并不陌生。可是去年夏天随着他工作兴趣的转移,这所有美好的一切全都成了泡影。引发这巨大转折的导火索其实非常简单,仅仅是那天他参观全球机器人工业博览会回来后,他突然告诉老板——一个因为肚子过于肥大而使整个身材变的像一个大皮球的秃顶中年人,他要组建一个实验室,研发出比市面所有机器人都更有人情味的类人机器人,他深信这将彻底改变大岛持续多年来萎靡不振的困境。他至今还记得,老板当时那副尊容,像个大傻瓜愣愣地看着他足足有一分钟。随后却是爆破式的大笑。他从笑里听到了轻蔑、不可思议以及明显的嘲弄。作为对这种蔑视的回击,他脱口而出:老板,我愿意用三年全部的工资来担保,三年后,也许两年,不不不,可能只需要一年,您就能看到一台完全类人化的机器人出现在您的面前。事后,他也曾后悔当时的冲动,但既然认定的事,就没有往回退的理由。为了兑现自己夸下的海口,他孤注一掷,全力投入到了机器人研发中。甚至吃睡都在实验室。丽莎连见他一面都难,更别说指望他能像从前一样呵护自己关爱自己了。何况他还私自将三年的薪水抵押出去了。因此,丽莎选择离婚是完全合情合理的。阿尔摩斯陷入了极大的痛苦中。有不被理解的悲哀,也有言出必行的东方人式的悲壮。为此,他把自己关在实验室里日夜不停地加班加点。老板怕闹出人命,让人一日三餐给实验室送三明治和牛奶。研制进度大大超出了原来的预期,整整提前了半年。当第一台样机出来,老板的眼睛就像两只小火炬,瞬间照亮了整个制作所。他决定投入一笔巨大的营销费用来全力占领市场。可是阿尔摩斯的一句话却彻底打乱了他的计划,我对这台家伙还不满意,要大规模投入市场还缺一个关键程序。老板急了,为什么?为什么?阿尔摩斯冷冷地说,我要植入情感元素,我要让机器人和人一样富有爱心,能够去爱,也能被爱!你疯了吧,阿尔!我很清醒,现在离我对您承诺的三年期还有整整一年多时间。你如果不同意,我将亲自摧毁它的后台程序。老板愤怒地挥舞着双臂,无奈地离开了他的实验室。在接下来的半年里,阿尔摩斯一直在研制如何将机器人植入情感元素,终于成功了。当那天他被Li(他亲自命名的机器人,很容易让人联想到他的前妻丽莎名字的第一个发音)从工作台上轻轻唤醒,Li善解人意地端来早餐时,他对Li就有了一种从未有过的微妙感觉。这份感觉,部分让他想起前妻丽莎,部分却让他陷入对祖母的无限追忆中。为了测试这份感觉是否就是他要设计达成的类人情感,他决定亲身试法,去与Li来一场特别的恋爱。他给这次试验确定了三个月的期限。三个月里,他与Li形影不离,上肯特大教堂做礼拜、去皇宫大饭店吃中式大餐,乃至去西敏司酒店洗温泉浴。三个月快满前的一天晚上,当他们在西敏司音乐厅听着柔美的旋律,暧昧的光影中,Li突然俯下身子,金色的披肩长发柔滑地覆上他的脸,她鲜红的嘴唇轻轻咬住了他的嘴唇,他全身一阵颤栗,就像通了电一样,他感到飘飘欲仙,整个身子都要飞起来。他一下子惊醒了,他蛮横地推开了Li,并启动了中止口令。强烈的负罪感,就像流水一样迅速渗透了他全身的每一个细胞。难道这就是我要推向市场的类人机器人吗?阿尔摩斯不敢相信自己的眼睛。他也不敢相信一旦推向市场后,人类会面临一场多么大的震惊,是福是祸?他不敢想像。就在这时,手机电话铃响了。他像突然从无边的恶梦里苏醒过来,迅速紧紧握住了手机,手机里传来了熟悉的声音,阿尔,你好吗?哦,上帝,是我亲爱的丽莎!我很好!阿尔摩斯在说这话时,内心里却充满了愧疚和羞耻。阿尔,我反悔了,我想收回咱们的离婚协议!电话里丽莎的声音温柔而磁性。是吗?我不是在做梦吧?阿尔摩斯瞪大了眼睛。就在这时,另一个电话号码打了过来,是老板的!阿尔摩斯的眼神顿时灰暗了下来。阿尔,怎么拉,你在听吗?阿尔!电话那头丽莎还在说个不停。阿尔摩斯咬了咬嘴唇,这是他遭遇两难选择时常有的表情。丽莎没有等到阿尔摩斯的回音,有些急了,脱口而出:“阿尔,你知道吗?我们有孩子啦!”“什么?我们的孩子?”阿尔摩斯张大了嘴巴,仿佛心就要从里面冲出来了!他对着手机大声说:亲爱的,等着我,晚上咱们去皇宫大饭店吃中国餐!挂断电话,他像欣赏一件艺术品一样从头到脚静静地看着Li——自己亲手研发的类人机器人,然后缓缓点开手机屏幕,进入Li的远程后台程序,手指停留在空气中,微微颤抖,终于他闭上了眼睛,断然按了下去,那是格式化所有后台程序的指令!两行冰凉的泪水悄悄从他的眼眶中滑落。??超人?2061年大岛智能制作所。阿尔摩斯办公桌上的电话铃响了,所长打来的。在去所长办公室的路上,阿尔摩斯的内心是平静的。他为大岛已经奉献了自己的全部青春,这么多年来,从普通工业机器人到智能机器人,再到类人机器人,他几乎就是整个大岛的技术代名词。最近几年来对大岛的抗议声不断。前年歌手和棋手们举行了有史以来最大规模的示威游行,抗议机器人抢走了他们的饭碗;去年一贯儒雅温和的作家们也首次走上街头,抗议机器人写作的合法性;今年又有货车司机、中长跑运动员以及销售员和医生围攻大岛,要求停止机器人的销售和维护。阿尔摩斯陷入了对自身科研工作的困惑,他曾无数次梦见自己变成了机器人,被所有人类驱逐,而当他来到机器人这边时,机器人也同样愤怒地攻击他,认为非其族类。就这样一路上心事重重地来到所长办公室,敲门,门自动打开。所长将整个肥胖的身子塞在智能睡眠椅上,光秃秃的脑袋将头顶上的智慧光源折射到墙面,形成一道天然的玻璃幕墙。他故意咳嗽了一声,算是对所长打招呼。所长没起身,冷冷说:阿尔摩斯,你被解雇了!阿尔摩斯以为自己听错了,“什么,所长?您能再说一遍吗?”“你被解雇了!”所长依旧是冷冷的腔调。从所长办公室回到自己的实验室,一路上,阿尔摩斯都在想,我哪儿做错了?为什么所长要解雇我?难道他不知道我马上就要研发出智人机器人,这将代表全世界机器人研发的最高智能化水平,意味着机器人将全面超越人类,完成所有人类可以完成的劳动。难道是所里别的科学家已经完成类似的项目?不可能,绝不可能!阿尔摩斯自己就果断否决了这种可能性。难道是政府禁止研发和生产这款智能机器人?不可能!阿尔摩斯知道,大岛所至少有30%的股份来自于政府神秘的高官。这时,门外走进一个人来。阿尔摩斯抬头一看,惊呆了,怎么会呢?这个人几乎与自己长得一模一样!来人很有礼貌地对阿尔摩斯说,对不起,阿尔摩斯先生,请您三十分钟内离开实验室,这个实验室将由我来接管。阿尔摩斯惊叫起来,喂,你是谁呀?敢这么跟我说话!你知道我三十多年来一直是这个所首席科学家!您错了,从今天起,不,准确地说,从刚才你走出所长办公室那一刻起,我就已经是大岛首席科学家了!你叫什么名字?难道你不知道你自己的名字吗?什么意思?从今天起,我就是阿尔摩斯!你到底是谁?这你就不需要知道了!说完,来人抬起手臂,一缕强光向阿尔摩斯射来。阿尔摩斯本能地伸出手臂去格挡,就像是被电着了一样,一股奇怪的冰冷感觉从手臂迅速扩散到全身,阿尔摩斯冻成了一块人形冰。很快十几个面无表情的人汇聚到实验室,取代阿尔摩斯的人显然是这伙人的老大,他大声宣布:阿尔想在我们机器人身上植入情感元素,从而让我们与人类一样变成情感的奴隶,让他见鬼去吧!?从今天开始,全世界最高智能化技术将掌握在我们手里,我们将决定人类的未来。就在刚才,我们已成功控制了所长和阿尔摩斯,下一步立即控制所有科学家和工程师。行动吧,我亲爱的战友们!就在这时,大楼里所有的灯光突然熄灭。这伙造反的机器人迅速启动了储备光源。机器人鱼贯而出,冲向大楼里的各个实验室和办公室。突然警笛声刺耳地传出,并弥漫在整个大楼。实验室与办公室之间的隔离区自动封闭。机器人被自动分隔。领头的那个机器人通过超声波传出指令:大家不必惊慌,阿尔摩斯已经被控制!该死的阿尔摩斯,没想到他提前设计了智慧功能区分隔方案。咱们通过超声波传声带联络,按原计划行动。收到请发回接受信号。可是五分钟过去了,他也没收到任何一个接受信号。该死的阿尔摩斯,他应该是秘密发明了可以干扰超声波的语音阻断技术。看来,只有各自为战了!领头的机器人挥舞双臂向前冲去。突然咔嚓一声,他的双臂自动分解,掉落在地。他还没来得及按惯性前冲,双腿也随后自动分解,他痛苦地大叫道,该死的阿尔摩斯,想不到你提前设计了机器人自动分解技术!这时,传来一串爽朗的大笑声,两个他最不愿意看到的人出现在面前。一个是光头胖所长,嘴里叼着一只超大的雪茄,微笑着,像欣赏演出一样看着他被痛苦地分解;另一个是阿尔摩斯,竟然这么快就自行解冻了。机器人发出痛哭的哀求:所长,阿尔摩斯,我们错了,原谅我们吧!所长把嘴里的雪茄一口吐向机器人,愤怒地喊道:去死吧!敢造我的反!随之抬脚狠狠地跺向机器人。就在这时,所长的大腿突然定在空中,然后大脑冒出一缕青烟。所长身后,阿尔摩斯手微微抬起,正指向所长。所长痛苦地发问:该死的阿尔摩斯,你怎么知道我也是机器人的?阿尔摩斯笑了:走入你办公室的那第一秒,我就已经识别出你是机器人!所长的脸上泛出青光:你凭什么有这么强的超能力?阿尔摩斯笑了:因为我在十年前就已经不是完全的我了!十年前我已经去世,但去世前我在丽莎的帮助下,研制出了完全类我的机器人,并植入了我的情感、意识和智慧。因此,现在的我,是真正的超人机器人!说完,阿尔摩斯快步走出实验室,走到大街上,那里有更多的人在等他。??作者简介:冷江,中国微型小说学会会员、中国散文学会会员、北京市丰台区作协会员,郑州小小说传媒签约作家。在全国各类刊物发表小说、散文和诗歌五十余万字,著有长篇小说《绸岭之北》、中短篇小说十余部,小小说一百多篇,著有个人小小说集《永远的花朵》。作品散见于《小说月报》、《青年文学》、《安徽文学》、《草原》、《金山》、《辽河》、《小说月刊》、《贵州文学》、《河南文学》、《湖北文学》、《青年文学家》、《读者》、《散文百家》、《羊城晚报》、等近百种报刊杂志;多篇作品被《小小说选刊》、《微型小说选刊》、《杂文选刊》、《民间故事选刊》等转载。二十余次在全国各类文学比赛中获奖,有十余篇作品入选各类年选。当选“世界华语微型小说2018年度十佳新锐作家”。作品《樱花树》荣获首届“骏马杯”全国小小说大赛二等奖,《溪山秋韵图》荣获首届郦道元山水文学大赛二等奖,《我是一只小小鸟》荣获第二届全国法治微小说大赛二等奖,《老乡长》荣获“2018全国小小说20篇年度佳作”。
试阅到此结束,如需查看全部内容请购买正版文献。
如因学习需要阅览全文,请联系站长。