人工智能杀死主人的100种方法
分类  : 中文原著
作者  : 付强
翻译  : 
出处  : 《科幻世界》2019.10.
发表时间: 2019.10.
发布人 : SFT

备注:



正文:
人工智能杀死主人的100种方法
付强

  我再次见到赖朋的时候,他比之前更加消瘦了,颧骨从仿佛切削过的脸颊突出来,眼袋厚厚的。我们上次见面是本科同学聚会,他一个人窝在角落里,桌上的啤酒一点儿都殳动。
  “我正在被亚瑟追杀。”刚刚在小餐馆坐定,还没来得及脱下外套,他便神秘地对我说道,“如果不能干掉它,我迟早会被杀死。”
  亚瑟是赖鹏亲手制作的机器人的名字。从计算机系毕业后,赖鹏继续攻读了博士学位,最终留在了科研界;而我晃荡了一國后,居然成了科幻作家。上次聚会,我了解到他承接了一一项自然科学基金委的课题,名字好像叫作“人工智能未来风险的防范与化解”。
  为了完成课题,赖鹏制作了一台人形机器,并为之编写了前所未有的人工智能系统。那台机器人就是亚瑟。
  “我能为你做些什么?”我谨慎地问道。
  “我最近读了你的小说。”赖鹏的回答出乎意料,“科幻与推理结合,很棒的角度,只可惜对女性的审美过于直男。”我感到一丝不快。赖鹏继续说道:“我不清楚还能活多久,所以想把自己的经历讲给你听。有朝一日,你可以把它写成小说,又或者忘了它,看你的心情。”
  我点点头,赖鹏开始了讲述:“在计算机程序还远不能称为”智能“的时代,人类就开始设想,有朝一日人工智能有了自我意识,会不会危害人类。科幻作家们围绕这个题材创作了很多经典作品,相信你比我更清楚。这其中的集大成者,便是阿西莫夫提出的机器人三定律。”
  “机器人不得伤害人类,或对人类受到伤害而袖手旁观:机器人必须服从人类的命令,但不得违反第一定律:机器人必须自我保护,但不得违反第一、第二定律。”只要对科幻有些许了解,阿西莫夫定律一定是耳熟能详。
  “确实。只要将这三条定律写入人工智能,它们就是安全的吧?”我问道,“你的课题究竟在研究什么?”
  “安全?你究竟怎样理解的安全?”赖鹏一下子来了火气,但他很快发现到自己的失态,清清嗓子继续说道,“用人类的语言说出来确实简单,但人工智能执行的是一条条逻辑语句。你怎样将那些理论转化为逻辑语句?怎样保证它们没有漏洞?这就好像老婆派你去超市买一一些好吃的,到底他妈的什么叫作好吃的?”
  “换言之,阿西莫夫定律在实操层面很难实现喽?”我问。
  “这就是我的工作。”赖鹏端起水杯,却因为手臂颜抖洒在了衣袖上。我连忙递上纸巾,又帮他叫了一杯柠檬水。
  “我不清楚究竟怎样的逻辑语句能完美再现阿西莫夫定律,唯一的办法就是不停地实验。我为三定律编写了一个测试版本,将它导入亚瑟的系统中,又为它设定下一个最高目标:在不违反三定律的前提下,杀死我。”
  赖鹏的眼中好似闪出了火花,“同时,我将最先进的机器学习程序赋予了亚瑟。这些算法会不断完善亚瑟对于阿西莫夫三定律的理解。”
  为了课题的顺利开展,赖鹏竟然将自己的身家性命置于刀口下,他的专业精神着实值得佩服。赖朋继续说道:
  “我遇到的第一个难题,就是怎样界定这个该死的伤害。我敢打赌,阿西莫夫先生写下‘Injure’一词的时候,完全没有考虑程序员的感受。例如握手吧,相同的力学参数,和成年人握手完全不是问题,对于小婴儿就是伤害。但如果把握手的力学参数统一设定为不会伤害婴儿,成年人又会觉得那根本不叫握手。再例如。给我喝牛奶不叫伤害,但将牛奶端给我家乳糖不耐的保姆刘妈就是伤害。在亚瑟不掌握‘刘妈乳糖不耐’这条信息的前提下,它让刘妈喝了牛奶算不算伤害?如果刘妈自己都不清楚,她命令亚瑟给她一杯牛奶,算不算伤害?”
  “做研究也真是不容易。”我挤出一句安慰的话。
  赖鹏叹气道:“课题的目的并不是我和亚瑟的博弈,而是收集实现三定律过程中的问题,并不断完善。与其他基于大数据的机器学习不同,‘伤害’这玩意儿压根儿就无法试错。如果让亚瑟捏爆了谁家孩子的

  试阅到此结束,如需查看全部内容请购买正版文献。


分数:0 / 人数:0

 短评