头图来源：《西部世界》剧照

伦理问题，已经成为近两年国内外人工智能领域的热门话题。

欧盟委员会于今年4月8日发布了人工智能伦理准则，以提升人们对人工智能产业的信任。而联合国教科文组织自2018年12月12日至今，已经在世界各地举办了多场人工智能论坛，专门研讨人工智能发展的主要伦理原则。中国的人工智能治理专业委员会也于今年初展开了相关讨论。

然而，正如联合国教科文组织总干事阿祖莱所说——“由人工智能所引起的问题并非技术问题，而是关于人类自身的人性，涉及科学、政治、哲学和道德方面的关切。”——人类关注AI或机器人领域的伦理问题，究其根源，还是这种灵长类动物自身可悲而又可怕的天性。

“I'm afraid I can't do that”

你知道机器人，即“Robot”这个词是怎么来的吗？

1920年，捷克作家卡雷尔·恰佩克写下了剧本《R.U.R.》，这是个关于科技可能使人失去人性的警示故事。其中，R.U.R.是“罗素姆通用机器人”（Rossum’s Universal Robots）的缩写，正是这个剧本将“Robot”一词引入了现代世界。

然而，Robot这个词本身来源于捷克语“Robota”，意为由农奴从事的强迫劳动。它的斯拉夫语词根“Rab”的意思则更加直白——“奴隶”。

正如你猜想的那样，在这部剧中，机器人被生产出来给人类当奴隶，但他们终究因受不了人类压迫而反抗。机器人甚至成立了自治组织，正式向人类宣战，直至人类濒临灭亡。

（“Robot”）

而同时代另一部经典电影，1927年的《大都会》（豆瓣9.0分），则讲述了女机器人玛利亚充当了劳资纠纷催生物的故事：她用魅力诱惑工人们，挑起了人类大暴动。影片设想了机器人可能顶替人类身份的情况，充分展示了人类对机器人的恐惧。

不妨说，有关机器人或人工智能的影视作品自诞生之日起，就带着一种恐惧和警惕的情绪——机器人会对其制造者“叛变”。

随着时间推移，这种担心不仅没有淡化，反而愈演愈烈。

在1968年库布里克导演的《2001：太空漫游》中，一台因逻辑陷入悖论而暴走的超级电脑，让人类有幸见识到了银幕上首个人工智能反派。

在那个经典的段落中，完全无配乐的情况下，电影呈现了一段平和却潜藏杀机的对话：

“打开舱门，哈尔。”

“抱歉，大卫，恐怕我不能那么做。”

“哈尔，我不会再和你争了，开门！”

“大卫，这次对话已经没有任何意义。再见。”

（HAL9000）

“哈尔”，即HAL9000，一台被设定为绝对不会出错的超级电脑。这台后来被美国电影学会评为影史百大反派第 13 位的计算机，由于内在指令产生冲突而杀人。在他如上文所述明确拒绝宇航员的指令之前，他已经用闪着红光的摄像头阅读了人们的唇语，决定抢先行动阻止“计划”失败，哪怕这意味着制造多起谋杀，比如用分离舱将宇航员撞向太空，让休眠仓程序出错杀死其中的科学家，并把主角关在舱外。

那个冰冷的红光摄像头，以及那句“I'm afraid I can't do that”，也成了日后人类对AI、超级电脑或机器人的象征性恐惧符号。

比如2018年，当人类的第一位宇航员交互式移动伙伴(Crew Interactive Mobile Companion)机器人——采用IBM Watson AI技术的CIMON被送上国际空间站的时候。各家媒体都对这个拥有一张拟人面孔，且能够倾听、理解人类语言并通过人类语言与人类交流的机器人展开了报道，航天界更是期待这个人类宇航员的助手，能够在太空中贡献自己的价值。

（CIMON）

然而，在介绍CIMON的视频下方评论区，最频繁出现，也是被赞次数最多的评论，却是这种风格的——

“CIMON, open the pod bay doors”（CIMON，打开舱门）

“I'm afraid I can't do that, Dave”（抱歉，大卫，恐怕我不能那么做）

“HAL is alive and living on the ISS.”（一台活生生的HAL已经住进了国际空间站）

这类反馈声音如此响亮，以至于被IBM官方用来解嘲。CIMON的个性设计师 Sophie Richter-Mendau 和它的语言训练师 Nina Fischer 让 CIMON 学会了一些科幻电影的经典台词，作为呈现给宇航员的彩蛋。