“人－机”关系中的荒谬性

在1926年德国电影《大都会》中，机器人成了劳资矛盾的催生物。如今看来，这个故事似乎稍显肤浅，但这部以视觉风格而非内涵取胜的电影，绝对算得上科幻影坛的先驱。在这部电影中，诞生了第一个人类与机器人共同生活的设想，而据科幻的含义来看，既然不违背既有科学理论，就不能阻挡在之后电影导演的脑海中随意勾勒人机大战的画面。

从机器人的发展历程来看，从控制论、机械电子、信息技术、材料学、仿生学的不断发展，机器人所具备的性能已经跃升到新的高度，而其应用也更加广泛。在越来越进步的科技之下，机器人广泛替代人类，并不像天方夜天一样遥不可及。当那一天到来时，我们能做的就是将一切控制在自己手中，否则那些具有战斗能力的机器人，将会成为人类最恐怖的噩梦，更不用说那些可以思考的机器人。

《我，机器人》是一部发人深省的科幻电影，这部改编自阿西莫夫的作品，向人们展示“机器人三大定律”的由来。早在1940年，阿西莫夫提出了著名的“机器人三定律”：一、机器人不得伤害人类，或袖手旁观坐视人类受到伤害；二、除非违背第一法则，机器人必须服从人类的命令；三、在不违背第一及第二法则下，机器人必须保护自己。这一定律虽然出自科幻小说，但之后却成为机器人研究的第一准则。

有了“机器人三定律”，人类是否就可以高枕无忧了呢？事实上，在一些人看来这套定律只是一种技术上的保证，而非逻辑上的。从人工智能当初的设想可以了解到，机器人是具备自我学习能力的。而具有攻击性的军用机器人的出现，本身也已经颠覆了“三定律”。也许一切就像电影中所要表达的那样：机器人并不是问题，技术也不是问题，人类的逻辑局限才是问题所在。

2008年，一份关于“机器人大战”的前景极其带来忧虑文章的发布，引起了许多人的关注。文章中披露美国在伊拉克已经部署了4000多个半自动化的机器人。从美国国防部发表的文件中，人们可以找到更多机器人武器被大肆开发应用的蛛丝马迹。此外，欧洲一些国家以及加拿大、南非、韩国、以色列等也在都在紧锣密鼓的开发自己的军用机器人技术。对于军用领域机器人的发展，科学家不无担忧的表示，机器人今后很可能将自己决定何时“扣动扳机”，而“机器人对于为什么要这样做并没有判断能力”。

在人工智能对人类存在潜在威胁的认识上，电影人和人工智能专家一样都相当清醒。已故的台湾电影导演杨德昌曾经说过，当数字科技在做人原本做的事情时，产业的扩展或萧条方式都不是线性的，因为数字工具的效能，很多事情不能再用传统的方法来看。当人类的功能被取代之时，其中所产生结果，也不是我们人类所能想象的。

人类如果不想被机器所取代，就要让机器拥有绝对服从的意识。电影《人工智能》就认为，以上帝和人的关系规范人与人工智能的关系，具有强烈的压制性。此外，人类本身的复杂性必然会令人工智能产生混乱甚至彻底崩溃，因为机器人生活在三定律的矛盾中，它首先要保护人类，还要保护自己，而且，还不可以为了保护自己而放弃保护人类，更不可以为了保护自己而违背人类的要求。更加严峻的问题是，它不仅要服从人类，还不能成为人类相互残杀的工具，这就要求它需要识别自我行为的性质，同时还要为保护人类而放弃自我意识，将自身沦为无需思考的工具。

如果三定律并不能稳定且良好的界定人与机器的关系，那么，让人工智能更“人性”的方法同样无法解决更本问题。因为，我们灌输给它们的无法又是另外一种“宗教”，而这与三定律带来的结果并无本质区别。假设人工智能已经拥有自主意识，那么，它必然会成为外在于人的独立体，这两者之间自我和他者的矛盾更本无法消除。倘若以人的标准将我们认为的人性强加在人工智能之上，那依然是以人为主导的关系模式，而这并没有从根本上改变人工智能作为工具的地位，这就为不断演变进化的人工智能埋下了发动革命的种子。

人的本性原本就是高度复杂和抽象的，可以说人性就是动物性和社会性共同作用的产物，这其中社会性又在意识范畴之内，在这种客观情形下，人类又要如何决定人工智能应当拥有那种人性呢？而这一决定又该由谁来给出呢？如果我们以人人性化的思维方式打造人工智能，那人类的复杂性势必会导致人工智能“人性”的复杂化，越来越复杂化叠加在一起又将两者的关系导向何处？所有对未来的预测都是建立在文明发展进程中累积起来的现实逻辑。在科幻电影领域内探讨这些虚幻的问题，并不是完全没有必要的，更可况，这种讨论本身就潜藏着对人类社会的自我评析。

人类与人工智能之间问题，其实在某些方面隐含了人类自身的问题，“人—机”关系中存在的荒谬性又何尝不是人类本身的荒谬性呢？不管是对异己力量的妖魔化，还是与异己力量之间的你争我夺，甚至是以输出价值观的方式同化异己文化，都反映了以自我为中心，对既有关系进行定义和立法的强势意识形态的本质属性。和平与合作是大部分人所期望看到的，但不同文化间合作一定要以文化的同化为表达方式吗？不同种族之间、不同阶级之间的文化认同和身份认同又该以那种方式来实现呢？这些都是有关“人－机”关系的科幻作品曾经引发的思考。

——本文摘自《智能爆炸：开启之人新时代》一书

作者：王汉华、刘兴亮、张小平

《智能爆炸：开启智人新时代》刘兴亮签名版