悲剧的诞生——《机械姬》随感

geek

本文转载自http://www.toutiao.com/a6384638013208707329/

人工智能前路未卜

人工智能主题的科幻电影有很多，斯皮尔伯格十多年前拍过探讨机器人与人类家庭建立羁绊的《人工智能》，也有沃卓斯基姐弟《黑客帝国》和卡梅隆《终结者》为代表的悲观末世想象，而《机械姬》则是在英国拍摄的中低成本电影，没有前面提及电影的战争场面，在冷峻画风中探讨人工智能这一命题。

机械姬海报
与人工智能紧密关联的是图灵测试，通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。什么是好的图灵测试？《机械姬》中，机器人利用人类的同情心，以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识，一是非外来指令的目的——自由，除了“自由”，没有任何外来的信号促使她这么做；二是实现目的的自主手段——欺骗和表演，人类竟然中招了。简而言之，本片片名可以改为《机械婊》或是《芯机婊》。

图灵测试
除了图灵测试，本片更由人类和人工智能的深入交流提出了一系列伦理问题。面对有感情、有自主意识的机器人，你是尊重他的“人权”，还是把它视为机器似的财产，可以随意拆卸、删除、重置升级？这颇有上帝和人类的关系的意味，影片中图灵测试的7天（7个session）是对于上帝用7天创世的隐喻。机器人一旦跨过图灵测试这道坎，一切不再简单。人类从未直面过与自身有相同智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。

机械姬本体
《机械姬》则不止于此——首先人类自身会有身份认同危机。片中的男主角一度陷入自我认知危机，因为机器人和人类如此相似，你如何确定自己不是机器人，不是别人的试验品？再者尽管通过图灵测试，人工智能和人类还是有很大差异。机械姬虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感。对一切事物（包括人类和同类），表现出对待物品般的漠视和残忍。而在人类与人工智能的争斗中，一如本片和《终结者》、《黑客帝国》等电影，人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。这个悲观的预期是否会成为现实，不得而知。

老板的本意
当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测。理论上，人工智能的实现路径有两种：一是增强计算能力；二是模拟人脑在自然界的进化过程，即是搭建出原始的大脑模型，通过类似自然界进化过程的方式让原始大脑逐渐进化，让人工智能的进化过程比几十亿年的自然选择加快许多。
这种模拟进化发展是指数级的，自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。人工智能很可能把我们远远甩在了后面，届时我们将无法理解它的逻辑。如果给它限制诸如“机器人三定律”之类的条件呢？这些条件总是有逻辑漏洞的。比如要让人类快乐，不得伤害人类，最终像《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑，也是符合这些条件的决策。

可惜老板最后被做掉了。