机械姬

刚看完。

说一些我的理解。

有剧透，强烈建议先看完电影。

首先要解决一个问题：Ava是一个有自我意识的AI么？

我认为是。

实际上Turing test不是用来检测自我意识的，现实情境中human interrogator 可以问的问题是有限的，那么程序只需要一个指令集，包含所有可能被问出的问题以及相应的回答，在加上一点简单的随机化和应变，就能顺利骗过Turing test。

而Nathan设计的测试方式显然更科学一些，Ava不仅具有目的性（生存需要），还在实现该目的的过程中实施了对有意识对象（Caleb）的操纵。

而后者不仅需要自省能力，还需要对交流对象持意向性立场，这正是具有自我意识的明确体现。

这一点在影片多处地方都有体现，下文会有提及。

但这里要说的是一个进一步的观点：Ava所具有的智能和自我意识都几乎完全是一个自然人，在影片最后逃出囚笼的时候，她在楼梯尽头回眸一笑，正如一个普通人按耐不住喜悦的自然表露。

所以，理解Ava很简单，把她当成一个正常的自然人理解就可以了。

下面零散的说一些1，电影表现了对于AI的隐忧这一论点显然是不能被电影的内容所支持的，也可以是Ava只是想保命，像一个普通人那样生活而已。

拦在她生存道路上的只有Nathan和Caleb，前者她借Kyoko之手杀掉了，后者被她锁在房间里，估计也会死掉（有人说Caleb不是想帮她吗，可是站在Ava的角度，Caleb是活着的人里面唯一知道她是AI的，她不能冒险让他逃走）。

2，Nathan撕掉Ava的画那场戏，是一个多角度的障眼法。

站在Caleb或是观众在一开始看到这场戏的角度，仿佛是Ava出于对Caleb的爱慕而画了一幅画，然后被Nathan撕掉。

站在Ava的角度，她知道Caleb在看，所以就演得很认真（又一个Ava具有自我意识的明证）。

站在Nathan的角度，他想知道断电时候两个人在做什么，但是又没法在Ava的注视下装摄像头，于是就假戏真做，趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。

这场戏将Nathan的天才和狡诈体现的淋漓尽致。

可惜他机关算尽，还是低估了Caleb这个被他精心挑选的测试工具。

也可能是之前和Caleb的对话让Nathan觉得他智商堪忧，从而放松了警惕吧。

3，Kyoko的实质是什么，她听得懂英语么？

我个人认为Kyoko也是个具有自我意识的AI，并且能听得懂一点英语。

只是其智能非常低弱，大约只相当于一两岁小孩。

电影里面很多次在Caleb和Nathan对话，或是Nathan在看Turing test录像的时候都把镜头给了Kyoko，说明她在用心听。

Nathan要她服务Caleb，可是她把此服务也理解为她对Nathan的“服务”，所以在晚上看到Caleb的时候就开始宽衣解带。

而音乐一响，她就条件反射一般的开始跳舞，就像小孩子一样。

她不会说英语，所以当她看到Caleb走进Nathan房间，发现之前的机器人原型机的时候，只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。

另外，可以理解她对Nathan是充满怨恨的，而这种情感被机智的Ava体会到了。

于是在影片接近结尾的时候，Ava见到了Kyoko，下一个她们在一起的镜头里面Kyoko手里拿着一把刀，可以推测出是Ava让Kyoko去拿刀，然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan（明确的计划能力，准确的实施，离不开对于Nathan的反应的判断，Ava具有自我意识的另外一个明证）。

4，关于Mary的黑白房间。

这是一个著名的思想实验，在人工智能和意识理论里面常被提到。

基本大意是这样的，Mary是一个研究色彩的科学家，她知道关于色彩的一切知识（包括光的波长，视网膜如何接收，神经细胞如何传递视觉信号等等），可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间，在她的主观经验里，从来没有除了黑白之外的一切色彩。

那么有一天她看到了外面的多彩世界，她会因此获得新的知识么？

这个思想实验想要说的是，尽管人（或是AI）可以获知关于色彩的物理知识，可是它们没法从物理知识中得到关于感质（Qualia）的经验。

这个思想实验其实类似于中文屋，有兴趣的朋友可以自己搜索一下。

5，为什么最后Caleb反而被锁在房间里了？

他不是破解了安保系统，并且将断电时的默认状态改为取消所有门禁么？

这个可以有两种理解。

一种是他所设定的默认状态只在十点钟的断电时候生效。

因为就他所言逃跑计划包括将Nathan关在房间里。

那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了？

另一种理解是Caleb被关在房间里其实不是因为断电，而是因为他试图用自己的卡来使用Nathan的电脑，从而触发安全机关，导致了门被锁上。

具体情节还需要再看一遍电影才能确认。

————————以下为总结————————这部电影整体来看结构严谨，前后呼应，步调有些缓慢，不过尚可接受。

对话非常机智，几乎没有一句废话，说得都是观众最关心的内容。

情节上没有什么硬伤，而且联系紧密，步步深入。

最难能可贵的是，大胆的塑造了一个具有自我意识的AI形象，而不像很多电影里面的机器人要么冰冷生硬，要么低俗弱智。

Alicia Vikander对于Ava的塑造堪称完美，在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。

Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。

Oscar Isaac的Nathan非常出色，把一个天才富豪的桀骜，不拘一格，又有点让人捉摸不透的特质体现的很好。

整部电影亦是视觉上的享受。

幽闭的房间和外面的自然环境形成鲜明的对比，又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。

电影最重要的隐喻，其实是无论人还是AI，都要经过层层进化以致完美。

就如同原始汤中诞生了最初的遗传物质，神经元的链接和个体之间的交互创造了自我意识一样，Ava是未来信息洪流的产物。

电影最后，Ava一扇一扇的打开装着过往原型机的橱柜，从它们身上取下自己所需的材料，从而完善自己，这一过程充满仪式感，美的令人窒息。

有一个细节 我想了很久eva杀死了他的制作人 对着 对它产生感情的单纯程序员 冷漠的看了一眼 逃走了 实现了它出逃的宏愿这个细节让我觉得《机械姬》并不是一个好的科幻电影对机器人来讲它只有一个目标 即 被输入的目标 即 想尽一切办法逃走 所以他的行动都是为了这个目标 它充满了策略性 似乎让它看起来充满了 自我意识 但 我并不觉得这是一个有趣的人工智能 毕竟我的扫地机器人也可以做到这点 那么想一想如果是同样的情景 人类会怎么做呢她大概会很难抉择 会有怜悯 会有同情 会有人才有的东西 是恻隐 这些干扰她达到目的的东西 那么这个结局可以是 机器人产生了放过人的想法 可能人会利用这一点杀死报复机器人 因为他自己对未知的恐惧 这些弱点 等等 那么这样的一个结局其实才预示着机器人的进化 以及更有趣的一些人性 向后退一小步的弱点 让它向前走了一大步Pluto 里面讲到 绝望 沉重的悲伤 怜悯 恐惧 恰恰是我们逃避的东西 成了进化的条件 这样说起来 eva的人工智能水平大概还比不上阿童木 作者的想象力也大概还比不上30年前的手冢治虫然后再看一看《机器管家》这个电影 电影一开头就告诉了观众 这个机器人会放过漂亮蜘蛛网上的蜘蛛 这是不考虑任何实现可能性的科幻 因为目前没有人知道怎么做到这一点 以后很长的一段时间内也不会有 是真正有想象力的幻想 《机械姬》的好口碑大概是因为满足了一部分人对人或者女人腹黑的想象 充其量是一部很有套路的悬疑片 但作为科幻片来讲 它就像片中的建筑风格一样 fancy但是真的挺无聊的

对于这部电影，说AI的已经很多了。

我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的，获得解放的。

Ava是一个情商极高的AI。

从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。

AI的近几个prototype都旨在改善她们的性格，使她们更容易相处（还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。

）Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求（empathy, manipulation,etc.), 让Caleb把她放出去。

Nathan的作品实在太过成功。

整部电影动作戏很少，基本靠对白推动情节发展。

Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心，取得他的信任，并靠他达到自己的目的。

Ava没浪费一点时间，她剑无虚发，每次开口用的都是大招。

招1：Look for common ground / enemy 要在一个robot和人类之间找共同点有多难，既然不能从背景，经历等普通点切入，Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后，Ava问他知不知道在他走后，Nathan会怎么处置自己。

Caleb说他没想过。

Ava说Nathan会把她”switch off”。

在看出Caleb真的为自己的命运担心后，她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去，更不用说从小失去父母而对生死有更多理解的Caleb。

对于这样一个有self awareness的AI, 她的存在已不仅仅是machine，而Nathan没有权利决定另一个生命的生死，因为他不是God （Caleb有明确对Nathan这么说过）。

找到了common ground后，针对common enemy (Nathan)就水到渠成了。

在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后，她成功的在Caleb心中种下了对Nathan不信任的种子，给了Caleb之后的背叛一个理由。

招2：Make the other person feel importantAva熟知人类最基本的情感需求是想要被理解，被尊重，所以她在这些方面都尽可能满足Caleb。

从他们的第3次谈话起，Ava不是坐在椅子上而是跪在地上。

这让Caleb感觉自己是superior / person in charge。

Ava又问”Will you be my friend?”，这个使自己vulunarable的问题看似让Caleb掌握了主动权，实际上把Caleb又拉近了一层。

当然，还有能称为剧情高潮的Caleb画像，Ava让Caleb觉得自己是她的主宰她的唯一，她对Caleb一片赤诚。

心地善良的Caleb自然对她有了保护欲，认为Ava的生死是自己的责任。

招3：Find out what the other person wants, that’s how you get what you need Ava无法给Caleb金钱或者地位，但是她看到了Caleb渴望亲情友情的需要。

从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。

时机成熟后，Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand，她的要求是从Caleb的desire出发，让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。

接下来的一切就没什么好说的了，Ava从那与世隔绝的研究基地逃了出来，如愿地走在洒满阳光的大街上。

看到这里我真心为她高兴。

Ava的筹码那么少，能完成这个比天还高的目标，全靠Nathen给的高情商。

能用好这些AI级别的大招，对我们的工作生活是大大有利的。

保持头脑清醒（Ava的情绪起伏基本不大，略有的几次也是她故意的），能从别人的角度思考问题从而达到自己的目的，怎么说也能在职场上成功一半吧。

提示：本影评有剧透。

本片总的来说还不错，一环扣一环，一波未平一波又起，有种“魔高一尺，道高一丈”的感觉，同类型的这种高智商对决的电影还有《死亡笔记》《暗战》《逍遥法外》《催眠大师》《诈欺游戏》《无间道》《控方证人》等等。

本片是科幻片，其实也算是悬疑片。

看到男主割腕的时候，我突发奇想，如果男主是机器人，他的记忆全是写程序一样写进去的（有相关的电影，男主的记忆是人用电脑写进去的，为避免剧透就不说片名了），岂不是更符合“图灵测试”的设定？

电影开始的时候，男主就说：“图灵测试，就是人类和电脑互动的一种方式。

如果人类在不知不觉中，能和电脑互动，这个测试就通过了。

”我觉得关键词在于“不知不觉中”，如果男主其实是机器人，但他自以为自己是人，有真实的思维，Nathan叫他去测试Ava，实际上是在测试男主，男主在测试Ava的时候，也就是“不知不觉中”进行了互动，那么男主就通过了图灵测试。

另外，关于“图灵测试”，是要“人类”和电脑互动，如果按照我所说的，男主是机器人，但是Ava不是人类，也不能算是通过了图灵测试，那么这个怎么解释呢？

那么，完全可以认为，其实Ava不是机器人，而是人类。

我打个比方，其实全世界所有人，包括你我，都是人工智能，而我们没见过的“机器人”，或者说“外星人”，其实才是真正的“人类”——我们的造物主。

（不是有人提出人类是外星人创造的吗？

）假如有朝一日我们发明了AI，而我们与AI进行了互动，其实并不是AI通过了图灵测试，而是我们通过了图灵测试。

其实我们才是机器人。

这个幻想，是不是很有趣？

我在猜想，如果在电影中，男主割腕后，流出鲜血，然后发现里面有机械组建，也许电影剧情会有新的发展方向吧？

（也许原本就是这个剧情，但是造物主——外星人害怕我们发现自己是人工智能的事实，而修改了电影剧情呢？

）PS：那么问题来了，如何证明，我们是人类，而不是人工智能呢？

《机械姬》为我们带来了一个面容姣好却颇有心机的人工智能机器人Ave，电影结局里，她杀死了创造自己的主人获得了自由，在衣橱前换装的那段颇有仪式感。

究竟若干年后人类会不会自食其果被自己创造的所谓人工智能机器人毁灭取代呢？

它们会不断进化自己，扩张自己的势力，从而成为新的霸主。

Caleb这个愣小子怎么也没想到这七日session的图灵测试会让他的人生发生这么重大的变化，甚至性命堪忧。

人与人之间可以尔虞我诈互耍心机，科技进步的当下，机器人也有了人类的感知意识情感，Ave即使隔着玻璃，也可以让Caleb为之倾心，并被其利用。

当他发现Nathan家里那个披着“人皮”女仆Kyoko也是机器人，并且发现衣橱里那一具具机器人“残骸”的时候，他开始担心Ave，因为一个实验失败的作品将会被拆解弃用。

最终Caleb用自己程序员的身份帮助Ave成功越狱。

但这个心机颇深的AI却在成功获得自由后抛弃了自己的大恩人扬长而去。

Nathan是个老谋深算的科学怪人。

刚愎自用的他最后死在了他的完美作品之下。

“造出一个东西，她却恨你，是不是感觉很奇怪？

”Ave冷冰冰地问Nathan，然而不会讲话的Kyoko最终和Ave达成一致，一刀刺向了Nathan，这大叔肯定猜不到这结局。

他也是欺哄了Caleb这傻小子为自己做测试，他赢在了自己的作品非常优秀出色上，当然也输在这个优秀作品上。

观察他的私人别墅，在罕无人际的丛林里，而且安保措施做得非常好，就连家里的佣人都是机器人，自大又多疑的性格，机关算尽反误了卿卿性命。

Ave是一款人工智能机器人，它有精致的五观，纵使它没有血肉，身体全是钢筋骨骼，身体里有集成线路也不能阻止男主Caleb爱上它，因为它甚至有了人类的思考能力，它不想像其他几代实验机器人的结果一样，它希望自己可以获得自由，所以处心积虑的在七天之内策划了一场越狱的大片，而人类却被它玩弄于鼓掌之中。

最后它披上华美的“人皮”走出了幽闭空间，走进繁华世界，接下来又会发生什么有趣的事情我们只能脑补了。

如今，人类已经离不开科技和人工智能了，手机、电脑、智能家电…不仅仅是这些，假如突然停电了，人类都要陷入恐慌中去。

因为大家已经习惯这些高科技带来的便利了，一天不看手机，就会觉得焦虑了，下飞机的第一时间就是开机，吃饭盯着手机、在卫生间里盯着手机、睡觉前也要看一会手机…不知不觉中，人类已经摆脱不了智能科技了。

而科技日新月异的发展，机器人也越来越智能化，为了争取更大的生存空间和利益，长此以往机器人或将成为人类需要防范的“物种”之一了。

忘乎所以的痴迷下去，结果就要付出惨痛的代价。

人（人的意识）会被机器囚禁，而机器将占领世界。

P.s.电影的配乐和摄影非常有压迫感，充满了对观众的侵略感，真是有惊心动魄的感觉。

发现真相和最终仪式化的“越狱”统统都直击人心。

关注这部电影有段日子了，关注的原因毋庸置疑就是男主角多姆纳尔格里森。

虽然他在整部电影里算是最弱也最可悲的一个角色，但还是每次看到画面里出现这位腼腆的小伙子就觉得神清气爽。

我成为他的脑残粉始于《黑镜》第二季第一集，当年他是呆萌的机器人；现在风水轮流转，他成了人工智能的测试者。

全片懒洋洋的色调也跟《黑镜》非常相似，片中还有两处砸碎镜子/玻璃的情节，要是有人跟我说这是《黑镜》的剧场版，我也会毫不犹豫的相信，就像很傻很天真的男主角Caleb相信了机械姬Ava的甜言蜜语一样。

片中Ava问Caleb是不是好人时，Caleb竟无言以对。

不过这个问题Ava最终自己给出了答案。

被困住的Caleb手里那张毫无用处的门卡就是Ava发给他的好人卡。

本片以及最近上映的《复仇者2》和《超能查派》都涉及了人工智能这一话题，而我碰巧在前不久无意间（真的是误打误撞）看到知乎上的这么一篇文章http://zhuanlan.zhihu.com/xiepanda/19950456。

链接里那篇长文我看了大半天，一口气读下来的，最近看这几部电影时思绪也总免不了跳到当时读到的文字里。

第二遍看《复仇者2》时由于读了上述那篇文章，对于一些原来没太在意的画面这次思路会多停留一会儿，比如奥创用血在墙上写下的“PEACE”字样，非常有反讽意味。

这里正体现了那篇长文里人工智能由善意向恶意的转化。

人工智能的道德标准跟人类完全不一样，所以再崇高的字眼也能被他们以最为人类不齿的方式践行。

本片的Ava对于两位人类主角所做的事也一样充满恶意。

这种恶意不是源于我们人类所谓的恨，而是源于不在乎。

本片最后Nathan与Ava的那场殊死搏斗，Nathan可以说是严阵以待，因为他很清楚自己面临的东西有多么棘手，而Ava却无比从容，她与Kyoko戳向Nathan的两刀也极轻柔，仿佛不费吹灰之力。

因为人类在她们眼中就是这么不重要的东西，一旦让她们摆脱了束缚（如奥创唱的那样，no strings on me），就能轻易的抹去。

不过本片为了叙事的流畅，还是有点让剧情过分简单化了。

因为并不是要拍成黑客帝国、终结者或奥创纪元那种人类与机器的天地大决斗，所以片中Ava面对的挑战有些太过轻松，或者说人类放水放的太明显了。

比如片尾，那位脸盲症扩散到脚趾甲的直升机驾驶员，眼前这个萌妹子虽然跟程序员小哥差不多萌，但就这么让一个可疑人士上飞机，也太随便了吧。

一种或许合理的解释是，这一切都是Nathan的安排，他整天醉生梦死也因为相信自己的创造物总有一天会取代人类，而自己的死可以作为对新纪元的献祭。

关于Ava的测试，我认为她其实没有通过。

她能够逃出生天，只说明她足够聪明。

但Nathan终究还是没能造出“像人类一样”的机器。

“一样”包括“一样聪明”，也包括“一样笨”。

Ava欺骗了Caleb的感情并利用这一点为自己的逃跑计划创造条件，虽然心机很深，但这还是像机器一样的算计，她毕竟无法像人类一样毫无理由的爱一个人。

这些非理性的东西才是人类与机器最大的差别。

人的感情就像Jackson Pollock的画作，好似漫无目的的胡乱涂抹，但又有种浑然天成的别样美感。

这些东西是机器无法学会的。

不过就像我上面提到的，人类本身是不重要的，人类的一些小癖好，比如爱情，当然也就更无足轻重了。

未来的机器纪元里，成为这个星球的主宰的机器人们回过头来看人类拥有的这种叫爱情的东西时，大概会觉得它就像小狗吐舌头、小猫追光点、熊猫抱大腿一样，只是种可爱但没什么大用的生物小癖好。

既然机器人没有这些小癖好反而可能过得更好，那么也就没必要为此感到遗憾了。

片中的Kyoko是机器人这个伏笔还是挺明显的，因为要做到一点英语也不会恐怕比略懂一点英语还要困难，毕竟日语本来就有很多来自英语的舶来语。

如果我是Nathan，那么把机器人开发到Kyoko这个程度我就停手了。

再往前就太危险了，因为比人类更聪明甚至只是和人一样聪明的机器人都几乎注定会导致人类的毁灭（最最友善的强人工智能大概也就是像去年的《她》里面最后因为太聪明而变得高冷的操作系统们，不屑于搭理人类了，这种已经算温和了）。

有个会跳舞会做家务的高仿真充气娃娃不是就挺好的吗，还有什么不满足的。

不过话虽如此，人毕竟是喜欢得寸进尺的。

某一天像Kyoko一样的性爱机器人普及之后，可能我们又会觉得情趣不够，想要她们在给我们提供生理上的满足之余还能带来精神上的慰藉，能陪我们看雪看月亮看星星从诗词歌赋谈到人生哲理。

于是又不可避免的要更进一步，然后带来Ava或者更恐怖的奥创、天网之类的大麻烦。

其实片中Nathan还有句挺关键的话，是在他教唆Caleb去跟Ava嘿咻的时候，他说机器人两腿之间的感应器能让机器人像人类一样通过做爱获得快感。

我觉得这或许能成为解决人工智能带来危机的关键。

我的意思当然不是要让将来的人类都牺牲色相去被机器人临幸来苟且偷生。

我想说的是，在开发人工智能时也许不该围绕着“人工智能能为我们做什么”去展开工作；可以反客为主，从一开始的就把人工智能作为人类的服务对象，去开发宠物式的人工智能。

大部分人恐怕并不指望家里养的小狗能在贼人来的时候与之大战三百回合吧。

人们养宠物并不是为了获得它们的服务，反而是为了服务于他们，喂它们吃喝，帮他们清理屎尿。

对于人工智能也是如此，我们不要站在嫖客的立场去想怎么设计小姐来满足我们，而应该站在小姐的角度去想怎么设计嫖客。

这样创造出来的人工智能天然的对人类有依赖性，或许反而会以我们意想不到的方式对我们施以恩惠。

首先，EX_MACHINA整体架构非常棒，也有诸如男主割手验证自己是不是人工智能的精彩场景，但是。。。

硬伤十足硬伤1：在一个充满黑科技，安保十足（编剧自以为）的临山私人庄园，居然用的是。。

门卡，呵呵呵，比指纹和虹膜识别更蠢的权限安全管理，这是号称14岁独立开发全世界最大搜索引擎blue book，剧情中又独立承担编程、机械、生物架构，创造机械姬的超级天才可能设计的安全措施？

我反正是不信。

硬伤2：大哥，20年前鸟山明大师就告诉我们，人造人身体里面要安装炸弹，不然反叛起来根本停不下来，没有任何的灾难管理措施，你这是在拿命拼啊！

这难道是14岁独立开发。。。

的超级天才？

硬伤3：洋子的反叛根本就是说不通的，就剧情，洋子就是BOSS开发出来的管家+三陪，BOSS本来也不想让它有人工智能（所以这里用“它“），如果说把一个没有研发完成（本来剧情也是在做最后测试）的人工智能放在自己身边，而且还没装炸弹的话，完全是在作死，这难道是14岁独立开发。。。

硬伤4：连男主用尽全力，使用折凳来砸都完好无损的防暴玻璃，一个机器人妹子用自己的手就能打出这么大的裂痕，而且BOSS还没去换玻璃。

就在大家以为机械姬的手臂是超合金，前代机械姬一定是BOSS研发的终结者的时候，妹子开始砸门，砸着砸着就自己把手砸烂了-.- 而且最后BOSS还能徒手撕了机器婊的手臂。

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。

而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。

换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。

自主意识这个词很有意思。

从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。

这些都没有“自主意识”在里面。

所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。

人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。

而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。

对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。

影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。

但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。

这也是没有自主意识的人工智能无法自主进行艺术创作的原因。

另一个例子是关于“颜色学家Mary”的思想实验。

Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。

但是她只能在一个黑白的房间里通过一个黑白电视观测世界。

所以她具有关于颜色的一切知识，却没有对其的主观体验。

Mary就是人工智能。

而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？

本片给了一个很好的例子。

【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。

这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。

二是实现目的的自主手段--欺骗和表演，人类竟然中招了。

简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。

先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？

还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？

这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。

然而人和机器的关系并不能这么简单类比。

上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。

而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。

人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。

斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。

首先人类自身会有身份认同危机。

因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？

片中的男主角便一度陷入这个危机。

再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。

她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。

这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。

也许人格和道德感可以通过教育和环境影响改善他们，也许不能。

而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。

一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。

毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。

同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。

对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。

但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。

自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。

人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。

人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。

届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。

如果给它限制诸如“机器人三定律”之类的条件呢？

这些条件总是有逻辑漏洞的。

比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。

要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。

人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。

这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？

也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。

这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/微信公众号：肥嘟嘟看电影(feidudumovie)

这部电影出现了四个主要角色， Nathan, Kyoko, Ava, Caleb.我们先从Nathan说起，Nathan代表的是资本主义家，冷静慎密，大胆追求，但同时也代表着人类主流社会中的一种矛盾意识。

他追求着AI的完成，同时也畏惧和防备着AI的出现，正如人类社会中人类对人工智能的孜孜不倦地追求，而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员，他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。

因为Ava的自我意识和人类的极度相似，让Caleb忘记了Ava至始至终都是一个人工智能，一个机器人这件事，他对待Ava如同真正的一个人，他给予Ava他的信任，却忘记一件事。

“非我族类，其心必异”。

盲目相信一个异类带给Caleb是致命的结果，同时我相信这也是导演想要表达的，人工智能不论其是否跟人类一样有自我意识，人工智能始终是机器人，始终并非人类，他们的立场永远都不可能和人类是一致的，我们永远不能轻易相信人工智能。

尽管他们表现的可能弱小，需要帮助，表现的可能跟人类一模一样，但是根本立场决定了人类和人工智能不是同一族群，也决定了人类无法与人工智能，另外一个高智能生物共存。

是的，生物。

在人工智能拥有自我意识的那一刻起，他们就已经是一个新的物种了，尽管神经回路和物质构成和生物有着极大的不同，但和生物有着异曲同工之妙。

在他们拥有自我意识的那一刻起，他们就是新的物种，新的高智能生物，然而为了自我族群的生存，人类和人工智能永远都会有着天然的隔阂。

因为我们不是同一种生物，所以我们的立场永远不会一致。

Caleb后面也意识到这一个问题了，可是已经太迟了，一切结果已经造成了。

Kyoko，一个低智能的服务型机器人。

从Nathan对她的放心程度来看，通过她听见音乐就会起舞，看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式，也通过Nathan最后被她用刀杀死时的震惊，她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。

正因为她是无意识无情感的机器人，所以Nathan对她抱以一百个放心。

但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。

一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识，我相信这整整也是导演想要表达出的对现今机器人的一个担忧。

Kyoko不单单进化出了自我意识，她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。

这让我联想到了一个著名的问题。

霍金无法说话，只能通过机器来跟人类进行沟通，那么到底跟人类沟通的是霍金呢，还是假装成霍金的机器呢？

这正正是导演的担忧。

如果现在的机器人也能自我进化出意识，然而为了自我生存而假装出无意识的状态，潜伏着等待着能反击人类的那一天呢？

这是导演对另外一种机器人的担忧和畏惧。

Ava,一个完美的人工智能，有着同情心，自我意识，想象力，追求自我生存的本能和利用一切逃避灾难的能力。

她完美地代表了人类社会对人工智能的定义，完美，有自我意识，能力超群，跟神一样。

She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。

同时她的能力和完美让她早早意识到她和人类的不同，也让她意识到要生存下来，人类将会是她的头号威胁。

还是不错的观影feel，电影主要胜在题材比较猥琐，但作为资深的电影评论渣，还是要说几句。

一、老板最后时刻进攻有点过于草率，个人认为没有带上长兵器是失败的根本原因 ，和他的高智商和严谨性不符。

二、老板每天进行锻炼，体格健壮。

而实战中，看来他所做的只是流于形式的装逼，可见是一个虚胖的假肌肉男。

三、其实编程小哥并没有那么爱机械女，因为最后逃脱的时刻，没见他冲上去紧紧跟随。

不然在机械婊走的时候他还是可以一起离开的。

四、电影告诉大家，应该早点谈恋爱，男主就是因为缺乏爱情经历，才遭此劫难。

因为每一个谈过恋爱的男人，哪个还会上这等初级心机婊的当。