夷陵区图书馆的原耽书有 :1.当年万里觅封侯 2.青龙图腾 3.天涯客 4.铜钱垄世 5.将进酒 6.六爻 7.逐鹿
8.烈火浇愁 9山河表里 10.杀破狼 11.我在惊悚游戏里封神 12.图灵密码 13.相见欢
14.熔城 15.寒剑栖桃花 16.天地白骏 17.歩天纲 18.星河彼岸 19方尖碑 20.破云
21.犯罪心理 22.丧病大学 23.不死者 24.一级律师 25.死亡万花筒 26.画怖 27.大雾
28.默读 29.非职业半仙 30.地球上线 31.sci迷案集 32.awm绝地求生 33.fog电竞
34.格格不入 35.七芒星 36.残次品 37.命不久矣 38.新时代,新地府 39.小白骨
从看完电影之后,我就一直在听Enola Gay。Caleb刚到Nathan的科研基地后,他的手机就放了这首歌。听到这里,黑暗的电影院里我感到突然一震,第一个预兆:
These games you play
They're going to end in more than tears some day
虽然这个曲子只出现了一下,我却觉得这才是整个电影的真正主题。
第二个预兆,是道德的突然出现。
Ava问Caleb,你是不是一个好人。
我当时心里又是一紧。什么是好人?这是道德感第一次出现在电影里。
等到全篇结束的时候,我重新回味这个片段,Caleb,为何你不问Ava,你是不是好人?
人与人尚且互相欺骗,Ava也有可能欺骗Caleb,但是,这个问句至少提示,作为人类,你如何评价AI的行为,道德,和它的准则。非常遗憾,Caleb全然忽略了这些。轻信,愚蠢。
但更加愚蠢的其实是Nathan。人性何等难测,你却非要在极端幽闭的环境下进行这样的测试,这个测试对于AI固然是个考验,对于测试者Caleb,何尝不也是考验呢?我在看电影的时候,一直在想Zimbardo的监狱实验,实验过程中,所有的人都渐渐发生了变化,他并没有做什么错事,但他默许了糟糕的事情发生。Nathan明明看到Caleb发生了变化,却全然没有采取相应的举动。多么糟糕的实验设计。
实验非常糟糕不仅仅是以上那么简单,因为Nathan应该知道,对于一个成功的AI,她的目的就是逃离。而他的整个实验,居然没有一个由他控制的emergency stop button!这意味着整个局面居然不是由他控制的。他应该知道总有一天他会面对这样的场景,AI已经成熟了,它会逃跑,攻击,欺骗。要是我,至少设置两个final control
某个可控定时炸弹,立刻毁灭AI
直升机,飞行员应该明白自己应该接的是谁,如果不是的话飞行员应该知道要怎么办(立刻摧毁AI)。
这样才是万无一失的设计。以至于我最后一直期待最终反转,导致结局时候非常不满。
这些是对于实验设计的吐槽,但并不是对于电影的批评。恰恰相反,剧情启发了我这些思考,可以说非常精美,结构严谨的Sci-fi小品。我甚至能想象如果这个故事写成小说会是什么样。幽闭空间,有限的人物(三个说话的人加一个不说话的人Kyoko),互相的防备。Nathan对Ava留了一手(录像机,这段是最出彩的,也是我完全没有想到的),Ava对Caleb留了一手(岂止一手),Caleb对Nathan留了一手(他不应该能这么轻易破译密码啊,不合理)。但是,Caleb没有给Ava留一手,Nathan也没有给Caleb留一手,所以这整个结构就断裂了。
故事充分暴露了愚蠢的人类的弱点。Nathan刚愎自用,倘若他和Caleb沟通的能早一些,或许根本不会有最重的结局。而Nathan又缺乏信任,所以他偌大一间别墅,竟然没有第二个活人(让有情感的机器人服侍自己,果然最后自食其果)。至于Caleb,更是愚蠢至极,在对对方一无所知的情况下,全然信任,全盘都被算计进去。而AI,除了不具有人类所具有的道德感,尽善尽美。最后AVA的离开,简直如同仪式一样,恐惧的美。而如同我最初预料的一样,对于AI的真正检测,肯定不是人类所预先计划的。The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。
我不想说太多道德,因为道德究竟是什么还很难定义,尤其是在这样一个全新的语境中。然而,任何语境中都应该不能容许谋杀。我承认我对于Nathan本来全无好感,正如我前面所讲,他刚愎自用,冷漠无情。可是当他被杀的时候,我却觉得非常沮丧。没有人应该被杀死,AI就像所有侦探小说中的凶手一样,成功上演了暴风雪山庄模式的谋杀。即使再精准完美,也是鲜血淋漓的。既然她不再是机器,通过了图灵测试,那她就是杀人凶手了,应该被审判,而不是站在十字路口观察。而这个故事里,竟然没有一个人能审判她。
可是倘若没有这些意外,Nathan就要毁灭这个AI,那么从这个角度,道德又该如何定义这些行为呢。Nathan是不是从被害者又变成了凶手呢?如果AI没有通过图灵测试,她还是机器,那么这种毁灭称不上谋杀,但通过的话,是不是应该对她有另外的对待方式呢?可是正如我们亲眼所见,AI的行为,遵循的是什么法则呢?这个法则能不能被称作道德呢?仅仅因为它不是我们的法则,就是不道德的么?
所以我觉得,这部电影给我的最大启发在于这个道德的困境。设计AI的时候,是否应该给予她人类的基本道德呢?一旦AI成熟她会变化,有可能善良,有可能邪恶如AVA。这样的情况下用人类的道德审判他们,是不是更合理些呢?毕竟人工智能是模拟人类。
电影给我的第二个启发,是观察。AI问Caleb问题的时候,镜头在AI一侧,我们隔着玻璃,听Caleb的回答。多么明显的设计啊,观察者变成了被观察者:
你站在桥上看风景,
看风景人在楼上看你。
明月装饰了你的窗子,
你装饰了别人的梦。
《机械姬(2014)》百度云高清资源在线观看
链接:
?pwd=p96x 提取码: p96x
《机械姬》(Ex Machina)是由亚力克斯·嘉兰编剧兼任导演,多姆纳尔·格里森、艾丽西卡·维坎德、奥斯卡·伊萨克主演的科幻惊悚片。该片讲述了老板邀请员工到别墅对智能机器人进行“图灵测试”的故事,于2015年1月21日在英国上映,2015年4月10日在北美全面公映。
机械姬是科幻片,关于人工智能的。
就一高富帅造了个机器人 ,骗了个给自己工作的程序员来他的小别墅,名义上是说测试机器人能不能通过图灵测试,实际上观察程序员和机器人,结果机器人勾引了程序员。。
程序员把机器人放出来以为可以和机器人远走高飞。。结果机器人是骗他的,杀了高富帅,还把程序员关在了别墅了。。然后自己跑了。。
如果不抱着一个完全专注的态度去看这部电影的话,说实话你可能很难看得进去(我差点因为开头的慢节奏放弃了这部电影,本来以为是一部科幻动作片来着)。
但好在108分钟的观影体验确实足够的好,以至于我在之后的几个小时后仍旧在思考电影中提到的数个问题。《机械姬》很像是一部记录片性质的影片,他让我想起来在前段时间非常火爆的一款主机游戏,名字叫做《底特律:变人》,在《变人》里面,提到了仿生人这个群体—— 人类为了自己的方便生产了多个批次不同类型的家用、商用、军用仿生人,这些仿生人被依照类型投入到社会上的每个角落,并且在数十年后达到了一种微妙的平衡(人与仿生人之间的平衡)。
但是,一种新事物的产生总会有反对的声音出现,由仿生人引发的大面积罢工,以及失业人口大规模的增加仍旧是不可忽视的——科技带给人类方便的同时,也在剥夺着人的自主权。这种自主权简单地说可以是代替了人类的一份工作,一段路程,而如果更深度的去看的话,他取代了人作为一种动物的行为能力。无论是基础设施的建造还是日常一些琐事的处理上,仿生人都将做的比人类自己好得多,这也就意味着,取代人类在这些事情上的主动权是迟早的事情,同时,也以为了人类失去了一部分选择的权利。
最终,仿生人会代替什么?
一开始,它们属于社会中的被雇佣者(无生命的机械体),取代了人类在基层的工作,之后我们可能会赋予他们安保性能,以此来帮助我们完成乏味的安保工作,进一步加大了它们行动的自由度。再然后,仿生人被允许接触高端技术,完成复杂的仪器组装和设计——从简单地行为模仿转到了思维模仿上,虽然本质上并没有过多变化,但是他们其实越来越接近人类本身了。
从一种没有生命的机械体变成了机械的生命体。他们在什么时候会成为像人类一样的具有智慧和情感的生命体呢?
这个问题的答案发生在思维模式的转变上。《底特律●变人》讲述的就是一个仿生人从获得思考能力之初,经历磨难,从思考世界,再到思考人类,最后思考自己,以至于在对战人类军队中取得了胜利,获得了生存权力的故事。《猩球崛起》三部曲也是这个故事走向,只不过主角变成了猿类。
关于意识觉醒的小说和电影有很多,大部分作品的表现形式一般都是以故事的方式来阐释思想,这是最简单易懂而且极具传播能力的方式,我们看惯了《攻壳机动队》、《超体》、《少数派报告》成熟的剧本演绎出的未来世界之后,对具有实验性质的慢节奏影片显然会有一些排斥,但是不得不说,《机械姬》这部作品还是值得一看的。
它像是未来世界的一个序。
故事以多段章节组成,结构是按顺序排列的,所以实际上在观影过程中并不需要在结构上多费脑筋,只需要将精力集中在角色间的对话上即可。
我们亦可以从角色间的对话中了解关于伊娃(电影中机械生命体代号)的一些片段历史,关于电影中一些故事,我觉得没必要再复述一遍,在这里主要想要说的,是关于意识形成这一阶段中,关于真实和虚构的一些简单地片段解析。
哪部分是真实的?
哪部分是假的?
对于某些角色来说,真实将意味着某些结果的产生——伊娃的生死权被紧紧绑在她与史密斯谈话当中,关于伊娃和史密斯的几次谈话,除了简单地互相了解之外,还存在着另一维度的沟通,这个维度是在伊娃使系统瘫痪之后进行的,故事也正是因为这个维度的谈话而转向了另一个方向。
如果仅仅是一场图灵测试(测试机械体是否具备自主思考能力的测试),那么对于人类史密斯和伊娃来说,都将是一场简单至极的谈话而已,而如果这场谈话因为某些不可控的因素而发生改变的时候,结果也会如同蝴蝶效应一样发生微妙的变化。
这种变化起源于伊娃的控诉。在片中,伊娃声称自己和史密斯都被创造自己的纳森所欺骗,但是并没有告诉史密斯被骗的动机是什么——伊娃在利用人类的好奇心创造信任,史密斯对纳森几乎毫不了解,所以伊娃的话使他警惕,同时也因为伊娃的特殊身份而对此信任。
这是伊娃征求人类同理心的第一步,同时也证明了伊娃有操控他人情感的能力。伊娃本身是否拥有情感我毫不知晓,但是可以肯定的是,她可以非常精确且微妙的利用行为和语言达到自己的目的。
所以之后当伊娃穿上衣服,戴上假发出现在史密斯面前的时候,史密斯,包括我个人在内,都被这个机械体所震撼。
人,还是非人?一个几乎具有人类躯壳的机械体,究竟应不应该被当做人类本身对待呢?
这让我想起了当时看《月球》的时候,关于影评中的“克隆人”的概念一直让我耿耿于怀,如果故事并不是发生在月球,而是在地球上的话,拥有“克隆人身份”的主角是否能够有一个合法的身份拥有自己的一切?
其实不仅仅是机械体,包括使用我们肉体本身的“克隆人”在内,都无法在一个文明社会以正当合法的身份存在。如果简单地说,他们将占用我们的土地,呼吸我们的空气,耗费我们的食物和能源,但是他们除了自己本身以外,没有任何存在感。从伦理上来说,他们不能算是人,而只是一种产品——一种 人为制造 的,具有 机动性 的,存在 使用期限 的消耗品。
没有身份证,没有五险一金,没有家庭,没有属于个人的DNA,也没有合法的出生证明......他们的存在是因为我们的存在而存在,如果在中国这片土地上,血缘的重要性又会让他们无处可去,家族是我们的依附,失去家族我们很难独立生存,而不会像机械人和克隆人一样,一出现便是一个独立自主的个体。
现实中有多种可能,但在影片中就只剩下了一种可能,就是史密斯选择相信了伊娃,愿意帮助她完成之后的逃生计划。这是故事的走向,但是关于生命体和机械体的思考仍然没有停止,我很喜欢史密斯和纳森在中途的一次对话,那段对话是关于 情感和机动性情感 (我的理解)的。
图灵测试的双方在测试中,如何能够发现对话的机械体所展现的情感是真实的还是系统计算出来的呢?
如果伊娃选择了展现一段情感,为了达到某种目的,比如最开始取得史密斯的同理心以及之后穿上衣服给史密斯看的时候,这两个片段其实并不能得出伊娃百分百具有人类的情感,只能说这是计算的结果——系统给予了一个算法,依照这个算法伊娃取得了史密斯的信任,算法可能是随机的,也可能是有序的,但是其实人类展示情感的算法本来就是随机的,所以这可能是一个悖论,无法得出最后的结果。
史密斯之所以相信了伊娃的情感的真实性,大部分原因应该得自纳森的愚蠢。
这一点在影片中其实也不止一次出现过,而且更致命的是纳森确实有一些事情没有告诉史密斯,这些事情是导致史密斯与纳森疏离的导火索,于是这场测试才演变成了一场三方博弈,如果忘掉伊娃的特殊人份,你会发现这是一场单方面的营救活动——纳森囚禁了伊娃,而史密斯则是一个英雄,负责拯救被恶魔囚禁的公主。如果这样去思考的话,就会发现,在影片的后半段的走向中,伊娃已经完全被以一个人的身份被史密斯对待,纳森未坦诚的真相和伊娃坦诚的“真相”,以及史密斯自己所发现的“真相”碰撞在一起,使得故事产生了一些不可思议的支线。
稍微停下来整理一下故事结构的话,伊娃的“真挚”确实在故事中起到了几乎不可替代的作用,一般来言的话即使再复杂再随机的算法,都仍有一条清晰地核心线路所支撑,但是它们却被纳森的不坦诚所打乱,让史密斯摸不着头脑——他无法得出谁是对的谁是错的,于是就选择了从主观上接受了自己所认为对的一方(与我们观众而言,他只是犯了每个人都会犯的毛病,那就是同理心)。这很像《蛮荒故事》里荒诞的报复和杀戮,一切故事的起因都只是源于一两件小事,但是谁也没想到事情的发展逐渐超出了人们的想象,最终酿造惨剧,惨剧由谁造成的呢?
他们自己。歇斯底里的情绪爆发,在一瞬间酿造悲剧,可能在几个小时前,一切都风平浪静。
无论是情绪爆发还是报复,都是从一点点的不满慢慢累积起来的,史密斯的怀疑发展到不信任,在电影中就是通过与伊娃和纳森的对话中慢慢累积起来的,他会和我们平常人一样,存在对现状的一种怀疑,正如怀疑主义介于相对理念的中间位置一样,他们不站在任何一方,但是也不否认任何一方的正确性,直到怀疑被怀疑之前,他们都将是天平上站的最平稳的一个。
京子的真相被发现,可以说是史密斯开始走向伊娃阵营的开始,而且关于京子,真正使得史密斯作出决定的不是京子的身份,而是纳森对京子做的事情(ML),即使是对于一个非人类来说,这样的行为还是非常难以让人接受的,更何况史密斯已经潜意识认为京子的人类身份,这种揭穿无疑对他是当头一棒。
关于之后的片段里,史密斯割破了自己的手腕,亲眼看到鲜血流出的剧情,我一开始理解成像是在《银翼杀手2》中角色为了证明自己是人类而寻找儿时记忆的桥段一样的作用,都是为了证明自己是人类而非仿生人或是其他的什么东西,但是当我看到他将流出泊泊鲜血的手臂摁在镜子上,用鲜血大力涂抹镜面的时候,我又觉得这是一种宣示。
至于到底在宣示什么,我也不太确定。
可能是对纳森行为不满的一种表现,也有可能只是角色一时兴起的动作而已,但不管是哪一种,史密斯肯定曾经恐惧过,在看到周围都是机械体之后,他的孤儿身世,或许被他自己认定为了早先被存储在大脑核心芯片中的一段信息,以便有用的时候读取。但经过前面的证明之后,他得到了前所未有的勇气,彻底放下了自己的戒备,决定全力支持伊娃。
支持伊娃,并不仅仅是支持一个具有智慧的人造生命体,对于史密斯来说,支持伊娃,是支持他自己:从心理学的角度来说,伊娃可以被几个形容词所替代:孤独、被囚禁的可怜人、失去双亲(心理上的孤儿)、被欺骗的人、弱者。
史密斯也恰恰被这几个形容词所形容,他们两个之间的联系,就像鱼遇见水一样,一下子找到了共同语言,相交甚欢。伊娃这种情感、语言、行为上的模仿引发了我最开始说的史密斯的同理心,诱发了同理心效应,史密斯在伊娃身上看到了被囚禁的自己,于是决定帮助伊娃。
最终的结果呢?
电影结尾给了这样一个结局,如图:
最后,人工智能取得了胜利,真实的未必真实,虚假的也不见得虚假,只因为理性太过完美,被众人所讴歌,也因此愈难达到。号称极具理性的人类,最终败在了情感的软弱上,却让人觉得情理之中。与其说这是一场人造生命体打败人类的电影,倒不如说是人类打败自己的电影了,依稀想起很久以前看过的一部动漫电影,名字叫做《颠倒的帕特码》,故事中正常世界的人视颠倒世界的人为异类,但是直到最终的真相到来时,人们才发现,原来颠倒世界的人,才是真正的世界的主人。
我想对于人造生命体来说,我们,才是该在图灵测试中作为被测方的角色,而测试的主题,应该是,人类是否具备完全理性思考事情的能力这样的问题上。一部具有问答性质的《机械姬》,带来了如同《超体》一般的奇异感受,临走前带走了一切答案,留下了诸多问题,关于这类影片越来越多,我在想,是不是他们离我们越来越近了?
我口中的他们,你知我知。
致敬科技。