新观点从社会学角度看Sophia骗局与人工智慧的“自我意识”
去年年底才风光获得公民身分的Sophia，却在前几天被“卷积神经网络之父”Yann LeCun斥为一场骗局。这让关於AI到底是否能够“成为人”或“形成自我意识”的争论再度成为焦点。
这不是骗局，什么才是骗局？
先不论给予Sophia人类公民身分的，是沙特阿拉伯这个女性人权与公民权仍受压迫的国家，这件事本身就荒谬地令人发笑(一个连“人”的权利问题都还搞不定的国家，反倒抢着给“非人”公民身分)。
如果你也看过那些Sophia与人互动的影片(例如她去Jimmy Fallon的Tonight Show)，我想就算你不是什么AI专家，应该也会怀疑Sophia真的“够格”成为人类公民吗？
我得先说，我不见得如李开复所说的，将Sophia获得公民身分这件事视为是对人类最大的羞辱。但如果说Sophia的每次登台“演出”都得事先设定，否则其对话与互动的能力就会大失水准，而她却又被“包装”地彷彿跟人没什么不同，那么，这不是骗局，什么才是骗局？
总之是已经被骗了，至少我们得藉这个机会再想想，AI真的能“成为人”或“形成自我意识”吗？当然，上述这个问题本身可能已经是一种化约，也就是将“形成自我意识”等同於成为人。不过，在有限的讨论空间下，且让我先这样提问。
AI能形成自我意识吗？
AI的发展之所以老是与“人”扯在一起，套一句Sophia的话，恐怕也是电影看太多的缘故。有太多的科幻电影都以AI与人的关系为题材，探讨着理性、感性、身体、生命、情感、支配、自由等等重要的问题。
而认真说来，在我看过的有限的科幻电影中，特别处理了“自我意识”这个问题的，大概就是《奥图玛塔》跟《成人世界》这两部。前者透过AI机器人开始会自我修复受损的身体，凸显出它们开始有了自我意识；后者则是一位天才科学家开发出一套有着类似人类学习能力的AI，并实验性地将其灌进某具本该报销的机器人后，它却阴错阳差地“成长”为街头混混的故事。
绝非凑巧地，这两部电影里的AI都是“有身体的”，《奥图玛塔》里的机器人突破了设计原则开始维修“自己的”身体，《成人世界》的机器人查皮甚至会因为被火烧身、失去手臂，表现出(或感到)恐惧与痛苦。如果对照来看的话，一方面Sophia也有她的身体，但另一方面，Sophia的身体却显然笨拙，或者说了无生气。
是的，虽然说科幻电影经常让人不切实际地幻想高科技的未来，但许多时候它却也精准地掌握了一些问题。在形成自我意识这个问题上，我们可以看到，“身体”至关重要。从社会心理学的角度来看，“自我”的形成是几个过程作用下的产物。首先得有一个能够想像地预演下一步行动的心智过程，而这意味着这个心智过程能够理解“外在”的资讯进而“内在”地预想可能的行动后果；其次，“自我”形成於与他人的互动中。也就是说，在互动中，心智过程可以处理外在他人针对“自身”所释放出的描述与评价消息，进而心智过程便能够形成关於“自我”的意识与想像。
换言之，正是因为有一个身体，他人的眼光、评价与描述才会在互动中指向同一个所在。因此，“自我”的形成就好像是一个迴旋的弧线一般，从“这里”发射出去再从他人回返至原初起始的所在。这一迴旋的弧线让“自我”得以从身体中诞生。说穿了，我们经常在说“要注意自我形象”时，为何总是第一直觉地看看自己的装容打扮、言行举止，正是这个原因。
而Sophia虽然有着令人惊艳的表情控制技术，但她的身体却没有表现出“自我”。这不是在说Sophia没有“个性”(事实上她的言行还挺有的)，而是在说，除了“有反应”的表情(但有时也会延迟反应)外，她的肢体动作往往是呆滞且无法相应於互动他者有所进退的。
换言之，你可以想像，上述我所谓形成自我的那道迴旋的弧线，在Sophia这里，就算不是全然不存在，恐怕也是模糊不清的。因此，进一步说，AI是否可能形成自我意识？那就得看AI何时既能有进行想像预演的心智(运算)过程，又能有一个同时作为认知与行动起始点，及他人描述与评价回返原点的身体。
跳出人类中心思维
不过，我得再多说一点的是，这些老是把AI跟“人”扯在一起的讨论，除了受科幻电影影响外，也不免是由於“人类中心主义”所致。
简单来说，一方面有些人会认为这种比人更强大的科技，总应该是要以人(这个过去自视为万物的顶点)为范型的放大与增强。另一方面，人类中心主义也表现在，我们焦虑於如果AI“不像人”，那我们可能控制它或与它“沟通”的可能性就更低了。当然更不用说，如果它“不像人”，人类未来又该如何承认其存在？
但是如果我们能先跳出人类中心主义的思维，想像AI发展的未来时，相较於有没有“自我意识”，我反倒觉得AI是否能够及是否应该“自主”的问题更为重要。在这里，“自主”可以简单定义为，能自行选择目标、提出问题并寻求解答及採取行动。
换言之，当AI的发展实现“自主”时，这也意味着人类终於才切实地看清了科技不再(或说从未)受自己控制。至於之后的故事就没人能知道了。
《机械公敌》的“人类保护计画”会真实上演？还是会如《奥图玛塔》那样，AI机器人将集体远离终将自我毁灭的愚蠢人类？