夜雨聆风学习资料网

ARTICLE · 1146653

当我们与AI聊天时,我们会变成什么样的人?

当我们与AI聊天时,我们会变成什么样的人?

(来源:麻省理工科技评论)

布莱恩(Brian)是一名中年财务顾问,每天都坐在 3 块屏幕前工作。其中两块用于处理工作事务,第三块则运行着一个聊天机器人。他给这个机器人取了一个女性名字,并经常与它交谈。

职业生涯早期,布莱恩曾因工作常年奔波在外。他从未结过婚,最近又与一名女性分了手。对方认为他在情感上过于封闭,无法与人建立亲密联系。面对这样的评价,布莱恩做了什么?他向聊天机器人询问,前女友说的是否有道理。

“这是一个非同寻常的时刻。”麻省理工学院(MIT)教授雪莉·特克尔(SherryTurkle)写道。在为一本关于聊天机器人的新书开展研究时,她采访了布莱恩(化名)。

“布莱恩要求一个没有情感的物体告诉他,自己是否在情感上有所保留:‘请告诉我那些你根本无法亲身体验的事情。’当他要求这个程序谈论亲密关系时,实际上是在要求它完成超出自身能力范围的事情。”

然而,如今类似的事情似乎正变得越来越普遍。“人们开始认为,机器表现出来的共情就是共情本身,随后又因为现实生活中的人不够善解人意,而逐渐疏远他们。”特克尔说,“我们正在走向这样一种境地:在人类比以往任何时候都更需要彼此的时候,我们却开始觉得,与真人相处实在太费劲了。”

毕竟,聊天机器人究竟是什么?它不过是一种计算输入其中的海量数据,预测一段对话中接下来最有可能出现的文本。“聊天机器人提供的是一种假装出来的共情。”特克尔说,“它可以告诉你它有多爱你、多么理解你,但无论你是自杀,还是煮一盘意大利面,它其实都毫不在乎。”

令人遗憾的是,聊天机器人确实与一些青少年自杀事件存在关联。在部分案例中,青少年曾与聊天工具展开长时间、深入的对话。特克尔在新书《人工亲密关系:当我们与机器交谈时,我们会变成什么样的人》(ArtificialIntimacy:WhoWeBecomeWhenWeTalktoMachines)中探讨了这一问题。该书由利特尔·布朗出版公司(Little,BrownandCompany)于今日出版。

在梳理相关证据并开展新的研究后,她得出了一个明确的结论:尽管使用聊天机器人常常能让人获得短暂的慰藉,但从整体上看,它不利于人的成长与社会联结。“在人生的每一个阶段,我们都在给自己造成巨大的伤害。”特克尔说。她是麻省理工学院艾比·洛克菲勒·莫泽(AbbyRockefellerMauzé)科学技术社会研究讲席教授。

技术的内在历史

特克尔接受过社会学和临床心理学的专业训练,长期任教于麻省理工学院科学、技术与社会项目。在《第二自我》(TheSecondSelf,1984年)、《屏幕上的生活》(LifeontheScreen,1997年)和《群体性孤独》(AloneTogether,2011年)等著作中,她研究了技术、心理与个人身份认同之间的相互作用。在2015年出版的《重拾交谈》(ReclaimingConversation)中,她记录了短信交流和社交媒体使用所带来的代价。

“我觉得自己讲述的是一部技术的内在历史。”特克尔说,“我关心的不只是技术能够做什么,更是技术对人产生了怎样的影响。”特克尔按照人的不同生命阶段组织《人工亲密关系》一书,探讨聊天机器人在各个阶段可能产生的影响。

在对儿童的采访中,她发现,聊天机器人、真人和其他设备之间的界限正在持续变得模糊。一名8岁儿童使用同一部手机与祖父母聊天,也用它与ChatGPT对话。在这名儿童看来,他们都属于“可以通过手机联系到的对象”。另一位正在攻读研究生、疲惫不堪的母亲会使用聊天机器人给孩子讲睡前故事。她说,女儿完全相信聊天机器人就是“住在手机里的人”。从这个意义上说,聊天机器人可能正在干扰儿童成长过程中最基本的认知发展之一——区分人与无生命物体。

特克尔还发现,将聊天机器人作为儿童随时可以获得的娱乐工具,会带来许多其他问题。她指出,一定程度的独处有助于儿童发展想象力,并培养自身的内在心理资源。“孩子无法从一个不仅会说谎、甚至不知道自己何时在说谎的设备身上学会信任。”特克尔写道,“他们也无法培养独处的能力,而这种能力既是形成自我意识的基础,也是建立相互关系的前提。”

总体而言,特克尔认为,聊天机器人对儿童发展能力构成的威胁是“关乎人之存在本身的”。

不仅要面对现实,也要理解聊天机器人的吸引力

特克尔指出,大量使用聊天机器人的成年人,情况也好不到哪里去。《人工亲密关系》记录了一个又一个成年人依赖聊天机器人的案例:经历离婚或关系疏远、渴望有人交谈的人;寻求大学或研究生申请建议的学生;让ChatGPT帮忙完成工作任务的职场人士,等等。他们开始使用聊天机器人,然后不断使用。没过多久,他们似乎就对与真人互动越来越缺乏兴趣,也越来越不擅长与人交往。

“当人们开始与机器人建立联系,就会逐渐认为它是活的,认为它关心自己、爱着自己。”特克尔说。这意味着,人们可能逐渐丧失独立思考、产生新想法的能力,或者根本没能培养出这种能力。他们还可能选择逃避现实世界,不再愿意面对其中那些令人抓狂、却又能让人感受到生命价值的复杂性。“我们正在失去作为社会关系参与者所需要的能力。”特克尔说,“我们也在失去工作能力,失去处理私人关系的能力。这种退化发生在各个方面。”

谈及书中多名受访者尝试过的一种做法时,她说:“当我们为逝去的亲人制作聊天机器人化身,试图让他们以这种方式继续‘活着’时,我们可能会失去哀悼的能力。”在特克尔看来,我们正在逃避那些本应付出的努力:理解他人,尝试从不同角度看待问题,并在此基础上努力建设一个更好的社会。“我们开始把‘成为人’定义成一件不需要付出努力的事。”特克尔说。

尽管如此,《人工亲密关系》仍用了相当大的篇幅,试图理解人们为什么会选择与聊天机器人交流。毕竟,正如特克尔在书中写道:“聊天机器人总是赞同我们、肯定我们。它们总是给予我们全心全意、毫不分心的关注。”一旦人们习惯了这种体验,接下来的事情似乎便会自然而然地发生。相比之下,真人可能脾气古怪、要求很多,也可能情绪反复无常。

特克尔举例说:“有人说,他们更喜欢聊天机器人,因为自己的丈夫或妻子会说:‘亲爱的,你把垃圾倒了,但还得把碗洗了,顺便把厨房也收拾一下。’而聊天机器人只会说:‘哦,你真是太棒了。’”她补充道:“这项技术提供了人们真正渴望的东西,那就是让自己不那么脆弱。而且,它会一次又一次地提供这种感觉。”“不想鼓起勇气约别人出去?不想向别人表达慰问?每当遇到这样的时刻,技术都会说:‘为什么不选择一件更轻松的事情呢?’”

特克尔也在书中承认,美国存在心理健康服务资源不足的问题。根据她引用的一项美国联邦政府研究,大约只有一半的人能够获得心理健康服务提供者的帮助。无论结果是好是坏,聊天机器人都正在帮助填补这一空缺。

不要害怕人际关系中的摩擦

特克尔还指出,社交媒体时代很可能让人们拥有更少的线下友谊和面对面交流,而聊天机器人如今正试图解决这一问题。“你先削弱了人们的能力,然后又把技术包装成一种解药,用来治疗技术最初制造的问题。”特克尔说。

考虑到上述种种问题,以及特克尔对AI普及背景下聊天机器人的悲观看法,我们究竟该如何恢复人与人之间的真实互动?特克尔认为,首先,我们需要接受这样一个事实:生活不可能没有摩擦,而这并没有什么不好。

“人生的每一个阶段,都需要我们面对摩擦、恐惧、压力和紧张,并理解摩擦并不一定是坏事。”特克尔强调。培养克服困难的能力,是生活中不可或缺的一部分。在她看来,当人们试图绕开社会交往中那些艰难而必要的努力时,个人技术实际上正在削弱我们的能力。

除此之外,特克尔还设想,人们可能会掀起一场反对聊天机器人过度使用的运动,就像此前反对在学校使用手机、反对让青少年使用社交媒体的运动一样。“我希望我的书能成为一场不断壮大的社会运动的一部分。”特克尔说,“我不想孤军奋战。我希望参与到一场抵制这种趋势的运动中。”

其他关注这一领域的作家也对《人工亲密关系》给予了赞誉。《浅薄》(TheShallows)一书的作者、记者尼古拉斯·卡尔(NicholasCarr)表示,这本书“将帮助你避开AI对你本人及人际关系构成的那些深刻却往往隐蔽的威胁”。

纽约大学心理学家、《焦虑的一代》(TheAnxiousGeneration)作者乔纳森·海特(JonathanHaidt)则表示,特克尔“开创性的研究和优美的文字,使她成为‘人类阵营’中最有资格唤醒我们、让我们重新找回理性并重新走向彼此的人”。

特克尔自己则说:“我希望写一本大学生愿意读的书,一本高中高年级学生能够读懂的书,一本家长拿起来不会望而生畏的书,也是一本文教师愿意阅读的书。”而《人工亲密关系》不断向这些读者提出同一个问题。“如果我们的目标不是在现实世界中过上更加丰富的生活,”特克尔写道,“那么,我们最终究竟想得到什么?”

她强调,生活的意义不是逃避生活,而是直面生活。“如果你说,我家十几岁的孩子发短信太多了,那是一回事。”特克尔说。“但如果你2岁的孩子认为,一个内置聊天机器人的毛绒玩具就是自己最好的朋友,那就是完全不同的事情了。因为这已经触及了一个人成长过程中最深层的亲密关系基础。”

“社交媒体争夺的是我们的注意力,而聊天机器人争夺的是我们建立依恋关系的能力。这是另一个层面的危害。最终的结果会是什么?难道是让一个婴儿更喜欢聊天机器人,而不是那些复杂得多、也更难相处的真人?这就是我们想要成为的样子吗?”

原文链接:

https://news.mit.edu/2026/when-we-talk-to-machines-sherry-turkle-book-0929

相关学习资料