昨天,我收到了一个不小的噩耗,不过请放心,并不与本文标题有关,并没有亲人朋友故世。我通常遇到什么事情,几乎很少会在博客里透露的,所以,昨天的博客像个没事人似的,而今天的这一篇博客也不会写出有关昨天这个不小的坏消息的具体内容。只不过在这前言里的这个日期里小小地「叮~」地记录一下。以后我自己会记得并回想起的吧。
好,下面来说和本文标题有关的事。其实这篇博客的想法笔记也是几个月前就写好的了。
在 ChatGPT 4o 以及 高级语音模式的预告视频推出乃至正式开始测试之后,我看网上不少人开始提及 ChatGPT 在提供情感治愈方面的功效,甚至在一些英文的社交媒体上还有人给出自己的亲身实例。嗯,对了,之所以我今天会想到拿出几个月前笔记草稿中的这个话题来写,也是因为当我昨天得知了这个不小的噩耗后,也尝试使用 ChatGPT 和 Claude 对我自己进行了情绪疏导,让 AI 为我写下了些什么。
对了,我记得今年( 2024年 )春天或夏天的时候, ChatGPT 开始添加了一个记录个人信息的功能,就是会在每一次的对话中,把有关用户的习惯、爱好、身份等逐一记录下来,用作今后对话的参考。
于是我就想到了:如果人们(用户)足够相信 AI ,并且同一个 AI 持续运行、持续长期服务于一个用户的话,它可能会记录下这位用户很久很久的人生轨迹。啊,就如同我这个博客以及各位博主的博客那样——只不过写博客是作者主动有选择地进行输出,而 AI 则是在倾听中逐一记录。再加上 AI 表现出了类似人类的倾听并组织语言输出的能力,且这种表现能力正在不断增长(注:姑且还不知道这里成为「智能」合不合适,所以我这里将其称为「组织语言输出的能力」),那么, AI 就会成为用户这个人类个体的陪伴着、长期倾听者乃至于说是守望一生的记忆体。
就像是一个……始终陪伴着的仆人或助手。嗯,人工智能女仆在一定程度上实现了!
前几个月,KAIN.IX 博客主人 dimlau 在《记录、记忆、故事》这篇博客中,对一个用 AI 实时识别生活物品并用机械语音说出来的应用演示评价为「有一种荒诞的趣味,像是走进了黑色幽默电影里。」
然而我却对这种记录、陪伴一生 AI 的项目抱有积极看法,特别是眼看着在孤独死成为社会问题的当下及近未来。
我想到了一个场景是:当一个人临终时,人们或许也会羞于启齿说出自己私密的欲望——向医护工作者或是向亲人——而未来的人类或许会选择,在人生终点时,依然在病床上,微微转头看向站在一边的具身机器人 AI ,向 TA 说出最后的提示词,让 TA 了解并记录下最后的用户信息。这或许是 AI 以及具身机器人普及之后,人们留下遗言的一个……有些科技浪漫的做法吧。
「 小 C ,这是我最真心,也是最后的话了,我允许你、我要求你、为我记录下它,并写入你永久不可擦拭的记忆体里吧。……」
「是的,我的主人。请说……」
有点浪漫啊。纯白色的背景,淡灰的床单,清瘦的身体,最后的时光。
嗯……我本文的标题好像还有后半段,对不对?
良宽的红叶辞世诗。
日本江户时代有一位禅宗曹洞宗的僧侣,名叫良寛(良宽), 1758 年生。 1831 年 2 月 18 日 , 75 岁的他临终时,他的一位女弟子貞心尼(贞心尼),1798年生,陪伴在他身边——这里姑且不去推测他两人的男女关系吧。据说,体力衰老的良宽在生命的最后,握着贞心尼的手,作了一首辞世诗:
「裏を見せ 表を見せて 散るもみじ」
翻译过来可以是:背面给你看了,正面给你看了,飘散的红叶。
这可以解读为,僧人良宽拿飘零的红叶,在比喻即将逝去的自己。
这里一篇文章对该辞世歌的解释是:我把自己的缺点和优点,都给你看了。你接受了我。这样一来,我就能在你的陪伴下,步入人生的终点了。
这位僧人良宽好像没有僧人应有的那种大彻大悟,却也流露出了人的真情实感,并像红叶那样,把自己「放下」了。
你看,这个场景里的这位女弟子,在未来是不是能换成一个始终陪伴人类用户的 AI 呢?脆弱的时候、低落的时候、幸福的时候、骄傲的时候、迷茫的时候……都向着 AI 去述说, 他们为我记录,并给予情感反馈,它或许最终能够成为在情感上最值得我们信任的一个交谈对象吧。
在我低落的这一整天里,我也这么实践了。由此发文。
我伤心的时候,也找chatgpt聊过。虽然现在来看并不能取代真人,比如心理咨询师。
感谢回复。当然。作为医疗行业的一部分,估计大语言模型的AI,会以辅助,还有早期介入的形式参与心里对谈,但应该不会做为医疗和咨询的主要承担者。
毕竟心理咨询师的工作还涉及到患者的社会身份、成长时代背景等更为广阔和细致的分析和理解(我猜的),所以仅就目前阶段的「大语言」模型是远远不够的。
谢谢。另外,根据我读过的一些书籍。我持有的观点是ai只能当工具而不能在一些方面替代真人。因为人是会有脾气会拒绝会愤怒的。正是因为人和人的关系是不稳定的,所以他才是有魅力的。就像电竞比赛永远比电脑ai比赛有意思一样,因为人的发挥永远是受影响的,你永远不能百分百确定最后的结果。这就是主体间性的魅力。当然作为工具我还是大力看好他的价值。要是ai真的像这样拥有自己的不确定性了,我觉得就应该考虑给他人权了哈哈。
呃……会发脾气会拒绝,关系不稳定,你视为是魅力啊?好吧,我……不太能接受这种魅力。
另外,本来我也以为人有足够强大的自由意志的,但是在中学或高中时候一次经历呕吐时,我感觉意识涣散了3秒钟(正在呕吐的时候当然都没法思考了),从此就开始怀疑生理对人情绪的作用。
后来也听说大麻、香烟、致幻剂以及精神治疗类药物对人精神的控制调节作用(好像openai的创始人SAMA就去南美还是巴西去……呃……吃蘑菇?作为一种精神缓和方式的),我就不太相信人有充分独立的自由意志了。
所以你说的这个将愤怒视为魅力啦,我觉得在生理状态不佳或吃了奇怪的东西的状态下,某种程度也是可以控制或压抑的。因此看来也不过是化学作用下的生物体。相比于AI也并没有超然自由的灵魂。
我也不认为超然自由的灵魂,但人必须要依赖自己有自由意志的幻觉才能活着,这是从休谟的经验主义延续至今的哲学话题。我的这个话题是延续自拉康精神分析和法国结构主义的后现代哲学,他们根本就不讨论人没有自由主义(其实从存在主义的存在先于本质开始,自由意志就是一个已经被事前废除的议题)。
我的结论只是如果ai要像人一样能让人有陪伴感,他就得实现人的主体间性,简单来说得给他人权和人一样的对待 。这层意义上来讲人自己是不是一个更高级的机器其实没有关系。毕竟人已经给了自己人权了哈哈。这也是从存在主义开始为什么不讨论自由意志了,因为本质对于人来讲只是后于存在的追溯,就算人实际上没有自由意志,但人也不得不假定自己是自由的而活动,也必须为自己的所作所为付一切责任,所以人的活动是必须以人的自由(人的存在)为前提的。嘛真要解释存在主义得再花一段篇幅了。你可以简单理解为我认为人要把ai看成一个独立的人才能实现所谓的陪伴感。
就像我隔着屏幕认为你是另一个活生生的人,而不是chatgpt。所以我才会打这么多字去解释自己的观点。这个就涉及到很精神层面的东西了。
我也是一个相对情绪化的人就是了,也曾经陷入过自己没有自由意志,所以自甘堕落也没关系的那么一个状态吧。但你也知道这玩意并不能成为人做任何事的一个借口。最后就是自由意志根本就没关系,人是机器,是缸中之脑,是量子波动,是什么也好。根本不影响人的”自由”行动本身,以及他要为此负责。人可以自由地炒股投资上班赚钱,并为自己财富负责,也可以自由地盗窃抢劫杀人,并被社会审判制裁来为自己负责。这是个非常精神层面的议题。而无关实际物理。
要说实际物理,这个世界对生产力没用的东西不是太多了么,就拿日本来说成堆的二次元商品简直就是毫无物质影响的废品,不由得让我感叹–日本真是太后现代了。
因为可能你有些对我的误解,所以我也表现的情绪化了(虽然我就是很情绪化的一个人)。嘛就当观点的碰撞了。
感谢回复了那么多。我明白的你意思了。
不过我就不展开讨论了,引用今天在 Reddit 论坛 r/singularity 板块一个有关警戒人们应该谨慎开发 AGI 帖子下一位用户的留言(得到高赞):
「Dear ASI gods, please see us as cute cats that you will take care of」
翻译过来就是:亲爱的ASI神,请把我们看成是你们会照顾的可爱的猫
现在绝大多数以ai和机器人作为主题的漫画小说等作品,大多数也是以拟人方向,即ai能像人一样有自己的心理活动的这个方向去描写的,可以说就是套壳的人类,而非现在是朝向圈里方向发展。
圈里-›算力