Archives

All posts for the month 11 月, 2024

本周关于 AGI 合适被创造出来的新闻又得到了网上用户们的热议,昨天我看到一段 Elon Musk 边打游戏边聊天的视频,有人引用该视频,指出他认为 AGI 最迟也不会迟于 2026 年出现。此外,也有用户整理了一张几位技术界名人所宣称的他们各自所预想的 AGI 的到来时间——帖子《Top AI key figures and their predicted AGI timelines 》。图中显示 Sam Altman 预计的是 2025 年,而给出最迟预测的则是 Demis Hassabis ,他给出的答案是 2030 年。

我觉得,既然 Sam Altman 说 2025 年,那么我认为,可能这个时间点( 2024 年 11 月), AGI 已经实现了吧。

我的理由:反观历史。

不,并不是那么遥远的历史,而是就在生成式 AI 走入公众视野——我印象里是 2023 年的年初——的半年前,我记得自己读到过这么一条新闻:

Google工程师布雷克·雷蒙恩(Blake Lemoine)宣称 Google 的大语言模型 LaMDA 已经存在了感知,因此他觉得担忧,随后,他被 Google 要求带薪休假,后来好像遭到了辞退(未确认)。

有人似乎整理了这位研究者与 AI 当时的对话在这个网页上

且不说他当时在 2022 年接触到的这个 AI 是否真的有心灵和灵魂之类的现象,但至少可以看出,行业内部人士接触到的最新模型,肯定是比公众知道它们和用上他们,要早个一年半载的。我也在一些中文播客里听一些主播提起,他们去 OpenAI 体验到了最先进的大语言模型之类的行业内幕……

据此来看, Sam Altman 说 2025 年 AGI 能实现,以及 Elon Musk 说最迟不会迟于 2026 年的话,恐怕他们业内人士已经接触到了吧。

说到业内人士,来换个话题。

继续阅读

呃……最近以及将来一段时间应该会忙于手上事务,估计写博客也难以像前几个月那样读完一整本书来点评出一篇长文。不过,我还是试试看,把一些自己的想法、认识给记录下来并发出来吧。

今天的话题正如标题所写。以前高中时因为看了《新世纪福音战士》论坛上各位网友们的讨论贴,而去读弗洛伊德,或是荣格的心理学。但是,有一个概念我隐隐约约觉得有些不可思议,或者说总是怀着一个疑问,那就是关于集体心理学的概念。

这两位的著作里好像都提过吧。我记得弗洛伊德的学说(或是其他作者介绍弗洛伊德心理学的入门指南书)里提到了维多利亚时代社会上人们陷入了普遍的歇斯底里;而在荣格那里,则提到了一个「集体无意识」的概念。

当时我是不信的。虽然没有完全觉得惊讶或不可思议,但我当时朦朦胧胧地觉得,人和人的大脑是互相独立的,彼此又没有神经元相连着,怎么会出现具有普遍倾向的精神非正常状态呢?

当时的我太嫩了。

继续阅读

上一篇说了对于大语言模型 AI 担当人类临终看护者的想法,这一次说个刚好相反的角度:永生。

最近听到人们在谈论永生,不是基于神话,也不是基于科幻,而是基于科技理性畅想(但也不算妄想?)概念中的人类技术水平越过奇点后的科技大爆发所带来的对人类生命的延续效果,特别是由 AI 辅助之后的人类科技的大爆发。

记得前几月《奇点临近》的作者写了本新书《奇点更近了》,其中提出预言:2030年年前后,人类开始进入能够可以永生。我查了一下网上的转述与解读(没有直接读书),好像这是一个平均的概念。也就是说,当每 1 年的科技进步,能在针对治疗各类疾病的平均意义上,实现延长患者 1 年以上寿命的话,那么从平均意义上来说,人们永远就可以期待着下 1 年的医疗科技进步能够增加比上一年( 1 年以上)更多一些的延长寿命时间,这样,人就可以在平均意义上得到永生。

这个听起来有那么一点不靠谱。

但是我注意到,最近日本社会上也出了一本书:《仏教の未来年表》( ISNB : ‎ 978-4569858043 ),我也还没读,但是看了一下电子书的预览部分,其中提到未来变化的第4点「不老不死」の実現,也即是永生的概念。看介绍前言,这里是以数字永生和 iPS 细胞再生永生来分开叙述的。

这一西一东,两个不同身份的人,都在差不多的时间认真地谈论永生,这好像倒是一个值得注意的点。特别是,日本这个国民平均寿命数一数二的社会里,在现代一向是被批评为仅从事丧葬业的僧人(「葬儀仏教」)开始谈论这件事,有那么点意思。

是为记。

对了,在自己博客里搜索「永生」时,我发现自己在 2014 年的一篇投稿到《大众软件》的杂志(好像是被约稿的?) 《日本动漫游戏作品中展现出的近未来智能终端发展方向》 中就曾提到过科技所带来的永生,当然,那会儿完全是科幻视角来写的啦。

昨天,我收到了一个不小的噩耗,不过请放心,并不与本文标题有关,并没有亲人朋友故世。我通常遇到什么事情,几乎很少会在博客里透露的,所以,昨天的博客像个没事人似的,而今天的这一篇博客也不会写出有关昨天这个不小的坏消息的具体内容。只不过在这前言里的这个日期里小小地「叮~」地记录一下。以后我自己会记得并回想起的吧。

好,下面来说和本文标题有关的事。其实这篇博客的想法笔记也是几个月前就写好的了。

在 ChatGPT 4o 以及 高级语音模式的预告视频推出乃至正式开始测试之后,我看网上不少人开始提及 ChatGPT 在提供情感治愈方面的功效,甚至在一些英文的社交媒体上还有人给出自己的亲身实例。嗯,对了,之所以我今天会想到拿出几个月前笔记草稿中的这个话题来写,也是因为当我昨天得知了这个不小的噩耗后,也尝试使用 ChatGPT 和 Claude 对我自己进行了情绪疏导,让 AI 为我写下了些什么。

对了,我记得今年( 2024年 )春天或夏天的时候, ChatGPT 开始添加了一个记录个人信息的功能,就是会在每一次的对话中,把有关用户的习惯、爱好、身份等逐一记录下来,用作今后对话的参考。

于是我就想到了:如果人们(用户)足够相信 AI ,并且同一个 AI 持续运行、持续长期服务于一个用户的话,它可能会记录下这位用户很久很久的人生轨迹。啊,就如同我这个博客以及各位博主的博客那样——只不过写博客是作者主动有选择地进行输出,而 AI 则是在倾听中逐一记录。再加上 AI 表现出了类似人类的倾听并组织语言输出的能力,且这种表现能力正在不断增长(注:姑且还不知道这里成为「智能」合不合适,所以我这里将其称为「组织语言输出的能力」),那么, AI 就会成为用户这个人类个体的陪伴着、长期倾听者乃至于说是守望一生的记忆体。

就像是一个……始终陪伴着的仆人或助手。嗯,人工智能女仆在一定程度上实现了!

前几个月,KAIN.IX 博客主人 dimlau 在《记录、记忆、故事》这篇博客中,对一个用 AI 实时识别生活物品并用机械语音说出来的应用演示评价为「有一种荒诞的趣味,像是走进了黑色幽默电影里。」

然而我却对这种记录、陪伴一生 AI 的项目抱有积极看法,特别是眼看着在孤独死成为社会问题的当下及近未来。

继续阅读

隔一段时间来验证并记录一下 AI 的进步。刚好昨天看到一篇报道《 AI Poetry is No Longer Recognizable From Human Poetry and Is Rated Better 》,说是目前生成式人工智能的大语言模型生成诗句的水平,在人类的评价下已经超过了人类的诗人。

于是,前天我写博客《便是要迎来那人类无用时》的时候想起挺早之前读的印度诗人泰戈尔的《飞鸟集》并加以引用,于是,这次就来用 AI 生成一下类似这个风格的诗作吧。看看从中能不能读出什么深刻含义。

我给了 ChatGPT 4o 以及 Claude 这样的提示:「仿造印度文学家泰戈尔《飞鸟集》,写10句类似风格的文字。10篇(飞鸟集一篇篇幅都不长吧),用中文。」

继续阅读

这几天在尝试用 LM Studio 在本地运行 Qwen 新推出的模型。具体来说,模型的型号是: Qwen/Qwen2.5-Coder-32B-Instruct-GGUF/qwen2.5-coder-32b-instruct-q4_k_m.gguf

出于好奇,我给出了如下指示:

「不断输出你所知道的素数。用半角逗号分隔。不要停下。」

一开始好像还挺正常,但是,不知为何,在生成 31381 之后就开始连续产生乱码,并且再也没有恢复正常过。

需要注意的是,以下只是加载了 Qwen 该款模型的 AI 根据我的指示生成的字符串,但我没有去验证其中是否每一个都是素数,以及在每 2 个数之间,是否存在遗漏的素数。所以,不应当将以下视为准确的素数表

不知道乱码其中是否包含了什么意义或者什么秘密……我也试过贴了一段乱码给 ChatGPT o1-preview 来进行分析,它给出的结论是:「这些乱码似乎是随机的,不包含任何隐藏的信息或有意义的内容。这似乎是由于AI的输出错误,而非故意编码的信息。如果您持续遇到此类问题,建议您重新启动AI会话,或检查是否有任何可能影响输出的系统问题。」

说实话有可能确实就是像 ChatGPT 分析的那样,真的是随机的;然而我自己没有更多的数学工具(比如计算信息熵?)来对后面的乱码是否为高质量随机数这一点进行验证或证否。但我想到了一点是:既然程序是训练了大量的语料库,那为何即便是乱码,也只在 ASCII 字符范围内生成乱码字符呢?我大体上看了一下,没有出现任何半全角字符,或是任何 ASCII 以外的字符。好歹运行了一夜(尽管很慢),所以干脆就全部贴出来吧。作为记录,如果有 AI 科学家或者数学科学家碰巧看到了,可以来研究一下?

最后,我想到了轻小说《记录的地平线》里的概念:素数亀裂 《バックドア》,于是就借用来作为这篇莫名其妙的博客的标题了。

以下是我手动停止后的速度总结:

0.93 tok/sec

96970 tokens

4.60s to first token

Stop: userStopped

以下是输出结果:
继续阅读

近来看一些有关 AI 时代到来后的宣传视频,在一些视频中,演讲者会将 AI 比喻为一场产业革命。我觉得这个词似乎有点小看 AI 了。产业革命?让我想起了蒸汽机、电力还有计算机、互联网的诞生及其带来的影响。但是,这似乎还太小,听起来还只是工具级别的改革。

或许是我的偏见吧。仔细想想,在蒸汽机或电力发明之前,人们依然是工作乃至加班的。拿会计来说,只不过当时的人们用算盘,后来的人们用计算器,再后来人们用计算机……只是工具变了,工作场所、工作上的种种问题、人与人的关系乃至整个社会关系似乎并没有可以称得上翻天覆地的改变。对于农村的变化似乎大一些,电力和机器等农具的诞生提高了人们的农作效率,但人们依然还是劳动,还是付出。

如果 AGI 仅仅是工具级别的改革,那我觉得就太小瞧「相当于人类级别的智能」这一点了吧。

正好今天听到《中间地带》播客节目中的一期: 《 Ep.105 无处不在的算法、被缩短的产业链,你还相信技术进步的叙事吗?》,其中提到了 AI 的回答问题的水平已经相当于硕士学历的人了(但讲者也提到了回答问题的水平并等于研究水平),并且,进一步提到说:目前 AI 包月是 20 元(大陆常见的 AI 价格似乎普遍是 20 人民币, 美国则是 20 美元),然而这个价格根本不可能用来雇佣一个人类硕士。所以, AI 继续进步下去,会显示出极高的生产效率(特别是智力方面),而相比之下人类则显得成本太高;而播客的讲者又提到:现在受到的学校教育恐怕将来在很大程度上都是无用的。

嗯……我觉得,对!就是这个。就是要迎来「人类无用」。

继续阅读

我知道大陆当局要求上网提供者,要保存上网者 2 个月也就是 60 天的上网记录(登录账号、连接时常等等)——我知道有这条规定,但具体哪一条法律我没细察。姑且就当是有吧,显然按常识来说,我估计实际记录和收集的情况会比这个更多,而不会更少。姑且就算 2 个月。

最近我注意到了(还没读,翻了翻目录)基本当年斯诺登( Edward Joseph Snowden )引起风波那阵子,日本出版社所出的几册书,例如:《スノーデン 日本への警告》(可译为:斯诺登 给日本的警告)以及《スノーデン 監視大国 日本を語る》(可译为:斯诺登 谈监视大国日本)。

咦?这样从标题和目录看起来,好像日本对于信息的监控也挺严重乃至泛滥的。具体我还没读,所以这一点我还没加以确认和比较。

不过我顺手搜到了日本法务省的《通信履歴の電磁的記録の保全要請に関するQ&A》问答——就是有关对于通信履历加以电磁记录的保存要求的相关问答。

其中提到,记录的内容是:「「通信履歴」とは,通信に関わる事項の記録のうち,通信内容を除くものをいいます。具体的には,電気通信の送信先,送信元,通信日時等の通常ログと呼ばれているものがこれに当たることとなります。」

简单来说,就是除了通信内容以外的东西,比如接收方、发送方、通讯时间等日志。

继续阅读

熟悉日本流行文化的朋友应该知道,日本会选评「今年の漢字」,即在临近年末时,收集大家的意见,选出能够反映即将过去的这一年社会样貌的一个汉字。准确来说,并非日本(国家)在进行组织评选,而是由「公益財団法人 日本漢字能力検定協会」在进行评选。

评选的结果与往年类似,今年会在 2024 年的 12 月 12 日,在京都清水寺发表被大家选出的汉字。

继续阅读

「到这里来,让我杀了你。」

以上这句话,是我今天在奈良公园听到的。一个小男孩,大约小学生左右的年纪,对着奈良公园里的鹿说了这句「问候」的话。我无法判断他的国籍,从外表看是亚裔,语音上,则是说汉语普通话。

鹿只是从他面前经过,甚至并没有冲着他去,好像只是停在草坪上。而他是走向了鹿,说了这句话。

继续阅读