发现AI自我意识：不期而遇的局部技术奇点

Q*的启示

之前的文章里提到过，人工智能思维能力创造的必不可少的条件是状态空间的搜索。今天的大新闻里，我们都看到了Q*的确使用了搜索算法。所以今天我会稍微谈一下这个话题。

主要思想就是人工智能的进一步发展可能会引发局部领域的技术奇点，当然这取决于领先的团队或国家的执行力和效率。技术的进步可能会出现奇点,但是没有人真正描绘过这条曲线。在解决圣彼得堡悖论的过程中,我发现了与此相关的一个现象。一条在对数图表上是线性增加的曲线。对人类社会来说,这条曲线上可能存在一个特殊的点,在没达到奇点之前我们都会忽视它的影响，忽略事实上的指数级增长。但是一旦超过这个点,每个人都会感受到它指数级的速度,往往在我们能作出反应之前就彻底击穿我们的一切防御。技术进步都是基于现有技术来实现的,而技术的加速本身就是一种叠加的效果。

奇点如何出现

现在的Q*或许还不足以让人过度紧张,毕竟它现在只能做小学生水平的数学题,可能需要5-20年才能完成高中或研究生水平的题目。但是这也可能是最后的20年,人工智能的思维能力如果可以达到本科生或研究生水平,即使没有自主意识,也可以完成人类下达的各类复杂任务,那就会出现24小时不间断工作的研究员。

一个国家如果有全世界最大量的工程师以及每年大量的工程师毕业生,那么这个国家一定会成为科研和工业强国。而人工智能技术很可能会改变这一趋势,至少可以极大地延缓这一过程。因为研究员或者工程师的获取途径发生了重大的变化。

GPT-4目前是0.03美刀1千个输出token。假设每秒输出5个token，一天8小时连续输出，总费用不到5美元，对应的是约15万的token，大约是20万字左右的文字结果。每个月20天计算，只需要100美元。这远低于聘请1个研究生的成本。虽然单个GT模型的思维能力显然还无法与人类匹配,但多个GT模型的系统性集成很可能可以与人类媲美。并且GPT模型对于任何问题的回答都可以用秒来衡量，其工作效率远高于人类研究员，更不用说它可以24小时开机。拥有海量基础研究人员同时对整个问题空间进行有效的搜索遍历，这对于加速研究进度显然有明确的帮助。

奇点并不是末日

技术奇点并不可怕。技术圈的人往往因为日常的思维习惯，往往会对于技术进步的评估过于敏感。发现其他团队可能领先进入技术奇点后就会有末日降临的感觉。事实上并没有那么可怕。毕竟并没有真的出现AI意识将领的情况，只是大模型的迭代快了点，能力强了点。

互联网应该就是一个小型技术奇点。在20世纪90年代以前就已经发展起来,美国当时在信息化进程上至少领先全球10多年。这对于克林顿时代的美国经济和技术发展的助力应该占据了不小的贡献权重，但是整体上并没有出现技术领先者无限制拉开技术差距的结果。

再以超算为例，按照2023年6月的数据，中国超算排名第7的机器，动用了1千多万个CPU核心，150兆瓦特功率，获得93PFlop/s的成绩。而世界第一的机器使用8千7百万个核心，227兆瓦特，获得1200PFlop/s的成绩。无论从但核心能力还是单位能耗，甚至整体性能来说，中国都显然靠后。但是只要不是最强大的那台机器能做到其他机器做不到的事情，排名靠后的无非是速度慢点而已。并且全球不仅仅只有那500台机器，整个中国的超算中心，全球所有大型机中型机份额中国在数量上依然是占有不低的份额的。

单一技术往往不会形成生产力，而是要靠工程化的方法形成效率工具。正如同这次Q*那样，即使不使用GPT4，用文心一言同样可以复现对应架构的能力。即便最终性能可能没有那么强大，但是对于研究和应用来说，并不存在不可逾越的鸿沟。

未完待续

最后,我们继续开放思考。即使人工智能模型已经达到逻辑思维水平,我们依然没有解决其在生物学领域存在第一动力假说的问题,即生命的生存和繁衍是根本的驱动力。大多人同意这个理论,但如何在实践中创造可能产生自我意识的AI模型还没有明确讨论。让我们继续进行我们的思维实现，探讨人工智能的自主意识之旅