真正的危险或许并非AI获得独立意识后的“反叛”，而是人类处在工具理性的迷醉中。

整理｜《中国企业家》见习记者 苗诗雨

记者 马吉英

见习编辑｜张昊 编辑｜马吉英

头图来源｜AI生成

过去10年间，曾属于“科幻”范畴的人工智能正变得无所不能。大语言模型能通关司法等专业考试，图像工具能在数秒内生成电影级作品……但它却摆不好一副碗筷——3岁孩子可以不假思索完成的日常动作。

这割裂的反差背后，或许藏着一个被行业长期忽视的真相：我们对“智能”本身的理解，从一开始就偏离了方向。越来越多学者、从业者开始思考智能的本质究竟是什么，尤其是AI行业看上去正在陷入追求参数的虚荣表象，以及对系统的路径依赖，默认“更大就是更好”。

《智能简史：进化、AI与人脑的突破》（以下简称“《智能简史》”）一书对这种科技现象作了系统的思考。本书作者麦克斯·班尼特是一位AI创业者，他同时对脑科学和智能演化也有深入的研究。

来源：AI生成

他认为自己正在戳穿AI行业的认知“误区”：企业越执着于参数竞赛，越容易失去对智能本质的理解。他串联了生物进化史、神经科学与人工智能三大领域，用自己的理论推演出人类智能进化史存在“五次重大突破”，而AI技术或许在映射人脑进化的第六次跃迁。

而且，过往大众普遍被AI自主意识觉醒的“科幻观点”裹挟，但本书提出一个颠覆性的判断：真正危险的不是AI获得独立意识后的“反叛”，而是人类在工具理性的迷醉中，逐渐丧失对技术边界的清醒认知。

为什么AI摆不好碗筷？

《智能简史》先是抛出了一个尖锐的话题：大语言模型可以完成高难度的学术探讨，却摆不好一副碗筷。

答案并非算力和数据支撑的不足，而是回归到智能的进化逻辑，从来不是单纯的“更大、更快、更强”的线性堆砌。麦克斯·班尼特认为，AI存在致命的结构性缺陷——“灾难性遗忘”。

虽然计算机的存储空间近乎无穷，但大模型一旦被新知识训练，极可能丧失执行先前学习任务的能力。这显然有别于人类大脑触类旁通、持续学习的能力，例如一个人学会了骑自行车，但并不会因此忘记如何游泳。

“答案深藏于人脑进化的10亿年历史中。”麦克斯·班尼特在书中写道，我们的大脑蕴藏着待解的进化密码，AI的未来或许正系于此。

全书贯穿了一个核心的理论框架——5次智能突破。作者基于神经科学、古生物学与计算理论的交叉验证，尝试去回答“智能”从何而来。

第一次：转向，对应“目标导向行为”的源头。两侧对称动物的出现，让生命从被动等待环境刺激，进化为主动寻找。这是智能最原始的起点：判断环境中的好与坏，并据此选择前进或转向。这也是早期扫地机器人Roomba的避障逻辑，恰好体现了初级的“识别”。

第二次：强化。脊椎动物的出现使得智能迈入了强化学习阶段，通过多巴胺驱动奖励与惩罚信号，生物在不断试错中，优化自己的行为选择。围棋程序AlphaGo的决策逻辑，是这一层智能的技术投射。

第三次：模拟。这是哺乳动物时代的标志性突破，大脑从条件反射进化到了具备想象能力。作者关联的是围棋程序AlphaZero，它不再依赖人类棋谱，而是通过“内部模拟”，在自我博弈中寻找最优解，生成训练数据。

第四次：心智化。灵长类动物进化了模拟他人心智的能力，能推测同类在想什么。而这份“换位思考”的智能，大语言模型至今仍无法真正拥有，它只能模拟意图，而非理解意图。简言之，AI能预测下一个关联词，却猜不透下一个人类念头。

第五次：语言。人类独有的语言能力，将个体智能连接成“共同体智能”，知识不会随着个体变化，而是跨世代的模拟、累积和共享。

麦克斯·班尼特强调，生物智能的进化，是“生理结构的信息升级”，每一次突破，结果都是身体结构能处理的信息越来越复杂。AI正在模仿人类的某些认知功能，但它跳过了生物演化中漫长且关键的阶段，这或许是所有局限的根源。

点击封面订阅全年杂志

“忽视”比“取代”更危险

大众对AI的恐惧感，更多来自电影《终结者》等科幻叙事中输出的观点：机器人拥有自我意识后，将反叛人类。

但《智能简史》认为，这种担忧是偏离方向的。作者提出了一个有穿透性的洞察：人类惊叹于AI系统巨大的数据量，却忽略了它在思考上与人类的差距。

本质在于，AI只是无限“像人”。AI从复刻人类行为的最终结果出发，缺失了生物智能的底层系统，这是“像人”与“是人”的根本不同。

基于此，作者提出疑问：“意识”这种人类独有的体验，是否能被算法和代码真正复刻？书中指出，两者存在本质区别，即使是最先进的大语言模型，本质依旧是统计模式的复杂推演。

作者认为，真正的危险或许并非AI获得独立意识后的“反叛”，而是人类处在工具理性的迷醉中。

麦克斯·班尼特对智能体的隐患有截然不同的判断：人类沉溺于算力万能的快感之中，盲目追逐技术参数，而偏离了智能研发的本质。

书中也反复强调，发展AI的核心目的，不是让机器取代人类，而是让人类摆脱繁琐的信息处理工作，专注于擅长的创造、共情、追问等，“真正的进化，不是让机器更像人，而是人更像人。”

来源：AI生成

而基于5次智能突破的逻辑，在书的结论部分，作者也提出了一个命题：人工智能是否会成为“第六次突破”？

他给出了审慎的判断。一方面，AI在模式识别、计算效率与信息整合上展现出超越人类个体的能力。但另一方面，现阶段的AI在关键维度上远不及人脑：理解情境复杂性、进行跨领域连接、基于共情与道德判断做出抉择。

根据书中的理念，“灾难性遗忘”只是冰山一角。更深层的局限在于，AI缺乏哺乳动物数百万年演化出的“世界模型”，也缺乏灵长类动物心智化能力所支撑的社交直觉，更不具备人类语言所承载的文化累积效应。换言之，AI可以在限定数据集、固定规则任务中碾压人类，但面对开放世界的模糊性和随机性，它是极易失灵的。

在作者看来，AI研发不能以模仿人类言行作为研发主线，需要借鉴生物演化规律。同时，AI研发前必须锚定人类发展人工智能的终极目标，以此划定技术取舍边界，明确AI该保留什么功能、舍弃什么研发方向。

正如他在结语中所言：“人类的目标应该是什么，这不是一个关于真理的问题，而是一个关于价值观的问题。”

新闻热线&投稿邮箱：tougao@iceo.com.cn