近年来，以大模型为代表的AI技术发展迅猛，掀起一波席卷全球的AI发展热潮。关注AI发展状况的人不限于AI的研发者、推广者和AI发展的评论者、人文社科研究者，更包括深感生活将被AI深刻影响的普通公众。AI发展的问题不再是纯粹技术问题，而是成为某种意义上的公共议题。在最近OpenAI发布Sora、马斯克开源Grok等一系列相关事件中，这一点表现得非常清楚。在各种相关公共讨论中，AI发展现状尤其受到关注，其中的基本问题是：当前AI发展的大方向是否有问题，未来应该朝什么方向前进。为此，组织计算机、经济学、马克思主义理论和哲学等领域的八位学者，对AI发展现状进行跨学科反思以期抛砖引玉，求教于方家。
本系列文章共8篇，转载自《科学·经济·社会》2024年第2期，本文《超级智能：进路及其应对》为第3篇。在文中，杨庆峰和周颖提出通往超级智能存在通用智能、具身智能和交互智能三种可能的路径，认为任何一条路径都必须消除对齐的误解，处理好AI对齐以应对风险。
随着对ChatGPT、Sora等大模型讨论的深入，不同领域的学者开始关心人工智能的未来发展问题。在这个问题上，科学领域与哲学领域发生了奇特的倒置，科学领域如辛顿、伊利亚等人担心超级智能失控并且灭绝人类，科学表现出了纯粹哲学化的色彩，有着浓厚的人文主义特征：反观哲学领域很多学者表现得出奇的冷静，运用分析哲学的方法，青睐于智能概念的澄清，只有少数哲学家才表现出对超级智能的担忧，如赵汀阳，他认为超级智能会为了维护自身的存在而抛弃人类。从某种意义上来说，分析哲学已经破坏了对人工智能的反思。其结果是如今这个时代，鲜明的大陆哲学反思特色已经迅速变淡，极具科学性的分析哲学努力从事概念澄清工作，却忽略了根本的问题。在洞察人工智能发展这一问题上，他们表现出明显的无力。笔者将超级智能与对齐作为思考的出发点，试图超越工具论理解，深化对人工智能未来发展的讨论。
一、通往超级智能的三条进路
笔者曾在2023年6月华东师范大学召开的“元宇宙、人类世与奇点哲学”研讨会上提出AI叙事的三种形式：科学化、科幻化和诗意化。科学化即人工智能的讨论以科学为根据，尤其是神经科学和计算机科学的研究成果：科幻化即AI讨论以科学幻想为根据，尤其是科幻电影和小说：诗意化摆脱了科学成果的束缚，强调了人类的未来处境，以文学为根据'刘永谋教授在本期笔谈中提出目前三种“AI宣传术”，也提到了小说、动漫、动画和影像作品中的AI故事，即以人机友好共处、人机终极大战等情节讲故事，通过这些故事渲染AI觉醒、高效、超能、神秘等鲜明特征并灌输给社会公众。刘永谋教授用“宣传术”来形容这种叙事，但是这种用法缺乏严谨。笔者并不赞成使用“宣传术”来说明这个问题，与之相对，更愿意采用“叙事”的说法以增加AI讨论的客观性。尤其是刘永谋教授认为超级智能是一种话术，人类应该阻击超级智能，他提出，有限AI设计主张将AI限制在有限的工具层面，而将相关道德问题全部交给人类处理。在笔者看来，这个想法还是高估人类应对超级智能的能力。OpenAI正在使用的利用机器控制机器的做法恰恰说明了这种想法的不足。如今超级智能的问题经历了从科幻化叙事到科学化叙事的转变。虽然我们无法确定超级智能是否以及在何种程度上成为科学现实，但这已经引起了科学界、艺术界及哲学界的密切关切。总体看来，科幻领域对这一话题早已探讨，然而却因为其太浓厚的想象色彩，脱离现实而没有建立起理性讨论的话题：在哲学领域，最早提出超级智能理论的是尼克·鲍斯特罗姆（Nick Bostrom），他认为超级智能是远超于人类认知能力的智能，并基于当下科技发展和研究现状预测超级智能是未来趋势，同时他也指出了其潜在的优势与风险。部分学者以超级智能为前提，预测其可能带来的风险和危机并积极寻求应对方案：在科学领域，超级智能已经开始被视为一种重要的发展方向和技术目标。例如，OpenAI为了应对超级智能可能带来的失控风险，成立了一支名为“超级对齐”（Superaligmnent）的团队，致力于解决超级智能的对齐问题。超级智能是否是人工智能的发展归宿是一个具有争议的话题。同时，通用人工智能的发展也符合我国人工智能发展的战略目标。因此，本文通过对人工智能的科学研究进行考察，从最近的研究成果入手分析超级智能出现的可能性。目前实现超级智能的科学路径有三种，分别是通用智能、具身智能和交互智能。
第一种是通用智能路径，即聚焦通用人工智能（AGI）研究，不同于弱人工智能擅长执行特定任务而不具备决策与行动力，通用人工智能也被称为强人工智能，具备与人同等或超越人类的能力，能够理解、学习和应用知识，处理复杂的任务，适应新环境，以及在各种广泛的任务中表现出至少与人类相当的能力。OpenAI指出，一方面，其公司的核心使命为“迈向通用人工智能，确保其造福人类”，认为以ChatGPT为通用人工智能的研究开启了新的可能性。另一方面，OpenAI也强调了超级智能对齐的重要性，认为通用智能与超级智能具有相似性，且后者比前者具有更高的技术水平，进而描绘了一条从通用人工智能到超级智能的研究路径。