人工智能时代的自主文明：技术治理与制度建构 | 《WAIC UP!》辑趣

发布时间：2026-05-13来源：世界人工智能大会

作者：倪考梦

温州市委党校副校长
温州市人工智能学院副院长
中国社会科学院人工智能研究促进中心特约专家

《自主论：何为自主以及何以自主》的作者和践行者，法国海归硕士，一个集智库工作者、终身学习者、公益志愿者、TED策展人和演讲人、AI音乐创作者和推广者于一身的跨界实践者。他发起的“高温青年”是中国最活跃的公共外交志愿者组织之一，他还是2024、2025和2026年AI春晚的主创之一。

全文共1,829字，预计阅读时间7分钟

人工智能技术正在深刻改变人类社会的运行方式。从历史经验来看，每一次重大技术革命不仅会带来生产力的跃升，也会推动社会结构和文明形态发生深刻变化。蒸汽机推动了工业文明的形成，电力与通信技术重塑了现代社会结构，而数字技术则在过去几十年中重构了信息传播与经济组织方式。人工智能的出现，使技术系统开始进入人类认知领域，算法逐渐成为重要的社会基础设施。在这一背景下，技术问题不再只是效率问题，而逐渐演变为文明秩序问题。如何在人工智能快速发展的条件下维护人的主体地位，已经成为当代社会必须回答的重要课题。

从技术史的角度看，技术既是推动社会进步的重要力量，也可能在特定条件下对社会结构产生深刻影响。马克思在分析机器大工业时曾指出，机器不仅是一种生产工具，同时也可能改变劳动关系与社会结构。后来的技术哲学与社会理论也不断强调，技术系统往往具有结构性力量，它不仅改变生产方式，还会影响社会制度与人的行为方式。人工智能作为一种高度复杂的技术体系，其影响已经超越单一产业或技术领域，逐渐成为一种新的认知基础设施。当算法系统开始参与信息筛选、知识生产以及决策支持时，人类社会的认知结构也随之发生变化。

在人工智能时代，人类认知结构可以理解为一种新的层级关系。传统上，人类主要依赖经验系统与反思系统进行认知活动。经验系统通过长期实践形成稳定的判断模式，而反思系统则在经验失效时介入，对问题进行重新定义并寻找新的解决方案。随着人工智能技术的发展，一种新的认知层逐渐形成，即由算法系统构成的外部智能系统。这种系统不仅能够处理复杂信息，还能够提供预测结果和决策建议，从而在一定程度上承担原本属于人类经验系统的部分功能。在这一结构中，人工智能成为一种外部认知层，与人类自身的经验系统和反思系统共同构成新的认知体系。

这种认知结构变化，使技术治理问题变得尤为重要。如果人工智能系统逐渐承担越来越多的认知任务，而人类社会又缺乏相应的制度设计，那么技术系统可能在不知不觉中影响甚至塑造社会决策结构。在这种情况下，技术系统不仅是工具，还可能成为一种新的权力结构。因此，人工智能时代的核心问题之一，就是如何在技术发展过程中维护人类的自主性，使技术系统始终服务于人的发展，而不是削弱人的主体地位。

从治理角度看，人工智能时代的制度建构需要遵循若干基本原则。首先是人的主体性原则。技术发展必须以人的全面发展为目标，而不是使人沦为技术体系的附属。在人工智能广泛应用的情况下，社会制度仍然需要确保关键决策权掌握在人类手中。技术可以提供分析和预测，但价值判断与目标设定仍应由人类社会共同决定。

其次是认知增强原则。人工智能的核心价值在于扩展人类能力，而不是替代人类思考。理想的技术系统应当帮助人类更好地理解问题，而不是简单提供唯一答案。例如，在人机交互过程中，人工智能可以通过多方案提示、推理过程展示以及引导式交互等方式，帮助用户形成更全面的判断，而不是直接替代人的思考过程。

再次是选择权保障原则。技术系统在提供决策建议时，应当为人类保留多种选择空间，而不是将复杂问题简化为单一方案。社会治理与制度设计应确保人工智能系统在关键决策领域保持透明性与可解释性，使人类能够理解技术系统的运行逻辑，并在必要时进行干预。

在上述原则基础上，人工智能时代的治理实践可以从多个方面展开。首先，在技术层面，需要推动人工智能伦理框架与价值对齐机制的建立。例如，通过人工智能治理准则或技术宪章的形式，明确人工智能系统的发展目标与基本原则，使其始终服务于人类社会整体利益。其次，在制度层面，需要探索更加完善的技术治理体系，包括算法监管机制、数据治理制度以及跨国技术合作框架，以应对人工智能带来的全球性挑战。再次，在教育层面，需要推动认知能力与技术素养的同步提升，使社会成员既能够有效使用技术工具，也能够对技术系统保持必要的理解与判断能力。

总体来看，人工智能的发展并不会自动决定文明走向。技术只是提供新的可能性，而文明方向最终仍取决于人类社会的制度选择与价值判断。如果人类能够在技术发展过程中保持反思能力，并主动参与技术体系与制度结构的设计，那么人工智能不仅不会削弱人类文明，反而可能成为推动文明跃迁的重要力量。在这种情况下，人类社会有可能进入一种新的文明形态，即技术能力不断扩展，而人的主体性和自主性也得到进一步发展。

人工智能时代的制度建构，正是在这一历史背景下展开的。如何在技术进步与人类自主之间形成新的平衡，将在很大程度上决定未来文明的形态。