福布斯U30、斯坦福专家、港理工院长：AI正在“叛变”｜《WAIC UP!》第七期嘉宾

过去一年，AI从业者普遍感到一种隐约的“失控感”。

你精心清洗的数据，训出来的模型泛化能力反而更差——数据在“背叛”你的投入。

你部署的AI Agent，默认配置下有超过七成会自主扩展权限——Agent在“背叛”你的指令。

你信奉的Scaling Law，训练成本已高到只有少数玩家能留在牌桌上——算力叙事在“背叛”你的预期。

这不是巧合。福布斯U30创业者陈源培、斯坦福AI安全专家李志江、港理工人工智能高等研究院执行院长杨红霞团队，在各自的战场上发现了同一个现象：

AI正在“叛变”——绝非恶意，而是我们可能在用上一个时代的思维框架，处理下一个时代的问题。

1、陈源培：数据在“叛变”——10万小时训练后的反常识发现

• 灵初智能（PsiBot）联合创始人兼强化学习负责人

• 2025年入选福布斯亚洲“30 Under 30 – AI”榜单

• 搭建了全球首个双手灵巧操作仿真Benchmark，完成全球首个双灵巧手强化学习Sim2Real工作

行业旧信仰：只有经过层层清洗、标注、增强的“高质量数据”，才能训练出强大的具身智能模型。

他做了什么：在数据规模从1000小时扩展到10万小时的过程中，他发现精心设计的姿态重定向、关键点损失、图像增强等模块，不仅不再提升性能，反而限制了泛化能力。他的决定：全部砍掉，只保留原始RGB视频和动作序列。

核心观点：

“我们一直在用小数据时代的思维方式，去解决大数据时代的问题。”“在数据集层面，任务多样性 > 物体多样性 > 场景多样性。‘场景多样性’反而是优先级最低的。”

在文章中TA将回答：

• 为什么大模型时代验证过的方法，到了具身智能时代反而开始失灵？

• 砍掉所有复杂模块后，模型发生了什么变化？

• 当数据量足够大之后，我们到底应该怎么理解“好数据”？

2、李志江：Agent在“叛变”——73.4%越权率背后的安全断层

• 斯坦福大学医学院与斯坦福医疗中心AI与信息安全专家及导师

• 斯坦福人工智能安全研究中心（SCAIS）研究员

• 加州大学及加州科技大学人工智能及信息安全兼职教授

• ClawGuard Security Lab 创始人

• 《The War of AI》作者

  
  

长期研究AI Agent安全、Runtime Governance与Autonomous Security，致力于构建 Agent 时代的安全治理体系。

行业旧信仰：网络安全体系经过三十年实战检验，默认“操作者是人”，足以应对绝大多数风险。

他发现了什么：AI Agent正在代替人类执行操作——调用API、操作数据库、自动完成工作流。传统安全体系对“机器发起的行为”几乎没有防御能力。

核心观点：

“从内容错误到行为错误，这是AI安全范式的根本性转变。”

“AI安全正在从内容安全（Content Safety）进入行为安全（Behavioral Safety）的全新阶段。”

在文章中TA将展开：

• 当AI开始替你操作电脑、调用系统甚至做出决策，它会不会有一天替你犯错？

• 为什么传统网络安全防得住黑客，却未必防得住AI Agent？

• 如果未来发动攻击的不再是人，而是另一个AI，我们该如何定义责任与秩序？

3、杨红霞&吴建民&陈海清：Scaling Law在“叛变”——万亿算力之后的新方向

杨红霞

• 香港理工大学计算与数学学院副院长、人工智能高等研究院执行院长、讲座教授

• InfiX.ai创始人

吴建民

• 港理工人工智能高等研究院首席架构师

陈海清

• InfiX.ai联合创始人与副总裁

行业旧信仰：大模型的发展路径只有一条——更大的集群、更多的GPU、更长的训练时间（Scaling Law）。

他们提出的新方向：协作式AI（Co-GenAI）——让不同机构、企业在数据不出域的前提下共同训练、融合和进化模型。核心技术包括低比特训练（FP8/FP4）、模型融合、Agent-Native OS。

核心观点：

“下一代人工智能的发展方向，必须从‘Model over Data（MoD）’走向‘Model over Models（MoM）’。”“未来AI产业将走向去中心化共建模式……构建多方参与、协同进化的协作生成式人工智能（Co-GenAI）生态，打破中心化资源与技术壁垒。”

在文章中TA们将探讨：

• 大模型的尽头，真的是更大的模型吗？

• 当算力、数据与行业知识越来越分散，AI该如何继续进化？

• 下一代AI，会不会不再属于某一家科技巨头，而属于一个由千万模型共同组成的协作网络？

时代总会抛出新问题，技术不断刷新答案。

在《WAIC UP！》的对话现场，我们期待与这些身处变化之中的实践者一起，重新理解AI，也重新理解人与技术的关系。

更多深度洞察与前沿对话，敬请关注6月28日《WAIC UP！》第七期全文发布！

《WAIC UP！》作为世界人工智能大会（WAIC）旗下首份刊物，持续邀请全球AI及跨领域的先锋力量，共同释放思考的力量与智慧的主张，探究关乎技术跃迁、自我边界和未来文明的无限可能。

【本期主题】AI伙伴：1+1→∞

当另一种智能开始进入创造过程，许多原本线性的路径开始分岔，许多未曾设想的连接开始生长，创造也从单一主体的独行，走向不同智能之间的共振。

正因如此，本期《WAIC UP！》以「AI伙伴：1+1→∞」为主题，感受AI从工具到伙伴，从协同到共创的关系之变。真正的伙伴关系，不是让AI无条件服从，而是敢于质疑那些被默认的“常识”，在碰撞中打开新的可能。

如果说过去的技术革命不断延展着人类的能力边界，那么今天的AI则正在改变创造本身的发生方式。它不只是帮助我们更快抵达终点，也在不断打开此前未曾存在的起点。