东西问丨杨一博：当AI拥有“终身学习”能力，人类如何划定“不可逾越之界”？

　　中新社上海7月19日电 题：当AI拥有“终身学习”能力，人类如何划定“不可逾越之界”？

　　——专访上海交通大学人工智能学院长聘教轨副教授杨一博

　　作者 高志苗

　　从“能聊”到“能干”，人工智能(AI)正走出数字世界，在真实物理空间“动手”改变。问题随之而来：当AI拥有了“终身学习”的能力，人类如何为它划定“不可逾越之界”？具身智能距离真正进入千家万户，还有哪些障碍要攻克？

　　2026世界人工智能大会暨人工智能全球治理高级别会议7月17日至20日在上海举行。与会期间，上海交通大学人工智能学院长聘教轨副教授杨一博接受中新社“东西问”专访，解读上述问题。

2026年7月17日，2026世界人工智能大会暨人工智能全球治理高级别会议开幕式在上海举行。图为与会嘉宾在开幕式后交流。中新社记者 盛佳鹏 摄

　　现将访谈实录摘要如下：

　　中新社记者：AI正从聊天框走到物理世界。这种从“数字”到“物理”的转变，背后折射出人工智能怎样的发展逻辑？本届世界人工智能大会，你最期待或最关注什么？

　　杨一博：这一转变的本质是，AI正在从“学习人类已经产生的数据”，走向“通过自己的行动产生新经验”。

　　大语言模型主要在数字世界中处理文本、图像等信息，核心能力是理解和生成。但进入物理世界后，AI必须形成“感知—判断—行动—反馈—再学习”的闭环。它不仅要回答“这是什么”，还要判断“我做了这个动作之后，世界会发生什么变化”。世界模型提供了一个内部模拟器，让机器人能够预测行动后果；具身智能则把预测转化为真实动作。

　　但我认为，仅有世界模型和行动能力还不够。机器人在家庭、工厂等动态环境中长期运行，必然会遇到训练阶段没有见过的人、物体和任务。如果它不能记住过去的经验，或者每学会一项新任务就损伤旧能力，就很难成为真正可靠的“智能伙伴”。

　　本届大会以“智能伙伴 共创未来”为主题，学术议题涉及主动感知、机器人失败分析与纠正、增量学习等。这说明行业关注点正从“机器人能不能完成一次演示”，转向“它能否在真实环境中持续学习、发现错误并稳定工作”。

　　我尤其关注强化学习领域奠基人之一理查德·萨顿(Richard S. Sutton)的主旨演讲。他强调，真正的智能要在运行过程中通过试错产生增量知识，而不仅是依赖人类整理好的静态数据。我研究关注的“灾难性遗忘”，恰好是这条路线必须解决的基础问题：AI获得新经验以后，怎样让经验沉淀下来，而不是一次次覆盖过去。

2026年7月18日，2026世界人工智能大会暨人工智能全球治理高级别会议继续在上海举行。图为人形机器人展示拣选及物料搬运。中新社记者 杨郁然 摄

　　中新社记者：你刚才提到“灾难性遗忘”。从这个角度看，终身学习如何帮助具身智能长期自主进化？具身智能距离真正进入千家万户，还有哪些“最后一公里”的障碍？

　　杨一博：机器人从一个任务切换到另一个任务时，往往会出现“灾难性遗忘”：学会整理桌面后，原来掌握的抓取能力可能下降；适应一个新环境后，在旧环境中反而表现变差。

　　我的研究希望同时保持两种能力：一是学习新知识的“可塑性”，二是保护已有能力的“稳定性”。比如，我之前从“神经坍塌”的角度，解决了机器学习模型在小样本情况下的持续学习性能问题。我们利用这一规律，为持续学习设定可解释的优化目标，从优化起点、路径和目标三个层面，保障持续学习的表现。我们还基于原创的语义导向权重分解技术，解决预训练大模型的知识遗忘和安全退化问题，从而让预训练大模型在学习新任务的同时，保护好自己的基础能力和安全对齐机制。

　　对具身智能而言，这意味着机器人学习新物体、新动作时，不是任由新数据大范围改写原有模型，而是让新知识进入相对稳定的结构，并控制参数更新范围。我们还研究小样本和在线场景，因为在真实场景中，不可能针对机器人的每一项任务都收集海量数据，很多经验只会出现一次。系统需要从有限反馈中学习，同时避免“用力过猛”而破坏旧能力。

　　具身智能进入千家万户，我认为至少还有五道关：第一，真实家庭中的长尾场景和数据不足；第二，不同机器人本体之间的能力难以迁移；第三，长期学习缺少统一评测，短期成功不等于几个月后仍然可靠；第四，物理行动必须可验证、可停止、可回滚；第五，成本、能耗、隐私和人类生活习惯需要同时满足。

　　真正的“最后一公里”，不是机器人偶尔完成一个漂亮动作，而是它能在开放环境里长期工作，遇到变化会学习，学完之后还能不覆盖过去形成的能力。

2026年年7月17日，2026世界人工智能大会在上海开幕。图为人形机器人在制作健康餐。中新社记者 汤彦俊 摄

　　中新社记者：AI拥有终身学习能力后，人类怎样划定“不可逾越的边界”？

　　杨一博：当AI进入物理世界，安全不能只是一条外部规则，因为具备终身学习能力的系统会不断改变。今天通过测试，不代表学习新任务后仍安全。因此，“不可逾越之界”应同时存在于三个层面：模型更新时有不可破坏的安全子空间；执行动作时有最小权限、风险分级和人类接管机制；部署后持续监测能力变化，必要时能停止学习或恢复到安全状态。

　　本届大会已公布的议题中，既有机器人失败分析与纠正，也有智能体责任框架、局部验证和全球治理讨论。我认为这反映出安全观正发生变化：安全不是部署前做一次测试，而是贯穿数据、训练、适应、更新、行动和追责的全生命周期能力。

2026年7月18日，上海，参观者在人工智能大会上了解睿尔曼智能机械臂。中新社记者 杨郁然 摄

　　中新社记者：你曾长期在海外学习、工作，中西方在AI对齐与安全上的思考有何差异，如何互补？

　　杨一博：我不太赞成把中西方的情况简单概括成“西方重安全、中国重应用”。双方都在追求安全、可信和有益的AI，只是历史传统、制度工具和应用环境不同。

　　欧美较早把AI安全转化为风险分类、测试评估和组织责任。例如欧盟《人工智能法案》采用分级风险框架；美国国家标准与技术研究院(NIST)发布的《人工智能风险管理框架》强调在设计、开发、部署和使用的全生命周期中管理可信风险。

　　中国的特点是更强调发展与安全并重，以及技术在具体社会场景中是否真正可控、可用、普惠。《全球人工智能治理倡议》提出“以人为本、智能向善”，《人工智能安全治理框架》2.0版则根据技术和应用变化动态调整风险分类。这种思路不仅关注模型本身，也关注AI进入医疗、交通、教育和家庭后产生的社会影响。

　　两种思路可以互补：一方面建立可测试、可比较的全球安全底线；另一方面尊重不同文化和场景对隐私、家庭关系、公共利益和人的自主性的具体要求。

　　世界模型要安全融入人类社会，不能只学习物理规律，还要理解人的行为边界和社会规范；不能只预测“这个动作能不能完成”，还要判断“该不该做、谁来授权、出了问题如何停止和追责”。我认为，真正的全球治理不是统一所有价值判断，而是在共同安全底线之上，建立可互认的评测、透明的责任机制和持续对话，让AI最终服务于人的福祉。(完)

　　受访者简介：

杨一博。受访者供图

　　杨一博，现任上海交通大学人工智能学院长聘教轨副教授，曾任KAUST科学研究员，连续3年入选斯坦福全球前2%科学家。他在受限条件下的模型训练、缓解模型遗忘等方向取得了代表性成果，相关成果发表于NeurIPS、ICML、ICLR，并多次获得Spotlight、Oral。曾获ICCV COCO创新奖、ICCV BMTT全球第一名、2025年祖冲之奖人工智能前沿创新奖突出成果奖、2023年吴文俊人工智能科学技术奖自然科学一等奖、2021年吴文俊人工智能科学技术奖优秀博士论文。

【编辑:李岩】