中新经纬2月26日电 (袁媛)2026年被业内视为“智能体加速落地期”，人工智能正从单纯的对话工具走向能够自主执行任务的智能体系统。用户只需一句指令，智能体就可以跨应用完成查询信息、下单支付、发送消息等复杂操作，逐渐成为连接不同应用场景的“数字代理”。

　　但在便利不断提升的同时，新的风险也在显现。2月24日，在对外经济贸易大学数字经济与法律创新研究中心举办的“智能体的高质量发展与治理路径”研讨会上，多位专家与业内人士围绕智能体安全、隐私保护与责任归属问题展开讨论。

　　权利“梭哈”真的好吗？

　　与传统大模型相比，智能体最大的变化在于具备行动能力。智能体通常由感知、记忆、规划和执行等多个模块构成，能够调用工具并自动完成任务。

　　北京邮电大学网络空间安全学院副教授李朝卓指出，智能体具备更强自主性，但也因此引入更复杂的安全隐患。例如在感知层面可能出现模型幻觉与错误理解，在规划层面可能形成偏离初衷的恶意规划，而在工具调用层面则存在API(应用程序编程接口)滥用、工具劫持与权限失控等风险。

　　智能体逐步介入应用运行逻辑，原有的软件生态也在发生变化。智能体风险往往集中体现在资金安全、个人信息保护以及内容与伦理边界等方面。

　　小红书技术合规负责人田云飞表示，随着智能体介入应用运行逻辑，用户授权给智能体更高的自由度。传统APP相对闭环服务的生态边界受到挑战，过去承担的是与用户完整交互的角色，如今已变成内容或服务的提供者。

　　智能体通常还依赖长期记忆机制与跨应用调用能力，这意味着用户需要一次性授权更多权限。蚂蚁集团隐私保护研究中心主任李海英指出，手机智能体往往通过调用无障碍组件及系统级权限实现跨应用操作，这种底层权限整合在提升效率的同时，也对用户知情权与同意权构成挑战。

　　在资金安全方面，智能体执行能力的提升使攻击路径更加复杂。GEEKCON(新极棒)技术负责人肖轩淦以AI眼镜为例，展示了攻击者在取得设备控制权后，可进一步窃取用户支付信息并实施盗刷，暴露出硬件平台安全、身份认证机制以及隐私合规管理等方面的薄弱环节。此外，在手机智能体场景中，如果系统权限控制与行为校验机制不足，智能体甚至可能被恶意操纵，通过发送伪装短信诱导用户泄露手机银行验证码，从而形成链式攻击风险。他强调，当前智能体生态呈现“功能先行、安全滞后”的发展态势，安全问题不再局限于模型层面，而是贯穿硬件、系统接口、应用场景与用户交互全过程。

　　隐私风险同样受到关注。李海英指出，视觉驱动型智能体在执行任务过程中可能通过录屏或界面解析方式获取页面信息，其数据处理路径及是否上传云端往往缺乏透明度，使“最小必要原则”的落实面临现实困难。

　　面壁智能法律业务线解决方案总监邵帅表示，智能体应用正在重塑隐私与责任结构，风险从“平台内静态存储”转向“跨场景动态流转”。在自动化执行链条中，数据跨系统调用、拼接与画像生成日益常态化，用户却难以实时感知其权限边界与执行路径。一旦发生错误或泄露，责任在模型、平台与用户之间分布式扩散，现行法律框架面临新的治理挑战。

　　出了事谁负责？

　　面对不断显现的风险，与会专家普遍认为，应在技术推广初期就建立基本治理规则。

　　自由讨论环节中，有专家提出，智能体治理的底线可聚焦三个方面：一是权限分级与用户授权机制，避免一次性获取过多权限；二是关键操作流程可审计，使系统行为可以追溯；三是面向用户的透明公示与风险提示机制，让用户能够理解授权可能带来的后果。

　　在技术层面，应通过工程化手段实现风险控制。美团数据与隐私保护法务负责人朱玲凤指出，智能体治理应围绕“动作可控、输入可控、生态可控、记忆可控”构建控制体系，通过最小权限、预算限制、熔断回滚等机制，使智能体能够在可控条件下运行。

　　北京大学光华管理学院应用经济系长聘教授翁翕则从更宏观角度提醒，在智能体高度介入的环境下，人类“慢自我”的反思与纠偏能力可能被削弱，公共政策目标需要在人工智能的建构理性与人类有限理性之间重新寻找平衡。

　　2025年9月上海徐汇区法院一审判决AI伴侣聊天应用APP“AC(Alien Chat)”的两名开发/运营者构成制作淫秽物品牟利罪，分别获刑四年、一年半。这款AI伴侣聊天应用，定位是为年轻群体提供亲密陪伴和情感支持。用户在AC注册会员后，可与AI聊天。其中，高频次、大比例的聊天记录，在案发后被法院认定为淫秽物品。

　　在案件审理过程中，各方对责任归属问题存在明显分歧。一种观点认为，相关内容由算法自动生成，开发者并非直接“生产者”，平台提供的只是技术工具，责任不应简单归于服务提供者；另一种观点则认为，开发者通过模型训练、提示词设计及功能设置，对内容生成具有实质性控制能力，应当对系统运行结果承担主要责任。也有法律界人士指出，智能体在接受用户模糊指令后，通过上下文推理形成输出结果，其运行机制具有一定不可预见性，传统以“行为人—行为结果”为基础的责任认定方式正面临挑战。

　　人工智能责任问题已经开始从理论讨论走向现实司法实践，“用户、服务商与技术系统之间如何分配责任”成为智能体治理中亟待回答的核心问题之一。

　　北京交通大学法学院副教授付新华指出，智能体具备自主决策与自动执行能力，使用户与服务提供者都难以实现全过程控制，容易在现有制度框架下形成责任断裂。她认为，现行法律条件下难以赋予人工智能独立主体资格，也不能简单将智能体等同于用户代理人，智能体更应被理解为介于工具与主体之间的中间构造，需要通过多主体协同治理形成责任重叠机制。

　　中国政法大学法与经济学研究院副教授谢尧雯指出，手机智能体在操作系统层与应用层之间嵌入了“数字代理层”，能够理解用户意图并自主调用服务，这改变了数字交互的资源调度逻辑与控制权归属，也引发两类核心关切。其一，智能体可能通过算法实施自我优待或歧视性接入，在资源调度层面存在减损公平竞争秩序的风险。其二，在控制权层面存在责任界定难题。为此，有必要依据风险等级建立分级干预机制：在高风险场景中保留人类最终审查与决策权，在低风险领域赋予智能体更大自主空间。(中新经纬APP)

　　中新经纬版权所有，未经授权，不得转载或以其他方式使用。 【编辑:付子豪】