AI聊天机器人“格罗克”被滥用生成非法图像，引发多国采取法律行动——

　　生成式人工智能监管迫在眉睫

　　近期，一场由人工智能应用引发的跨国监管风波骤然升级。美国企业家埃隆·马斯克旗下社交媒体平台X内置的人工智能聊天机器人“格罗克”(Grok)，因被滥用于生成色情内容、伪造真实人物的性暴露内容，引发多国政府采取法律行动。

　　马来西亚通信和多媒体委员会1月13日表示，“格罗克”所生成的内容违反马来西亚网络安全相关法律规定，将对X平台采取法律行动。

　　英国通信管理局此前一天也发表声明说，已根据英国《在线安全法》对社交媒体平台X展开正式调查。英国科学、创新和技术大臣莉兹·肯德尔日前宣布，英国《数据法案》相关条款将于本周生效，未经同意制作或寻求制作私密图像，并在X等社交媒体平台上发布此类内容均构成刑事犯罪。

　　而在更早以前，欧盟委员会已表示将严肃调查针对“格罗克”的相关投诉，并责令X平台保留所有“格罗克”相关内部数据直至2026年底，为潜在法律行动留存证据。印度尼西亚已宣布暂时封禁“格罗克”，法国也对“格罗克”涉嫌生成非法色情内容启动调查。

　　“格罗克”由马斯克旗下人工智能企业xAI公司开发，并内置于社交媒体平台X。2025年8月，xAI公司为“格罗克”推出图像生成功能Grok Imagine，允许用户通过文本提示创建图片和视频，这一功能的开放也为生成式人工智能技术滥用埋下隐患。与此同时，马斯克团队将“格罗克”标榜为“更前卫”的产品，相应弱化其安全防护机制，进一步加剧了风险敞口。

　　2025年底，X平台扩展了“格罗克”的图像编辑能力，用户可以上传照片或在帖子中引用已有图片，并利用“格罗克”对其修改。随后，大量用户未经当事人同意，利用该功能生成涉及女性和未成年人的伪造性暴露内容，并通过X平台传播。这一趋势的迅速蔓延，让生成式人工智能技术造假问题全面发酵。据统计，仅2026年1月第一周，“格罗克”便在未经授权的情况下生成了约16万张性暴露图片，受害者涵盖数百名成年女性和未成年人。

　　“格罗克”的大规模应用失控，迅速引发公众舆论和多国政府强烈谴责。马来西亚通信和多媒体委员会两次向X平台及xAI公司发出整改通知，要求建立有效技术防护和内容审核机制。印度尼西亚方面亦要求X平台就“格罗克”所引发的负面影响作出说明。然而马斯克及其团队仅表示将删除非法内容，永久封禁相关账户，并在必要时与地方政府和执法部门合作，而未对如何化解“格罗克”设计和运行层面的固有风险作出充分回应。

　　截至上周末，“格罗克”在X平台上的图像生成和编辑功能已被更改为仅向平台付费用户开放。英国政府对此批评称，此举无异于将创建非法图像的功能转变为一项高级服务，对受害者造成二次伤害。

　　在这一事件中，人工智能技术被用于生成深度伪造内容，并带来了巨大的社会撕裂与法律挑战。有分析人士认为，该事件再次表明，全球范围内对人工智能技术实施有效监管已十分紧迫。

　　中国现代国际关系研究院科技与网络安全研究所所长李艳在接受记者采访时表示，“格罗克”风波正促使各国更清晰地意识到生成式人工智能的风险，及其可能带来的危害性后果。她认为，随着人工智能技术进步，加速形成人工智能监管共识、不断调整和完善法律体系与监管机制，将成为国际社会的共同趋势。

　　世界经济论坛日前发布的《2026年全球网络安全展望》报告显示，生成式人工智能技术导致的数据泄露与不断演化的网络攻击能力，已成为业界在2026年最关切的两大威胁。报告警示，这一巨大风险正将人工智能技术提供方的责任推向焦点。

　　“当前生成式人工智能模型本身的幻觉问题还难以彻底解决，外加一些恶意使用，此类问题无法绝对避免。”李艳强调，人工智能模型和应用提供方有责任和义务设置“安全围栏”，比如在内容生成环节部署提示词过滤与拦截等技术手段，将侵害风险控制到最低，并绷紧合规之弦，确保服务适配当地法律法规、政策要求与文化习俗；而产品应用方在向公众提供服务时，也要做好实时安全监测，建立有效的事后应急机制，合力将技术应用中的不可控因素降至最低限度。(工人日报 记者 莫荞菲) 【编辑:梁异】