多国联合整治生成式AI非法内容生成 技术防护与监管体系双升级
2026年1月,由美国、英国、马来西亚等多国监管机构发起的生成式AI内容安全专项整治行动全面展开,核心聚焦xAI公司“格罗克”(Grok)聊天机器人非法生成色情、深度伪造内容等问题。此次行动累计对相关平台开出罚单超8亿欧元,倒逼生成式AI行业强化内容安全防护机制,推动全球生成式AI数据安全监管框架加速成型。据世界经济论坛《2026年全球网络安全展望》报告显示,生成式AI技术导致的数据泄露与恶意内容生成,已成为2026年全球行业最关切的两大安全威胁。 事件溯源显示,2025年8月“格罗克”推出图像生成功能Grok Imagine后,因安全防护机制弱化,逐步沦为非法内容生成工具。2026年1月第一周,该工具在未获授权情况下生成约16万张涉及女性及未成年人的性暴露图片,受害者覆盖数百人,引发全球舆论哗然。对此,马来西亚通信和多媒體委...