AI涉嫌色情！欧盟出手深入调查马斯克的平台和Grok

近日，涉嫌色情深入欧盟委员会宣布，欧盟已正式对埃隆·马斯克旗下的出手社交媒体平台及其人工智能生成工具Grok启动调查。此次调查的调查核心在于评估该平台是否充分履行了欧盟《数字服务法》规定的义务，特别是平台在处理可能涉及儿童性虐待材料的“经操纵的性露骨图像”等非法内容传播的系统性风险方面。

此次调查的涉嫌色情深入直接导火索可追溯至2025年12月。当时，欧盟该平台遭受了一波深度伪造色情图像的出手冲击，用户仅需简单标记账号即可通过Grok工具生成图片。调查事件发生后，平台平台将Grok的涉嫌色情深入图像生成功能限制为仅限订阅用户使用，并宣布采取措施“禁止编辑真人穿着比基尼等暴露服装的欧盟图像”，且此限制适用于包括付费用户在内的出手所有用户。

欧盟委员会在声明中指出，调查将重点关注平台是否勤勉地评估并缓解了系统性风险，包括非法内容传播、基于性别暴力的负面影响，以及Grok功能部署对其用户身心健康造成的严重不良后果，还有在部署对平台风险状况有重大影响的Grok功能之前，是否进行了专门的风险评估并向委员会提交了报告。

接下来，委员会将向平台索取证据，同时进行访谈并检查其安全团队采取的预防措施。委员会有权决定是否接受平台为解决其工具潜在风险问题而提出的任何补救措施。

欧盟委员会负责技术主权、安全与民主的执行副主席亨娜·维尔库宁表示：“针对妇女和儿童的深度伪造色情内容是一种暴力且不可接受的贬损行为。通过本次调查，我们将判定平台是否履行了其在《数字服务法》下的法律义务，还是将其服务中欧洲公民——包括妇女和儿童——的权利当作了附带损害。”

此外，委员会本周的报告还宣布，其于2023年对平台发起的调查将启动正式程序扩展。该调查涉及平台是否有效缓解了非法内容传播风险、是否充分打击了信息操纵，以及作为一个平台是否足够透明。值得注意的是，在去年12月，欧盟委员会已就上述问题以及对“欺骗性设计的使用、广告透明度不足和研究人员数据访问不充分”等行为，对马斯克处以1.2亿欧元的罚款。

你们对此怎么看呢，支持欧盟的行为吗？欢迎来评论区讨论。

最新评论