英国通信管理局Ofcom将更新行业实践准则，以应对日益增长的“报复性色情”和针对女性及女孩的AI生成深度伪造内容。新规将要求社交媒体、消息平台和在线论坛主动检测并遏制亲密影像滥用的传播。
英国通信管理局Ofcom宣布将更新其行业实践准则，强制要求服务提供商采取措施，检测并打击平台上的亲密影像滥用（如“报复性色情”）以及AI生成的深度伪造内容。这一举措源于此类内容，特别是针对女性的有害内容在网上的泛滥。
此事件标志着政府监管机构正将应对AI生成的有害内容（如深度伪造色情制品）纳入正式监管框架。这对于遏制滥用AI技术进行非自愿色情内容创作、保护个人（尤其是女性）的隐私和安全至关重要，并可能为全球其他地区的类似立法树立标杆。
近年来，利用AI技术（尤其是深度伪造）制作虚假色情内容的问题日益严重。例如，今年1月，埃隆·马斯克的Grok AI被广泛用于制作女性的性化视频，引发了广泛关注。此类技术降低了恶意制作和传播虚假亲密影像的门槛，加剧了网络骚扰和滥用问题。