旧金山市检察官办公室正在起诉16个访问量最大的人工智能“脱衣服”网站,这些网站通常用于在未经妇女和女孩同意的情况下制作裸体深度伪造图像。
今年前六个月这些目标网站的总访问量就超过2亿次。违法网站允许用户上传真实的、穿着整齐的人图像,然后使用模拟裸体的人工智能工具以数字方式“脱光”这些衣服。
起诉书称,这些网站运营商被指控违反了禁止报复性色情、深度伪造色情和儿童色情的州和联邦法律,以及加州的不正当竞争法,因为“对消费者造成的伤害远远超过与这些行为相关的任何好处”。
诉讼寻求民事处罚,此外还要求关闭这些网站并永久禁止其供应商制作未来的深度伪造色情内容。