Meta监督委员会要求公司清理人工智能生成色情内容的规则

2025-05-20 20:36来源:本站

  

  纽约(路透社)- meta的监督委员会周四表示,该公司的规则在禁止人工智能生成的对真人的露骨描绘方面“不够明确”,并呼吁进行修改,以阻止此类图像在其平台上传播。

  该委员会由这家社交媒体巨头资助,但独立运作,在审查了两张用人工智能制作并发布在meta的Facebook和Instagram上的著名女性色情假照后,该委员会做出了裁决。

  meta表示,它将审查董事会的建议,并就所采取的任何改变提供最新情况。

  该委员会在报告中称,出于隐私考虑,这两名女性仅是来自印度和美国的女性公众人物。

  董事会发现,这两张图片都违反了meta禁止“贬损性化photoshop”的规定,该公司将其归类为欺凌和骚扰的一种形式,并表示meta应该立即删除它们。

  在涉及印度女子的案件中,meta未能在48小时内审查用户对该图像的报告,导致罚单自动关闭,没有采取任何行动。

  该用户提出了上诉,但该公司再次拒绝采取行动,直到董事会受理此案后才改变了态度。

  在这位美国名人的案例中,meta的系统自动删除了这张照片。

  “对这些内容的限制是合法的,”该委员会表示。“考虑到危害的严重性,删除内容是保护受影响人群的唯一有效方法。”

  该委员会建议更新其规则以澄清其范围,例如,“photoshop”一词的使用“过于狭隘”,禁令应涵盖更广泛的编辑技术,包括生成式人工智能。

  该委员会还抨击meta拒绝将这名印度女性的照片添加到数据库中,该数据库可以自动删除这名美国女性的照片。

  据报道,meta告诉委员会,它依靠媒体报道来决定何时向数据库添加图像,委员会称这种做法“令人担忧”。

  该委员会表示:“许多深度伪造的私密图像的受害者不在公众视野中,他们被迫要么接受未经同意的描述的传播,要么搜索并报告每一个实例。”

  (凯蒂·保罗报道;克里斯·里斯编辑)

  ×

一物网声明:未经许可,不得转载。