人们非常担心人工智能在未来可能造成的各种各样的破坏,但这项技术现在面临的一个问题是深度造假,尤其是那些未经女性同意就以性感的方式描绘真实女性和女孩的问题。
今年早些时候,当人们使用生成式人工智能工具创建泰勒·斯威夫特(Taylor Swift)的露骨内容时,公众对这一问题的关注爆发了。这类事情其实并不新鲜——自从Photoshop出现以来,伪造的色情图片就一直是个问题——但人工智能应用可以让它变得特别容易,而斯威夫特不同寻常的高调确保了人们的广泛意识。
今天,meta的独立(但由meta资助)监督委员会宣布了其对4月份受理的两起深度造假案件的调查结果。其中一起是关于Facebook上一名美国女性公众人物的裸照,被人摸了——不清楚这个人是不是斯威夫特,因为董事会没有透露相关人员的姓名。Instagram上的另一张照片是一位印度女性公众人物的全裸,从背后拍摄。
该委员会有时被称为meta的“最高法院”,在涉及此类具体案件时拥有最终决定权。今天它说,meta做了正确的事情,取下了这位美国人的照片,尽管海报上的人提出了抗议。
然而,meta最初忽略了用户对印度人物形象的投诉,直到董事会接手此案后才将其撤下。在这一点上,董事会认为meta做错了。
除具体案例外,董事会只能就其未来的内容审核提出不具约束力的建议。因此,meta现在必须对董事会的深度假建议做出自己的决定,这些建议主要集中在该公司禁止“贬损性化photoshop”的政策上。
委员会认为,“贬损”一词应该被“未经同意”取代,“ps”一词应该被一些反映人们用来制作这些图像的技术本质变化的东西所取代。董事会还希望meta开始在其“成人性剥削”政策中使用内容是人工智能生成或人工智能操纵的事实作为缺乏同意的信号。
meta表示将对这些建议进行审查。
当然,对于那些创造或分享此类内容的人,社交媒体公司除了禁止他们之外,不能做更多的事情。因此,值得注意的是,昨天,美国参议院一致通过了一项法案,该法案将允许在色情深度假片中被描绘的人起诉创作者。
《破坏明确伪造图像和非自愿编辑法案》(DEFIANCE Act)将赋予受害者索赔高达15万美元的权利,如果深度伪造与“实际或企图的性侵犯、跟踪或骚扰”有关,还可额外索赔10万美元。众议院还有一项配套法案等待通过,参议院多数党领袖查克·舒默(Chuck Schumer,纽约州民主党人)敦促他的同僚们接受这项法案。
“通过这项法案,我们是在告诉那些明显的、未经双方同意的深度造假的受害者,我们听到了他们的声音,我们正在采取行动,”他说。但众议院没有多少时间,因为距离8月休会只有一周多了。
在英国,分享此类内容已经在去年的《网络安全法》中被定为犯罪。前保守党政府也打算将创造列为犯罪,但当保守党在本月初召集选举导致其下台时,所有新的法案都被搁置了。
尽管如此,新一届工党政府也表示,希望将未经双方同意制作深度色情假照的行为定为刑事犯罪——副总理安吉拉·雷纳本人就是受害者。工党的顾问还建议禁止专门制作此类图像的应用程序。
目前还不清楚这些法律的执行难易程度,尤其是随着开源人工智能模型的激增,人们很容易在没有OpenAI等人工智能提供商设置的护栏的情况下建立“认证”工具。但严重后果的威胁,以及社交媒体公司的行动,至少会让人们更清楚地认识到,这种行为在社会上是不可接受的。- Fortune.com/The纽约时报