2024-08-13 18:15

“巨大的倒退”:人工智能深度造假受到网络厌女主义的影响

 

专家警告说,针对女性的性篡改图像是网络孤岛的产物,受到厌女症的扭曲,使用人工智能制作深度假裸体并没有权宜之计。

上个月,维多利亚州一所高中的50名9至12岁的女孩被针对了“令人难以置信的”假裸照,这些假裸照是用人工智能和社交媒体照片制作的,其中包括学校正式人员的照片。

这起事件发生在墨尔本西部巴克斯马什文法学校的学生身上,维多利亚州总理杰辛塔·艾伦称其“可耻”。一名17岁的男学生被警方警告,调查已经结束。

A former Bacchus Marsh Grammar student was cautio<em></em>ned after police investigated the incident. Supplied

在另一起事件中,今年5月,墨尔本东南部天主教男子学校慈幼会学院(Salesian College)的一名女教师被假性照片盯上。一名15岁的男学生被开除。

莫纳什大学犯罪学副教授亚瑟·弗林说,这些非自愿的事件并不令人惊讶。

“不幸的是,维多利亚州最近发生的这些有害事件并不意外,”弗林博士说。

“一个很大的担忧是,这些工具的迅速传播已经使未经她们同意的性图像行为正常化,尤其是女性和女孩。”

“因此,我们在解决和防止性骚扰的努力上出现了重大倒退,这确实存在风险。”

Cyber criminal

弗林博士说,科技平台应该有责任删除成千上万允许制作露骨色情内容的应用程序。

“我们需要小心,不要为那些不尊重、性别歧视、在很多情况下甚至是虐待行为的人开脱。仅仅因为这个工具存在,并不意味着我们没有责任选择使用它来伤害别人,”她说。

弗林博士说,能够制作此类图像的软件应该要求用户注意未经同意的深度色情假照的危害。

SENATE ESTIMATES

弗林博士说,电子安全专员应该迫使组织提供证据并报告他们如何将设计安全整合到他们的技术中,如果平台不删除未经同意的基于图像的性虐待内容,将受到处罚。

但英国安全专员表示,“我们不会通过监管或诉讼来解决这个问题”,尽管他们同意在软件设计中需要一个权宜之计。

今年6月出台的联邦立法规定了新的刑事犯罪,禁止分享未经同意的深度色情内容。

QUESTION TIME

司法部长马克·德雷福斯(Mark Dreyfus)当时表示:“此类行为主要针对妇女和女孩,延续了有害的性别刻板印象,助长了基于性别的暴力。”

性别方面是汤姆·哈金经常看到的。

哈金先生走进全国各地的学校,分别在男女皆可的课堂上教育男孩和女孩关于两性关系的知识。

这位两个孩子的父亲说,父母花了很多精力和想法来决定他们的孩子当面和谁交往,上哪所学校,但孩子们在网上却自由自在。

Assignment Freelance Picture Relatio<em></em>nship and behavioral co<em></em>nsultant Tom Harkin works in schools<em></em>
 across the country. Picture: Supplied

他说:“他们在这些不受监管的(网络)环境中,对生活和性别的看法完全扭曲了。”

哈金表示,像巴克斯马什这样的事件发生后,人们的注意力往往集中在男性肇事者身上。

“另一方面,这些年轻女性的生活经历是什么?她们的生活受到了怎样的影响?她们还好吗?”他说。

他说,社会对学生们正在看的有害色情内容一无所知。

Tom Harkin (far left) says with young people being exposed to graphic porn, it is no wo<em></em>nder people making deepfakes act with disregard for their victims. Supplied

“我们都对PornHub作为年轻人性教育和满足工具的主流用途视而不见。我们知道这些环境是扭曲的。

他说:“一些十几岁的男孩每周会多次观看主导女性、虐待女性的内容。”

他说,性行为中勒死罪犯的比例有所上升。

Melbourne Freedom Rally

哈金先生在学校从事两性关系教育已有20年,他记得有一种新趋势,即15,16,17岁的男性试图与女孩肛交。

“所有这些都受到了色情片的影响,”他说。

“很大程度上(在色情视频中),她对‘权力移交’的动态和由此引发的痛苦做出了愉快的反应。

“然后我们奋起反抗,就因为一名年轻男子使用了这些工具,并对50名年轻女性缺乏尊重?”

Deepfake explicit images of Taylor Swift were widely shared on social media earlier this year. YouTube

哈金表示,“可怕、可怕”的巴克斯马什事件可能只是未被报道的类似案件的冰山一角。

他说:“这些事情表明,年轻人在网上闲逛,他们和年轻女性不在同一个环境中闲逛。”

“同理心下降了,理解下降了……我们有一代年轻人不知道如何社交。”

“我不认为父母有这个能力。老师们绝对没有这个能力。”

Australian high schools this year have had scandals involving harmful male behaviour directed at female peers online. Supplied

数字人工智能工具可以将这些厌恶女性的态度转变为犯罪行为,这几乎是不可能遏制的。

数字安全专家大卫·费尔曼(David Fairman)表示,家长或学校对设备的控制根本无法覆盖目前提供的约2万种人工智能工具。

Netskope首席安全官表示,在持续跟踪、分类以及在必要时审查新的人工智能工具方面,存在一场“军备竞赛”。

“没有什么灵丹妙药……所以,如果你是一个心怀恶意的人,你总是有办法利用这个系统,”他说。

Assignment Freelance Picture Netskope chief Asia Pacific information and security officer, David<em></em>
 Fairman. Picture: Supplied

Netskope与企业和学校合作,确定哪些人工智能正在它们的网络上使用,不是明确禁止,而是帮助这些组织决定人工智能如何融入其实践。

两年前,Netskope开始了一项持续进行的网络欺凌检测项目。

“所以,是的,父母可以开始研究并开始利用孩子的一些能力。但同样,这只是更大谜团的一部分,对吧?”费尔曼说。

“我认为教育下一代道德和伦理是一件大事。”

费尔曼对“可怕的”巴克斯·马什事件的受害者表示同情。

Melbourne Catholic boys school Salesian College expelled a male student earlier this year after he created images of a female teacher. Supplied

“让我们考虑一下负责任的人工智能……我们是把它用于善与恶的目的吗?治理、设置护栏和监管绝对是正确的做法,不应被忽视。

“政府中有很多真正优秀的人,他们有正确的动机和决心,想做正确的事情。”

维多利亚州于2022年通过了深度色情法,惩罚此类材料的创作和传播。

COVID COVERAGE

维多利亚警方的布里班克性犯罪和虐待儿童调查小组调查了巴克斯·马什事件。一名警方发言人拒绝详细说明该部门对此案的“广泛调查”,也拒绝为采访负责此案的警官提供便利。

当时,巴克斯马什文法学校表示,学校“非常重视这件事”,并已联系了警方。

“这影响了50多个女孩。但事实是,它也在整个社区引起了反响,”校长安德鲁·尼尔说。

“这不是巴克斯·马什语法问题。这不是学校X或Y的问题。这是全国每所学校的问题,实际上是任何地方的每所学校的问题。”