当前位置:科学 > 正文

是谁在为“一键脱衣”APP撑腰?|当前聚焦

2023-04-06 06:59:56  来源:北京交通广播

导 读


【资料图】

最近,一位女网友在网上晒出了自己在地铁车厢里的照片,却被人用AI技术“一键脱衣”,于是一张很正常的女性的生活照,变成了“衣不蔽体”的照片。
通过搜索可以发现,网上不少非法网站还提供“一键脱衣”的AI技术,并且这些技术主要针对女性,即使上传的是男性的照片,这些网站仍会替换上女性的裸体。
京交通广播《1039新闻早报》节目特邀互联网观察员 契约 、互联网专家 吴沈括、 科技专栏作家 醒客、资深律师 赵占领和您聊聊是谁在为“一键脱衣”APP撑腰?



(图片引自网络)


利用AI作恶

幕后隐藏黑色利益链

之前曾经火过一阵子的AI换脸,着实让人们在惊叹中也惊喜了一次。人们体验着技术带来的乐趣,不过紧接着涉及AI换脸的侵权事件便此起彼伏,想必大家还记得那张某网红特效师合成的与某知名女星亲吻的影片在网上传播也遭到抵制的事情。一位女博主讲述了自己曾经被人AI合成,置于她从未去过地方的经历,她至今依然觉得很可怕:

博主:

举个例子,你周四穿了件粉色裙子参加了一个活动,AI技术软件可以完全捏出和那天一模一样的,你在那个场景却做出奇怪的事情,时间细节如果全都对得上换做谁都百口莫辩。


近年来,随着AI技术的普及以及各类AI软件的推广,“AI换脸”“AI合成照片、视频”,利用新手段博眼球事件层出不穷。究其原因,无非是利益的驱动,互联网观察员契约分析指出,这类应用的开发者可以通过多种渠道来获得利益:

契约:

这些开发者在做这种类似于“一键脱衣"的这种应用的时候,他的核心目的肯定不只是为了哗众取宠。因为你哗众取宠的话,也就是一时,也带不到实际的利益。他们(研发机构或人员)的核心目的肯定还是为了去赚到更多的钱获取更多的实际的利益。

开发这些、运营这些APP都是有成本的,成本背后就需要用利益去支撑。同时还要承担法律的风险。所以这些人在做这些事情的核心目的就是为了攫取利益

他们能够赚钱的方式有两类,第一类就是看广告。要使用这个软件,你你需要看广告才能使用某些功能;另外,就是直接向用户收费,使用某个功能需要收费,这些都是可以直接赚钱的。


科技专栏作家醒客也指出,这些将女性普通生活照通过AI手段制作成涉黄图片并上传到网络中的人,也有其获利的模式:

醒客:

一般来说这种涉黄的图片,它经常背后对应的是有偿的图片下载,有很多的图片下载网站,黄色的小视频或者是图片它都是收费的。

所以有很多人原来是用偷拍的方式进行的。那现在有了AI技术之后,他们利用这种技术进行伪造,那么伪造的成本相对来说更低,这种伪造的过程和偷拍的行为其实一样都是违法的。

(图片引自网络)


恶意动机

法律难容

互联网上的很多人都想出圈,都想火。有人发挥自己的特质,成为公众人物式的网红,还有一类就是隐藏在所谓的幕后,靠技术手段制作发布音视频内容,图片等也收获了相应的粉丝关注。在这个过程里,侵犯他人隐私的违法犯罪行为开始频繁出现。
用AI“一键脱衣”生成图片,是对女性的公开羞辱和无差别攻击,无异于“高科技作恶”。一张图片,就可以编出无数的谣言,贬损女性的名誉。造黄谣的女性很难自证清白,即使澄清事实有可能引来更多麻烦。
此类图片对于好事者只是一键生成,但给当事人带来的可能是毁灭性的打击。因此,对此类科技作恶的行为必须严打。
在网络中,存在出售AI软件或者提供AI合成服务的商家,尽管他们表示自己提供的产品或服务时不承担买家行为造成的法律责任和经济损失,但是专家表示,这种所谓的免责声明并不具备相关的法律效力,北京师范大学互联网发展研究院院长助理吴沈括介绍说:

吴沈括:

在《网络安全法》第二十七条的规定当中特别强调,明知他人实施危害网络安全的活动的,不能够为他提供技术支持。如果情节严重的,还会构成帮助信息网络犯罪活动罪等刑事犯罪。

知名IT与知识产权律师赵占领进一步分析指出,无论是类似“一键脱衣”APP或其他应用的开发者,还是利用这种软件合成音视频或者图片进行发布和传播的制作者,都将承担相应的法律责任,不但包括行政责任,而且还包括刑事责任:

赵占领:

这种“一键脱衣”软件或者类似的软件,应该说它违反了多项法律的规定,其中包括《互联网信息服务深度合成管理规定》,这个规定其中有明确的要求说任何组织或者个人不得利用深度合成服务去制作复制,发布传播法律法规所禁止的信息,不得利用深度合成服务从事侵害社会公共利益,扰乱经济秩序和社会秩序,侵犯他人合法权益的活动。

如果利用这种软件,不仅实现一键脱衣,还在这种软件的平台上去进行传播这种脱衣之后的内容,这种情况下,它实际上还涉及到违反刑法等相关的规定,也就是说传播淫秽物品这种相关的刑事犯罪。

如果这种“一键脱衣”软件,它只是提供这种软件的工具,相关的图片并没有通过它的平台去发布,对于使用者来讲,使用者的行为是构成侵犯他人的合法权益,那首先是侵犯他人的肖像权。因为《民法典》有规定,有任何组织或者个人不得以丑化污损或者利用信息技术手段伪造的方式侵害他的肖像权。一键脱衣这种软件,它就利用技术来脱去女性正常穿着的衣服,让女性裸露的形象被曝光,那么这种就属于典型的侵犯女性的肖像权。

如果说把这种图片发布到网上,或者通过其他的方式去进行传播,这种行为还可能损害公民的名誉权,导致女性的名誉受到损害,社会评价降低。

所以,即使没有通过这种软件平台去传播脱去衣服之后的这种图片,但是这种软件的经营者,他的行为仍然是违反法律的规定。包括刚才所提到的《互联网信息服务深度合成管理规定》。

当然也包括提供这样的软件,用于损害他人合法权益,用于扰乱社会公共秩序,或者是从事一些违背社会公序良俗的行为。这种情况下,这种软件的经营者他的行为也是涉嫌违反《网络安全法互联网信息服务管理办法》等多部法律的规定,需要对此承担相应的行政责任,需要对他进行相应的行政处罚。但如果说利用这种软件还发布这种淫秽色情图片,那这是另外一个问题,它涉及到刑事犯罪的问题。

(图片引自网络)


堵住这些“龌龊”APP的源头


诸如“一键脱衣”这样的APP,完全可以用“龌龊”来形容。

互联网观察员契约表示,一定要多方努力,让这些见不得光的黑色产业没有立足之地:

契约:

我们怎么样去杜绝这类类似的龌促的APP开发和使用,其实就是需要大家一起努力了。监管部门,包括国家的法律。还有用户要学会去举报,发现这些问题之后赶紧要举报,最简单的是举报给安全软件,或者是打相关机构公布的举报电话等等都可以。这些都是我们普通人可以做的。

今年年初,国家网信办、工信部、公安部发布的《互联网信息服务深度合成管理规定》正式施行。其中明确,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等活动

科技专栏作家醒客指出,内容运营的监管对这些龌龊的APP的开发和生存将会起到有效地防范作用:

醒客:

要避免这一类违法行为的发生,主要还是从内容运营的角度去监管,不管它背后采取的是什么技术,它在前端的话一定是一种盈利的模式,面向大众服务的模式,监管好面向大众的内容服务,这个才是关键。
技术本身它是中性的,使用不当的时候才产生违法结果。未来随着技术不断发展,技术手段一直都是在更新的,所以从法律的角度讲,核心还是在业务管理要健全一个比如说主管部门在这种大型的网站和大型的收费的通道上要有监管。
另外一个,还要有用户举报机制。就是那些受害者需要有一种举报的机制,这样的话能够让一些侵权行为能够及时的得到发现。
还有行业自律和行业的监督也很重要。因为做同样行业的人,他更知道这个行业的运营规则,加强行业内的自律与监管,就能够更有效地遏制这种犯罪行为的发生。


从客观的角度上讲,技术本身并没有好和坏的属性,问题往往出现在使用者的身上。科技专栏作家醒客表示,对于技术的发展我们应当给予肯定,并且要积极地使技术的应用更多地向正向发展:

醒客:

如果我们从技术角度来看,技术本身其实并没有什么问题,这种技术实际上在很多地方是有应用的,比如说我们很典型的是网上买衣服的时候,如果你想试衣服的话,你把你的身材的数据输进去,这样的话他用3D的方式重建你的身材,然后一键换衣模式,这样的话各种各样的衣服在网上你不需要实际去穿的时候就能得到一个试验,而且还能看出效果来。
如果说这种技术应用在这个方面的话,那对我们电子商务的发展实际上是非常有好处的。当然了我们从这里可以看到,任何一种好的技术如果应用不当的话,它也可能是造成人的危害甚至违法犯罪。

(图片引自网络)


我们经常讲“魔高一尺,道高一丈”。对于通过AI技术伸向女性的这只“脏手”,我们在多方共同治理的层面一定要有严厉的态度和高压的手段。既然他们可以“一键脱衣”,我们在应对的时候也应该有“一键举报”、“一键消灭”。

(图片引自网络)

微信公众号 | xinwenzaobao1039



内容来源:1039新闻早班车微信公众号 编辑 张楠

编辑:慧儿

值班主编:车水


对此类科技作恶的行为必须严打

关键词:

推荐阅读

mac mini干什么用 新款macmini性能怎么样?

Mac mini现在已经发布了,不少人还在犹豫要不要入手,那么mac mini主要干什么用?mac mini价格多少?新款macmini性能怎么样?今天一起来看 【详细】

3.7万物种濒临灭绝 面临灭绝危机的动物种群是什么?

3 7万物种濒临灭绝今天,人民日报为地球母亲发声表示全球超3 7万物种濒临灭绝,在这样一则消息之下,很多人都开始呼吁保护野生动物。但是目 【详细】

芦笋是什么 芦笋的成长有什么特别的要求吗?

芦笋的味道非常清爽,美味可口,营养价值很高。它也是我们都经常吃的一种蔬菜。它富含纤维素,那么芦笋是什么?芦笋是什么石刁柏,学名芦笋 【详细】

国产电梯前十名品牌是哪些?电梯使用寿命是什么?

国产电梯前十名品牌是哪些?上海三菱1987年上海机电股份有限公司和日本三菱电气股份有限公司合资成立了上海三菱电梯有限公司,该公司是中国 【详细】

黑芝麻产地在哪里 黑芝麻的生长环境介绍

黑芝麻产地在哪里1 黑芝麻的起源说到黑芝麻的起源,必然离不开江西。江西是继河南,湖北、安徽之后的中国第四大芝麻主产区。它是中国第一大 【详细】

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号:粤ICP备18023326号-40

科技资讯网 版权所有