多位女明星受害!内幕曝光
只需要一张照片,
通过人工智能深度合成技术,
任何人都能成为视频中的主人公,
甚至连表情和动作都能以假乱真。
然而,这项技术
却让一些人产生了不良想法
杭州的虞某利用“AI换脸”软件生成大量淫秽视频进行传播,被换脸的有不少女明星等公众人物,虞某甚至还提供换脸定制服务。
“AI换脸”伪造女明星涉黄视频
2022年8月,杭州市萧山警方在网上巡查中获取一条线索,辖区内有人利用AI技术制作淫秽视频在网上进行大量传播,警方依法对此立案侦查,并迅速抓获了犯罪嫌疑人虞某,随后该案被移送至杭州市萧山区人民检察院审查起诉。
杭州市萧山区人民检察院检察委员会专职委员 章蕾:虞某通过在互联网上发现了有一个AI换脸的技术软件,他自己通过学习这个软件,掌握了使用技能,从此开始利用AI换脸的技术去牟利。
检察机关调查发现,虞某从2020年开始接触“AI换脸”软件,起初他想通过在网上推广该项技术以及相关软件来获利,但是关注他的人却很少。一次偶然的机会,虞某看到有人在社交群组中发布淫秽信息来吸引他人关注,于是他也动起了类似念头。
据虞某供述,为了吸引更多的关注和流量,他在社交软件上创建了“浏览群”和“私人定制群”,“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者,其中包括一些经过虞某换脸的视频。当有人提出“定制换脸”的需求,虞某会将这些人引入所谓“私人定制群”。
杭州市萧山区人民检察院第七检察部检察官助理 陈禹尧:通过收取入(浏览)群费用的方式,一个198元、298元或者398元。另外一个就是虞某还提供人脸视频定制服务,相当于客户如果需要定制一个换脸的视频,他可以根据时长,根据视频的难度大小收取相应的费用。
据萧山检察,截至案发,公安机关共在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。
虞某某组建该聊天群并在群中传播合成的淫秽视频
“只要能看到脸的都能换”
据检察机关调查,虞某一边通过传播换脸的淫秽视频来“吸粉引流”,同时又通过出售“AI换脸”软件和提供所谓“AI换脸”的私人定制服务,在不到半年的时间里就获利数万元。
据检察机关调查,虞某根据“AI换脸”视频的长度、清晰度等难易条件,按照5分钟300元、10分钟500元等标准来收取定制的费用。虞某声称,“只要能看到脸的都能换”。
杭州市萧山区人民检察院检察委员会专职委员 章蕾:他通过VIP定制,就是客户提要求“我今天想要把脸换成是谁的脸,你帮我定制一下,我支付相应的报酬”,通过这样牟利的方式。
据检察机关了解,虞某的客户要求“定制”换脸的对象不仅包括一些知名的公众人物,也有生活中的普通人,其中就有人提出想要定制自己暗恋女生的换脸视频,而对于这些未经同意就擅自侵犯他人敏感信息的违法行为,虞某也是来者不拒。
另外,虞某除了进行定制化的换脸服务,还将“AI换脸”软件分为初级、中级和高级三个等级进行销售并传授使用教程,同时还提供网上非法收集的他人人脸素材。
据检察机关收集的证据显示,虞某创建的众多社交群组中,最少的成员95人,最多的成员达2053人,通过销售换脸淫秽视频以及定制换脸淫秽视频等违法行为,虞某先后收取口令红包200余次,总金额共计6万余元。
追究刑责!提起民事公益诉讼!
检察机关认为,作为“AI换脸”技术的使用者,虞某通过传播侵犯公民个人信息的方法和手段,使得更多“不特定主体”个人信息被侵害的社会危险性进一步扩大。因此,杭州市萧山区人民检察院在依法追究虞某刑事责任外,同时还提起民事公益诉讼。2023年7月,杭州互联网法院对这起公益诉讼案进行审理,这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。
2023年4月14日,杭州萧山区人民检察院决定对虞某“AI换脸”侵犯公民个人信息公益诉讼案立案,当日履行公告程序,公告期满,无适格主体提起诉讼。6月9日,检察机关依法对虞某提起民事公益诉讼。7月28日,该案在杭州互联网法院一审公开审理。
在庭审中,检察机关出示了虞某侵犯公民个人信息、损害社会公共利益的详细证据,包括公安机关对虞某所作的讯问、询问笔录、勘验记录、检查记录、鉴定意见,以及淫秽视频1200多部、图片1600多张等电子数据。
杭州互联网法院经审理认为,虞某利用“AI换脸”技术侵犯公民个人信息的违法事实确凿,因此支持检察机关作为公益诉讼起诉人的全部诉讼请求:判令被告虞某删除非法获取的个人信息,公开赔礼道歉、消除影响并赔偿损失共60000元,这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
2023年11月,杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪,判处有期徒刑七年三个月,并处罚金6万元。
法官:
技术无善恶但有边界,须在法律规制内使用
“仅凭几张照片,任何人都可能成为受害者。” 从网络主播换脸女明星直播带货,再到换脸被嫁接到淫秽视频中,滥用“AI换脸”技术实施各类侵犯个人信息的行为时有发生,甚至在灰色领域甚至违法犯罪领域滥用。那么,“AI换脸”技术的法律边界在哪里,又该如何规范和治理呢?
杭州互联网法院互联网审判第一庭庭长 肖芄:我们国家的民法典对于侵害他人,通过深度伪造方式侵害他人人身权益是有明确的规定的,禁止通过深度合成的方式去侵害公民的人身财产权益,这是民法典的规定。随着技术的发展,个人信息保护法对于深度合成也有相关的规定,因为不管是面部的一个替换还是声音的替换,它实际上都需要收集公民的个人信息,那么这些都是属于个人信息保护法特别保护的敏感的生物识别信息。
我国目前除了“民法典”“个人信息保护法”,2023年正式实施的《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》中也明确规定,强调使用者不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者要落实信息安全主体责任。
大家都在看
-
红毯先生太敢拍了,揭露了好多娱乐圈秘密事 红毯先生真的太敢拍了,如果不是去百度了真实事件,真的就以为是假的故事。没想到彭于晏居然遇到这样的委屈。就在前几年的微博之夜上,每个嘉宾都有自己的位置,位置上都有明星名字, 明星秘密05-02
-
娱乐圈“卖国求荣”的10位明星,你更厌恶谁 前言赵薇照片事件姚晨发表微博陈冲春晚作家蒋方舟柴静 央视记者 明星秘密05-02
-
被警方抓捕过的10位明星,吴京情有可原,吴 星光璀璨下的阴影:那些意外步入法律漩涡的明星们在璀璨的星光下,娱乐圈总有些让人意想不到的转折。今天,让我们聚焦那些意外步入法律漩涡的明星们,他们曾是舞台上的璀璨星辰,却因 明星秘密05-02
-
揭开明星背后的神秘面纱!吴京背后隐藏的家 明星秘密05-02
-
揭露娱乐圈深层乱象:实名举报引发的爆料风 近年,娱乐圈纷繁复杂的状况引发大众热议,涵盖明星间的恋情风波、家庭纠葛及社会议题等诸多方面。演员吴京曾公开表示不希望女儿踏入这个圈子,以免受到不良风气影响。随着信息传播速 明星秘密05-02
-
娱乐圈小八卦爆料! #娱乐圈有哪些你不知道的真实猛料?#张艺兴一直在缩小人脉圈,毕竟他和圈内很多艺人的关系不如从前,与其装样子维持和谐,不如趁早分开,各走各的路,这样大家还能维持基本的尊重 明星秘密05-02
-
娱乐爆料虞书欣 陈都灵 赵露思 林更新 张凌 娱乐爆料虞书欣 陈都灵 赵露思 林更新 张凌赫 周柯宇 迪丽热巴 成毅标题:八卦大爆料!揭秘娱乐圈六大明星秘闻嗨,各位宝贝们!今天我要给你们带来的可是一波不可思议的爆料!你们准 明星秘密05-02
-
独家爆料!惊天大瓜!娱乐圈八卦一网打尽! 明星们的生活一直备受人们关注,他们的点点滴滴都可能引发热议。今天我们就来聊聊几位明星的近况,看看他们的生活是怎样的吧!首先,我们要聊聊苗苗和郑恺的爱情故事。苗苗对郑恺可是 明星秘密05-02
-
娱乐爆料:肖战,热巴,李一桐,成毅,刘惜 1.成毅李一桐都官宣新剧了唉~还是在同一天,真的好有缘分啊!期待和新剧还有狐妖小红娘王权篇见面了!2.GUCCI的服装穿在肖战身上真是太好看了,既性感又矜贵!肖战水晶衣领造型有! 明星秘密05-01
-
曝光:4位明星偷拍事件的巨大代价 明星秘密05-01
相关文章
- "“窗帘门事件”: 因失手被狗仔队曝光的4位
- 大尺度女星成名史揭秘:荒唐三人行丑闻缠身
- 一探娱乐圈秘闻:揭开陪睡陪玩背后更恶心更
- 惊天内幕!娱乐圈顶流明星的私密生活曝光,
- 明星真相揭秘:娱乐圈阴暗面曝光,你所不知
- 曝明星巨额逃税黑幕!惊爆内幕揭秘,让你看
- 明星真相大揭秘:娱乐圈内幕曝光,你不知道
- 「娱乐圈明星内幕大揭秘!吴磊、Baby、张凯
- 惊天大瓜!17位明星内幕曝光,李现、华晨宇
- 明星内幕:娱乐圈的谜之秘密
- 艺人权利:娱乐圈的黑暗秘密揭露
- 惊爆!女演员涉案被逮捕,上海警方公布案情
- 知名女星官宣大事件:离婚!
- 杨幂曝光娱乐圈黑幕:想留戏份,陪睡太正常
- 娱乐圈揭秘:杨幂重磅发声,揭露行业潜规则
- 【惊呆!韩娱乐圈有多乱?女星为何频繁出事
- 近期5位劣迹艺人复出失败!演出取消、评论
- 知名演员不雅视频曝光,背后的黑暗我不敢看
- 扒酱大爆料:娱乐圈风云再起,揭秘那些你不
- 娱乐圈吃瓜爆料!鞠婧祎,周扬青,冰冰,刘
热门阅读
-
韩国r级女演员盘点,李成敏一举一动都撩人 07-12
-
刘静尧生活照曝光:平时爱好健身,是一个喜 06-30
-
广西柳州莫菁门事件,全程亲密接触看了流鼻 07-12
-
女神关之琳下体竟然被塞高尔夫球,高尔夫球 07-13
-
网上疯传的杨幂不雅视频真相曝光,原来并不 07-12
-
张筱雨人体艺术照,人体模特中最值得去尊敬 07-12
-
范冰冰裸照流出,和男明星拍戏时假戏真做( 07-13
-
yy宝哥真实身份,李兆会/温旭宝(真实大富豪 07-11