用AI技术“换脸”,哪些底线不能碰?

“用AI伪造学生同事近7000张裸照”。换脸近日,术底该话题在网络上引发广泛热议。换脸犯罪嫌疑人白某某原本是术底一家互联网公司的技术员,他用AI“一键去衣”技术伪造淫秽图片,换脸每张1.5元卖出。术底图片涉及女性人数多,换脸包括学生、术底教师、换脸同事。术底

用AI技术给他人换脸,换脸是术底自娱自乐还是侵权行为?如果遭到侵权应如何维权?围绕相关话题,人民网采访有关专家进行解答。换脸

有人模仿你的术底脸,“AI换脸”是换脸否涉及法律责任?

近年来,一些有专业特效知识背景的博主会将影视剧素材“变脸”后发到网上,以追星或者恶搞等方式吸引流量。

热播剧《狂飙》播出后,网上流传着流星花园版“安欣与高启强”小视频,用AI技术给剧中人物换脸,其产生的娱乐效果引发热议。

随着技术门槛逐渐降低,普通网友也可以通过各类APP将自己的脸替换到他人的图片或者视频中,营造“身临其境”之感。记者发现,这类APP主打“一键换脸”“几秒易容”等,“AI换脸”的技术下沉逐渐显现。

然而,在本人不知情的情况下被“AI换脸”的情况也会发生——有网友在地铁上的照片被“一键脱衣”,一张普通的照片竟然成“裸照”。

针对这一现象,中央民族大学法学院教授李梁指出,首先要对人工智能应用违法的侵权主体进行明确划分;其次要对人工智能应用违法责任(后果)分担机制进行构建;再次,在综合考虑法理及社会利益的基础之上进行科学立法,建立健全人工智能应用相关法律体系,推动技术研究及科学发展,加强监督监管机制。

“任何组织或个人不得丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权,除法律规定的如新闻报道等合理使用情况外,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。”北京德翔律师事务所律师张希解释说。

有偿传授技术,是合法盈利还是帮助侵权?

目前,一些掌握“AI换脸”技术的人依靠该项技术做起生意。有偿传授技术,可能是合法盈利,也可能是帮助侵权。

在某电商平台,记者发现多家店铺出售“AI换脸技术”“AI配音神器”等课程,售价在十几元到上百元不等。据媒体爆料,有网友询问特效师:“(教程学会后)岂不是想亲谁就亲谁?”店家回复称“学会我的教程就可以。”

实际上,如果涉及传播淫秽色情内容,那么这种噱头可能涉及“帮助侵权”。“依照法律规定,明知会造成民事侵权,故意向他人传授实施可能违法的具体经验和技能的行为,可以构成帮助侵权。”李梁表示。

“如果明知他人想制作淫秽视频传播或者牟利的,可能涉嫌成为传播淫秽物品罪或者传播淫秽物品牟利罪的共犯;如果明知他人有犯罪行为而依然传授的,可能涉嫌帮助信息网络犯罪活动罪。”李梁进一步指出。

监管规范有待推进,“AI生成”不能碰触法律红线

伴随着AI技术的发展,亟待推出对AI技术合法使用监管规则。

2022年11月25日,国家网信办、工业和信息化部、公安部发布《互联网信息服务深度合成管理规定》。其中明确提出:任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

2023年7月,国家网信办等部门发布《生成式人工智能服务管理暂行办法》,对生成式人工智能产业给出较为详尽的规定,其中包括技术发展与治理、服务规范等。

“人工智能应用在民事及刑事等方面法律问题频发,人工智能的非法应用及技术漏洞对伦理道德、隐私权益、财产安全、系统安全等方面造成威胁。法律不能作壁上观,应当进行规制。”李梁表示,“完善人工智能研发、供应、使用、管理及事发机制,让人工智能在法治的轨道上合理运用。”