睦湃热评——AI换脸技术普及“明星”直播带货成谜，风险如何管控？

慧聪教育网 2023-08-01 10:05 来源：互联网

【慧聪教育网】问题的提出

AI换脸技术是指利用人工智能学习进行图像合成的信息技术,属于深度合成技术的一种。

近年,AI换脸技术日益成熟和普及,人们只需要利用各种小程序或软件,通过上传相应的素材,就能将不同人的面部进行替换。相应地也产生了许多法律风险,例如此前杭州互联网法院审理的楼某某古风造型视频被换脸平台非法使用一案,法院最终判决软件开发者公开道歉并赔偿。

现在,AI换脸技术已经不仅局限于在固定模板的平面或视频素材中进行换脸操作了,甚至发展出能够实时替换的新形式。而这种技术的新发展却正在被人用于违法途径,比较突出的正是近日在各个直播平台上逐渐增多的换脸“明星”直播带货形式。

观众可以看到长着⼗分相似的面孔的同一位“明星”同时在多个直播间进行带货,但仔细甄别后就能发现这其实是不同的素人主播使用AI换脸技术换上了同一位明星的面孔。经营者利用“类明星”的主播以求在竞争激烈的直播行业获得更多观众、获取更大收益,但这种做法具有极大的法律风险。

一、AI换脸的法律风险

(一)对经营者而言

此举涉嫌侵犯明星的肖像权、姓名权、名誉权,甚至涉嫌虚假宣传。《民法典》第1019条规定,任何组织或者个人不得以丑化、污损,或者利用信息技术⼿段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。经营者私自将素人主播换脸明星的举动显然不属于法律保护的用于个人学习、欣赏等合理使用的范畴,也不是为了维护公共利益或明星的合法权益,而是一种以营利为目的的商业性使用。AI换脸的行为将明星的面部特征与素人的身体特征重新整合,破坏了肖像的同一性,侵犯了明星的肖像权。《民法典》第1014条规定,任何组织或者个人不得以干涉、盗用、假冒等方式侵害他人的姓名权。因此,如果经营者或主播在换脸直播过程中提到、标注该明星的姓名、具有一定社会知名度的笔名、艺名、网名、译名等的,还侵犯了该明星的姓名权。

另外,根据《广告法》的规定,当经营者利用未经授权、许可的换脸“明星”进行直播带货,足以使观众误认为该明星与产品之间存在代言关系或者宣传关系,对购买行为产生实质性影响的,构成虚假宣传。而此类情况中的产品若存在质量问题、损害了消费者权益等,则可能对明星本人形成负面评价、对其名誉造成贬损,进⽽侵犯其名誉权。

(二)对平台而言

若是对平台使用者的这种侵权行为不予恰当处理,则可能承担连带责任。平台具有一定的审查、监督职责,在被告知或发现此类违法行为后,应当积极响应权利人的请求,及时撤销、下架相关侵权图片、视频,中止相关直播等,避免恶劣影响的进一步扩大。相反,平台若是有意放纵此类行为的发生、继续,对相关投诉、举报等视若无睹则应当与侵权者承担连带责任。

二、如何规范管理AI换脸技术

AI换脸技术等深度合成技术在大大拓展了人们的想象力和创造力、节省了大量的时间与经济成本的同时,也为网络环境、营商环境带来了新的挑战。为了合理利用先进技术,我们需要从立法、平台、个人多个层面入手,共同营造良好的网络生态。

首先,从立法上看,我国有关深度合成技术、直播带货等新兴技术和行业的法律法规日渐完善,为广大人民依法创作、依法营商提供了明确的法律依据。例如,于2023年1月10日起施行的《互联网信息服务深度合成管理规定》中已经明确指出,提供人脸生成、人脸替换、人脸操控、姿态操控等任务图像、视频生成或者显著改变个人身份特征的编辑服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。

其次,从平台上看,虽然一些平台仍然没有尽到良好的把关职责,甚至对于此类违法行为充耳不闻,但也有平台企业发布了“关于人工智能生成内容的平台规范暨行业倡议”,明确禁止利用生成式人工智能技术创作、发布侵权内容,包括但不限于肖像权、知识产权等。一经发现,平台应严格处罚。另外,平台还可以通过要求发布者明确标识、平台自动标签等方式将此类内容特别化管理和展示。

最后,从个人层面来看,所有网络内容的参与者都具有维护网络环境的责任,在治理AI换脸明星直播带货的事件上,经营者和观众承担着不同的角色。虽然在部分经营者眼中,使用换脸“明星”主播能起到更好的引流效果,产生更大的带货收益,但应当看到此类违法举动既有损自身信誉、不利于长远发展,也会侵害消费者权益、破坏行业生态。经营者应当树立正当竞争的意识和严格遵纪守法的意识,杜绝使用违法手段进行不正当竞争。观众作为网络销售活动和网络内容的参与者,作为网络生态的一环,应当增强自身识别能力,同时勇于举报恶意侵权等违法内容,充分行使自己的监督权。

三、律师点评

2023年7月10日,国家网信办联同国家发改委、教育部、科技部、工信部、公安部、广电总局共同发布《生成式人工智能服务管理暂行办法》(以下简称“《暂行办法》”),就提供和使用生成式人工智能服务提出了规范要求。《暂行办法》全文共五章二十四条,将于2023年8月15日起正式施行。作为我国第一部全面、专门规范生成式人工智能服务的法规,《暂行办法》遵循了客观、合理、适度的价值导向,我们有理由相信《暂行办法》落地后应能起到理想的前瞻预防与约束引导效果。

同时,笔者注意到某音平台在2023年5月9日发布了《关于人工智能生成内容的平台规范暨行业倡议》以及《关于人工智能生成内容标识的水印与元数据规范》,其中就要求发布者应对人工智能生成内容进行显著标识,并根据不同类型的人工智能生成内容,如视频、图片、虚拟人等,进行水印和元数据的添加、读取和验证。某音平台的该项倡议与规范与《暂行办法》的上述规定不谋而合。

虽然“AI换脸”在影视制作、广告等场景下具有积极意义,但其引发的乱象和存在的风险需被重视。通过“技术水印”把握技术源头,落实平台责任,提高网民意识,建立完善人工智能的相关规范体系,相信“AI换脸”技术能够在法律法规的轨道内平稳运行。

法条链接

《民法典》

第九百九十五条人格权受到侵害的,受害人有权依照本法和其他法律的规定请求行为人承担民事责任。受害人的停止侵害、排除妨碍、消除危险、消除影响、恢复名誉、赔礼道歉请求权,不适用诉讼时效的规定。

第一千零一十四条任何组织或者个人不得以干涉、盗用、假冒等方式侵害他人的姓名权或者名称权。第一千零一十八条自然人享有肖像权,有权依法制作、使用、公开或者许可他人使用自己的肖像。肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。第一千零一十九条任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

《互联网信息服务深度合成管理规定》

第六条任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

第十四条深度合成服务提供者和技术支持者应当加强训练数据管理,采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定。深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。

第十七条深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

(四)沉浸式拟真场景等生成或者编辑服务;

(五)其他具有生成或者显著改变信息内容功能的服务。深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。