不法商家用AI技术造出“假温峥嵘”带货。图/央视新闻

据央视 身着三套不同服饰，在卖着不同的产品，演员温峥嵘在同一个时间，出现在了不同的直播间直播带货。传说中的分身术怎么在现实中出现了？这反常的“同步开播现象”，这几天在网上引发热议。可以肯定的是，温峥嵘并无分身之术，而是这几个直播间要么是录屏抠图，要么是盗用她过往直播素材，经过深度合成重塑形象与语音，嵌入直播间进行模拟互动。

三个“温峥嵘”带货，一个真的都没有

早在4月，温峥嵘就对此进行过声明，也进行过维权，但并没能阻挡住网络盗播和AI冒充行为的泛滥。

近日，有网友发现演员温峥嵘同时“现身”三个不同直播间，她身着不同服装推广着不同的产品，动作神态与本人高度相似，这一情况很快引发热议。温峥嵘并无分身之术，这三个直播间或是录屏抠图，或是商家盗用她过往直播素材，经过深度合成重塑形象与语音，嵌入直播间进行模拟互动。

“AI的这种手段，混淆大家视听。我的形象、肖像受侵权，是对我莫大的一个伤害。信任我的观众朋友，下单之后如果买到假货，我心里会难过。”温峥嵘表示，她团队的工作人员发现虚假视频在网络传播后，便持续进行举报，一天内曾集中举报50个假冒账号，有的造假账号被平台下架处理，有的则刚下架就换个形式重新出现，让人防不胜防。对于这样的情况，工作人员告诉记者，部分商家只需截取一段影像，用简易工具就能生成虚假内容，而他们取证却要花费很大的精力。

温峥嵘团队工作人员介绍，这些假冒账号喜欢在凌晨三四点，大家都在休息的时候，打时间差发带货视频。团队已经送达了律师函，在早前更是陆陆续续处理了很大一批造假账号。

AI侵权泛滥，治理困境“困”在哪

盗播和AI仿冒名人直播，让网友无从分辨真假，愤怒又无奈。9月1日，《人工智能生成合成内容标识办法》正式施行，要求AI生成内容必须“亮明身份”，但是为何乱象依旧呢？治理困境又“困”在了哪里呢？

根据民法典及个人信息保护法，未经授权使用他人肖像进行AI合成，虽涉嫌侵犯肖像权与个人信息权益，但司法实践中，多数案件赔偿金额不足万元，远低于商家的非法收益。

北京师范大学法学院教授刘德良介绍，通过AI或者深度伪造的技术，如果未经别人允许，把别人改变面部或者改变声音，或者把面部移到另外一个人的身上的话，有可能侵犯别人的肖像权、声音权，“如果把这种行为利用于广告宣传、直播营销的话，可能会涉及广告法上的虚假宣传”。

面对乱象，监管部门已针对AI虚假直播出台治理措施。国家网信办联合多部门共同发布《人工智能生成合成内容标识办法》，明确要求AI生成的肖像、视频需标注“AI生成”，否则将面临最高10万元罚款。但记者调查发现，很多造假者将标注藏在视频或者直播简介的角落，或者用极小的字体显示，消费者很难注意到。

专家认为，网络平台应对其直播间里的内容负有监管责任，在AI时代，监管部门也可以同样使用AI手段对网络内容实施监管。

“消费者首先可以向平台投诉，如果平台拒不履行监管的义务，这个时候可以要求平台承担连带责任，比如说一些投诉的机制，监管部门也可以利用AI来实时地来应对这种投诉，对于有效及时地发现假冒行为，有些是可以通过技术的方式来解决，当然技术解决不了的，还是要通过法律。”刘德良说。

AI仿冒名人带货，侵犯权益，涉嫌欺诈，更触动了数字社会赖以存续的信任根基。“AI李鬼”越来越像真的，靠普通消费者来识别和防范是远远不够的。将仿冒者打回原形，需要更细化法规，明确追责，要内容发布平台实实在在扛起把关责任，让“失信者付代价、让纵容者担责任”。

责编：刘茜

一审：刘茜

二审：印奕帆

三审：谭登

来源：潇湘晨报