近期，直播间出现“郑丽文”直播带货的画面。这场直播并非郑丽文本人所为，是一场利用AI技术伪造名人形象的骗局，《人民日报》就此发声，揭露此类直播造假的真相，这也是靳东此前多次警示、一直担忧的行业乱象。
山西大同网警核查确认，这场虚假直播的始作俑者是网民邢某。邢某从事直播带货期间，恰逢郑丽文访问大陆热度较高，便萌生了利用名人热度引流的想法。他在未经郑丽文授权的情况下，使用AI工具生成郑丽文的数字人形象及带货文案，随后在网络平台开启直播带货，造成恶劣影响。
邢某的行为构成盗用、冒用他人身份名义招摇撞骗的违法行为，属地公安局已依法对其作出行政拘留处罚。这场AI仿冒直播，让直播行业的AI造假乱象再次浮出水面。
《人民日报》针对此次事件发布评论，明确批评此类AI造假行为。评论指出，未经授权使用他人肖像制作虚拟数字人、开展商业带货活动，属于明确的侵权违法行为，扰乱网络直播行业秩序，侵害公众人物的合法权益，误导消费者并埋下消费隐患。
这一乱象正是靳东长期以来担忧的事情。作为全国政协委员，靳东在今年全国两会期间发言，直指AI合成技术被恶意滥用的问题。他结合自身多次遭遇AI造假的经历，坦言市面上有大量不法人员，利用AI技术复刻公众人物的样貌和声线，制作虚假视频和直播画面，用于引流带货、诱导消费。
靳东曾多次深陷AI造假风波，网络上出现大量AI合成的他的短视频，画面逼真度高，搭配定制化带货话术，投放给各类用户，不少消费者盲目下单购买“三无”产品。他的团队长期举报违规账号，新生造假账号却层出不穷，整治工作阻力极大。
靳东担忧低廉的造假成本会让AI乱象持续蔓延。普通造假工具无需专业技术门槛，普通人简单操作就能生成仿真人物影像，公众人物维权流程繁琐，取证耗时久、维权成本高。造假人员蹭取名人流量，普通人被虚假内容误导，行业不良风气会不断恶化。
此次郑丽文AI仿冒直播事发，意味着靳东此前的顾虑已从个别案例演变为普遍的行业问题。李梓萌、温峥嵘、全红婵等公众人物，近期也接连深陷AI换脸盗播漩涡，部分商家截取人物公开采访片段，篡改字幕、替换台词，强行绑定各类杂牌产品，借助名人公信力扩大销量。
这类AI造假直播能屡屡得手，核心在于不法分子精准抓住了用户的心理。部分用户对网络新技术认知不足，分辨虚拟造假内容的能力薄弱，对口碑良好的公众人物抱有天然信任感，不法分子利用这一点，降低用户的防备心理，实现诱导消费。
相关部门已加大对AI仿冒直播等违法行为的整治力度，多地网警开展网络巡查，严厉打击盗用、冒用他人身份名义开展直播带货的行为。平台也在完善监管机制，加强对AI数字人直播的审核，从源头遏制造假乱象。
免责声明：本内容来自网站平台创作者，不代表本站新闻观点和立场。如有侵权，请联系网站删除。
