人们还未从悲痛中走出，网上的“卢璐”却已泪眼汪汪。镜头前，这位中年妇女声音颤抖，呜咽着讲述老刘临终前仍心系音乐的情景，同时轻轻拭去眼泪。评论区几乎被“嫂子节哀”和“刘老师一路走好”的留言淹没，情绪瞬间被渲染到最温柔的程度。随之，她却一转话锋，拿出一罐名为黄精五黑粉的保养品，称这是老刘生前所喝的养生饮品，链接便在视频下方，方便观众购买。这条视频迅速获得了数万的点赞与转发，有网友甚至表示这是送给刘老师的最后一程。然而，细心的网友很快发现了破绽：她的嘴型与声音明显不同步，哭泣时面部表情也显得不自然，显然是AI换脸技术的结果。央视网随后对此进行了报道，明确指出视频中的“卢璐”形象与声音均为AI合成，实则与真实的卢璐无关。

实际上，真正的卢璐早已辟谣。9月30日，她在朋友圈发文澄清，称网上关于老刘临终相关的谣言及图片均为虚假信息，她和刘欢除朋友圈外根本没有其他社交媒体账号。没过多久，却又有人冒充“刘欢儿子”，用几乎同样的措辞在销售同一款五黑粉。更令人震惊的是，这款产品并不是孤例，小沈阳的儿子、赵本山的前妻冯巩的妻子、以及赵丽蓉的儿子，纷纷出现在同一类带货视频中，销售的竟也是那款黄精五黑粉。追踪链接后，店铺负责人表示对此事毫不知情，认为是博主私自挂的链接，他们无权干预，而平台客服则表示必须由权利人或其家属主动举报，平台才会采取行动，这样一来，责任就这样被推卸得淋漓尽致。

进一步调查发现，中招的受害者不仅仅是刘欢一家。今年，演员温峥嵘原本过着低调的生活，但突然出现了数十个伪造的直播间。尽管每个账号、背景和服装各不相同，却无一例外地是她的面容。以她的名义售卖的涵盖面膜、保健品和家居用品，每条视频的文案几乎相同，似乎是从一种模板复制粘贴而来。一名粉丝在同一天观看到了四个不同的“温峥嵘”，却销售四种完全不同的商品，令他目瞪口呆。早在2025年4月，温峥嵘就已经发出视频辟谣，表明自己只有一个实时主播的账号。一位热心粉丝甚至举报了18个假冒直播间，然而这些举报根本无法奏效，那边刚关掉几个，另一边立刻就会换个头像、改个名字再次亮相。耗尽数月，最终在2025年11月底，温峥嵘团队决定将此案报案，警方经过审查后认为确有犯罪嫌疑，案件目前仍在侦办中。

央视主持人李梓萌同样遭遇了一模一样的情况。她因多年在新闻节目上积累的良好形象，成为了一些人盯上的目标。这些诈骗者利用AI技术，将她的形象合成至鱼油广告中，并配上了声称能够治疗头晕等症状的话术。2025年6月，北京海淀区市场监管局接到举报后对此次事件进行了查处，结果却十分讽刺：这一神奇的鱼油产品实际标准只是糖果，没有任何治疗效果，涉事公司因虚假广告受到行政处罚，此案也成为市场监管部门处理AI冒用名人形象的首个案例。

在体育圈，明星们则用另外一种方式被冒名。例如，全红婵、孙颖莎和王楚钦等备受关注的运动员们，声音都被AI技术克隆，虽不知情，却被用于推销土鸡蛋和蜂蜜等农产品。某个专注于此内容的账号已经发布了十七条全红婵声音的土鸡蛋促销视频，其中一个视频的点赞量超过一万，并销售了四万七千件鸡蛋。可全红婵的家属早在2025年4月就表示，从未授权任何农产品的代言。这种做法与过去高额请明星代言相比，如今拍摄一条AI仿冒视频的成本都低得多，若拥有几段公开的音频或视频素材，就能轻松合成逼真的内容，再通过多个账号广泛传播，迅速占领平台。

这并非名人独有的问题，AI技术带来的风险也正在普通人当中显现。网络安全专家早已提醒，AI技术克隆声音的最大隐患是可能被犯罪分子利用。一旦与AI换脸技术结合，便可生成难以分辨的“数字人”用于诈骗，普通人和老年人尤其容易成为受害者。最常见的方式是冒充亲友借款，骗子只需取得你的亲友的公开音频或视频片段，就能克隆出一个几乎一模一样的人，随意拨打视频电话，即使看上去是熟悉的面孔，听上去也是亲切的声音，很多人会毫不怀疑地快速转账。尤其是针对老年人，因他们对这些现代技术了解不足，骗子的伎俩更容易让他们心慌意乱。

国家层面也早已制定了相关规范。《人工智能生成合成内容标识办法》自2025年9月1日起生效，要求所有AI生成的文本、图像及视频必须明确标注来源。然而，单靠标识远远不够，平台不应抱着“未举报则不处理”的态度，避风港原则也不能成为逃避责任的借口。主动检查并提前阻止这些问题的发生，才是根本解决之道。

AI技术本身并非问题，真正的问题在于那些利用技术牟取不法利益的人。当造假的成本降至微不足道，审核机制形同虚设，最终消耗殆尽的将是整个社会的善良与人与人间的信任。凡涉及转账或借款的视频通话，务必冷静应对，挂断后务必通过电话或语音再次核实身份，切勿仅凭画面便贸然做出决定。同时，日常生活中也应避免在公共平台上随意分享个人信息。