知名演员吴越近日深夜发文，怒斥网络上出现以她名义进行的AI虚假带货行为。凌晨三点，她发布声明质问：“一觉醒来，谁在利用AI肆意抓人替自己作恶？”视频中，名为“花姐”的账号打着“明星同款、吴越推荐”的旗号，推广一款护肤品，不仅使用了她的形象，还通过深度合成技术复刻其声音，语气亲昵，极具迷惑性。
视频中的“吴越”声称该产品并非厂家主动邀请，而是自己因刷到某些夸张宣传后主动联系品牌方，亲自试用后才决定推荐。她甚至强调：“闭着眼睛用，闭着眼睛囤，孕妇妈妈都能用。”这种极具个人色彩的表达方式，让不少观众信以为真，纷纷下单购买，却不知这一切都是由人工智能伪造的“数字分身”。
更令人震惊的是，同一账号还发布了多条“邓亚萍推荐”等体育明星带货视频，内容结构高度雷同。这表明背后存在一个系统化、规模化运作的AI造假产业链，专门针对公众人物进行形象盗用和商业欺诈。连知名演员温峥嵘也透露，曾发现自己的直播间被AI复制并实时直播，上前质问竟被秒拉黑，连自证身份都成了难题。
随着生成式AI技术的普及，换脸、变声、虚拟主播等应用已从娱乐走向商业化滥用。这类技术门槛不断降低，普通人只需几秒钟就能生成一段看似真实的名人代言视频，而平台审核机制却难以及时识别。当“数字人”开始代替真人说话、卖货、吸粉，公众的信任体系正在被悄然瓦解。
专家指出，当前治理此类问题的核心在于落实“内容标识制度”，即所有经过深度合成技术处理的内容必须明确标注为“AI生成”。只有实现透明化、可追溯，才能有效区分合法创作与非法滥用。否则，一旦形成“伪真实”效应，将严重损害公众对信息的信任，甚至引发大规模消费诈骗。
目前，相关平台虽已启动技术筛查，但面对海量内容，人工审核效率低下，算法识别准确率仍不稳定。而法律层面也尚未建立完善的追责机制，导致造假者成本极低、风险极小。如何在技术创新与社会安全之间找到平衡点，已成为亟待解决的公共议题。
这场由AI引发的“信任危机”提醒我们：技术本身无罪，但若被用于欺骗，后果不堪设想。每一个转发、点赞的背后，都可能是在为一场精心设计的骗局买单。未来，无论是公众还是平台，都需要提升对“数字仿冒”的警惕意识，推动建立更健全的监管体系，守住真实与诚信的底线。
