深夜刷到一条视频,后背真的会发凉。画面里那张脸太像吴越,声线也几乎一模一样,对着镜头推荐精华液,说闭眼用、闭眼囤。下一秒,购物链接弹了出来。再一刷,另一个账号里,一个自称刘欢妻子的女人红着眼眶,说替老刘再看大家一眼,转头就挂上黄精五黑粉,19块9三盒。荒诞吗?荒诞。可它就发生在眼前。
网传刘欢离世的消息刚传开,冒充他妻子、冒充他儿子的账号就冒了出来。可刘欢根本没有儿子,这一点并不妨碍人家挂链接。更离谱的是,同一套AI模板,换成小沈阳儿子、赵本山前妻、冯巩妻子,卖的还是同一款粉。生产方安徽滋逸堂药业,注册资本50万,连续多年0人参保。客服方面说别信那些号,平台客服却说,得权利人或家属来举报。每成交一单,平台抽走一笔佣金。也正因此,有声音质疑,删号不如放任赚得多,这才是最刺眼的地方。
吴越遇到的,是另一种偷。一个叫花姐美肤日记的账号,用高度相似的脸和复刻的声线,打着明星同款、吴越推荐的旗号卖护肤品,还用第一人称背书,连孕妇妈妈都能用这种话也敢说。保留的截图显示,商品累计销量16492件,短短一个月卖出6732件,粗略估算销售额超过130万元。吴越深夜发文质问,一觉醒来,谁在利用AI抓人替自己作恶,骗了多少钱,请如数奉还,太恶劣。她最怕的是粉丝真的信了、真的下了单,所以不会沉默。账号被永久封禁,内容清空。上海电影家协会随后发声支持她维权。商家说不知情,平台说等举报,骗子换号接着来。
吴越不是唯一一个。全红婵的声音被克隆去推销土鸡蛋,她哥哥说告都告不过来。孙颖莎、王楚钦、邓亚萍的脸和声音被反复复用。张文宏的脸被合成进直播间卖蛋白棒,王劲松被冒用成理财广告代言人,温峥嵘无奈感叹,现在很难证明我是我。还有AI小海那种账号,凭空搓出一个苦情小孩,喊中老年女网友妈,卖完惨就带保健品。有美妆视频用AI渲染七天焕白、颈纹当场消失,备案功效里根本没有这些;还有创意视频让兵马俑喷完喷雾肌肤变嫩,因违背常识被列为典型。
为什么屡禁不止?账太好算了。定制一条明星换脸视频,普通还原度每分钟150元,高仿真版也不过700到1000元,搭一个明星同款直播间成本不足千元。被吴越点名的店铺主体广州慕可生物科技,注册资本高达1亿元,公开司法案件却超过440起,相关投诉达1900余条。造假成本趋近于零,收益动辄百万,违法者自然蜂拥而上。反过来,维权却很难。有法院梳理近两年多的裁判文书发现,近八成涉诉案件是肖像权侵权纠纷,受害者以模特、影视明星、网红博主为主。吴越最初尝试投诉,因流程繁琐失败;温峥嵘团队日均举报50个假冒账号,造假者仍屡禁不止。
规则正在补位。最高法发布的涉人工智能纠纷意见划出红线:未经同意,利用AI生成可识别特定自然人的虚拟形象并商用,侵害姓名权、肖像权;标了AI生成也没用;经营者用AI仿冒名人带货构成欺诈,消费者可主张退一赔三;委托方对推广内容未尽审核义务,与带货方共同侵权、承担连带责任。还有法院白皮书直指AI案件三难:事实查明难、行为定性难、责任认定难。AI标识本为提示风险,如今反成侵权者的挡箭牌。相关清朗行动已处置仿冒公众人物账号1.1万余个、清理违规信息8700余条,但治理仍在追着打。
平台不能因为加了AI标识就放松审核,也不能总走先放任、后删除的老路。人脸授权核验、主动下架明显侵权内容,应当成为标配。更关键的是佣金机制。每成交一单,平台抽一笔,账号封了,交易链条还在,换号重来几乎零成本。有声音质疑,平台不是拦不住,是佣金太香。平台客服一句等权利人或家属举报,等于把审核责任推给了受害者。可普通人哪有精力天天举报?今天被偷走的是明星的脸,明天可能就是普通人的脸。
假吴越的账号已被永久封禁,内容清空;那些冒充家属的账号,也在举报后被封、被清空。可卖出去的货、赚到手的佣金、该谁担责,仍是一笔没算清的账。骗子换号接着来,维权者还在证明我是我。技术门槛越低,监管闸门越紧。司法是最后防线,平台才是第一道闸门。别让AI标识成为免罪金牌,也别让佣金跑在审核前面。如果有一天,你妈的声音发来消息,问你银行卡验证码,你能分得清吗?



