演员吴越一句“谁在利用AI肆意抓人替自己作恶”,道出了AI换脸黑产背后普通人的无力。涉事账号以千元级成本实时换脸冒充明星直播带货,单品月销超7000单,更值得警惕的是,该账号还标注了“含AI生成内容”。标注没有阻止欺诈,反而让欺诈披上了“已披露”的合规外衣。
这正是问题的要害。标注制度的初衷是保障公众知情权,但当一行小字沦为平台和造假者的“免责声明”,它保护的就不再是用户,而是作恶者。标注“AI生成”改变不了虚假人设欺诈大众的客观事实,相反更像是虚假内容合规化的通行证。标注解决的是“这是AI做的”的识别问题,却不证明所调用的人格要素经过合法授权,更不意味着内容真实可信。
标注失灵的根源,在于平台审核义务被窄化为“形式合规”:只要标了,就算尽责了。涉事演员从未授权任何护肤品推广,平台却可以凭一行标注主张已履行提示义务,把判断成本转嫁给消费者。司法实践已在往实质审核方向推进——平台若已具备AI合成内容识别能力却未对高风险场景设置警示或拦截,可能被认定未尽合理注意义务;相关规则也明确,委托商家未尽审核义务需承担连带责任。规则的方向很清楚:平台不能只做“标注审核者”,更要做“实质拦截者”。
治理的抓手其实就在眼前。对名人肖像、声音的直播带货,平台应要求上传授权凭证,而非仅要求标注;对短时间内批量出现、话术高度相似的数字人账号,应触发集群识别和限流;对涉及支付转化的场景,应设置强制性的“非AI验证”环节。相关专项行动已将AI仿冒人物虚假代言列为重点,平台需要做的,是把专项行动的要求产品化、前置化,而不是等舆情发酵后再下架了事。
技术本身没有善恶,但制度必须回答一个问题:当造假变得足够便宜,谁来为“相信”兜底?演员吴越的无力之问,不该只换来一行苍白的标注。标注不该是欺诈的通行证,而应是治理的起点。让平台把审核资源前置到高风险场景,让司法裁判的规则转化为产品的拦截动作——唯有如此,那一行小字才配得上它本应守护的知情权,而不是成为被骗者事后才读懂的事后注脚。