9月2日,抖音电商安全与信任中心发布了关于加强治理AI内容滥用的公告。随着人工智能(AI)技术在电商内容领域的广泛应用,商家和达人的创作效率显著提升。但与此同时,滥用或误用AI技术的问题也逐渐显现,一些账号借助AI生成内容进行虚假宣传,损害消费者权益,扰乱平台交易秩序。该平台表示将加强治理滥用AI导致消费者权益受损的违规行为,并进一步引导商家合规使用AI。
根据公告,典型的违规行为包括,少数商家利用AI生成虚假商品展示和夸大宣传,误导消费者下单,造成财产损失;创作者通过AI合成虚拟人物,冒充名人或特定专业身份进行带货,损害用户信任;部分视频中出现AI生成的虚构测评与体验,制造虚假口碑,影响消费者理性判断;还有创作者未按规定声明AI生成内容。
例如,部分账号合成知名运动员亲属的声音,以“家里要盖新房”为文案博取流量,并在视频中挂载骆驼奶粉、土鸡蛋、洗衣液等商品链接,误导消费者购买。另有创作者利用AI展示不符合农业常识的丰收场景,夸大种苗产量,以此吸引用户下单。此外,还有创作者用AI更改地方新闻报道画面,与所售商品毫无关联,却在视频中推销润肤露等产品。
针对上述行为,平台已及时采取治理措施,并重申相关合规要求。抖音电商明确,发布AI生成内容必须自主声明,不得利用AI生成误导性人物或事物视频,也不得发布与商品无关的虚假素材。
平台方面表示,人工智能应用需在合规前提下合理使用,任何滥用、误用导致消费者权益受损的行为都将受到严格治理。下一步,该平台将持续强化风险识别能力,推动人工智能技术合规应用,维护消费者合法权益,保障良好的电商交易环境。