抖音：濫用、誤用AI技術導致消費者權益受損的行為都將受到嚴格治理

9月2日，據「抖音電商安全與信任中心」公眾號發佈消息，隨着人工智能（AI）技術在電商內容領域的普及，極大提升了商家與達人的內容創作效率。與此同時，抖音電商近期發現，少數商家和達人存在濫用或誤用AI技術的情況，甚至藉助AI生成誤導內容，損害消費者合法經濟權益，擾亂平臺正常交易秩序。

具體表現如下： 少數商家利用AI技術生成虛假商品展示、誇大不實的功能宣傳內容，誤導消費者購買，造成用户財產損失。利用AI生成虛擬人物冒充真實身份，冠以權威專家、名人的虛假人設進行帶貨，損害消費者信任，違規變現。在商品詳情頁、直播間使用AI生成的虛構測評、編造使用體驗，刻意製造虛假口碑，影響消費者理性判斷。

針對上述情況，抖音平臺通過典型AI內容濫用案例，幫助商家及達人理解平臺的電商AI內容治理規則：

典型違規案例一：AI仿冒名人帶貨

少數視頻創作者利用AI仿冒名人形象、聲音和口型，用於商品宣傳，誤導不瞭解的用户下單購買。例如，有賬號合成某知名運動員父親、哥哥的聲音，並使用相同文案稱「家里要蓋新房」，藉此博取流量。在這些AI合成視頻中，往往掛載駱駝奶粉、土雞蛋、洗衣液等商品鏈接，誤導消費者下單。目前站內已及時處置相關視頻，也呼籲廣大創作者尊重名人肖像權，共同維護平臺的營商環境。

合規解析：創作者不得利用AI生成虛擬人物或仿冒社會名人、特定專業身份（如軍警等），進行帶貨變現，或通過賣慘方式違規營銷。

典型違規案例二：生成違背常識的AI內容

創作者利用AI創作不符合現實或不存在的商品內容，甚至誇大商品大小、量產等，涉嫌虛假宣傳。如，少數創作者在直播間利用AI展示樟樹港辣椒豐收的場景，辣椒的數量、分佈和植株生長規律完全不符合現實農業，並在口播中誇大種苗的量產，誤導消費者下單。

合規解析：創作者不得利用AI生成違背常識、虛構編造等內容，如與農業現實完全違背的內容等。

典型違規案例三：AI內容與售賣商品完全無關

少數視頻創作者利用AI製作與售賣商品完全無關的內容，從而吸引消費者關注。如，創作者實際售賣產品為硫磺潤膚露，但利用AI更改各地方新聞報道畫面作為素材吸引用户關注后，講解推銷相關商品。

合規解析：創作者不得使用與商品無關的虛假或誤導性素材，如篡改新聞報道為虛假商品測評等來吸引關注。

典型違規案例四：缺少AI自主聲明

少數視頻創作者未主動添加AI視頻聲明。

合規解析：用户發佈AI生成的內容時，需自主聲明，不做自主聲明，平臺會根據規則進行識別和治理。

為進一步幫助商家規範使用AI能力，保障消費者購物體驗，抖音平臺提醒商家做好以下幾點：

發佈AI生成內容主動聲明

創作者在發佈作品時，如作品為AI生成內容，應勾選「內容由AI生成」進行自主聲明。若未按要求勾選，平臺將對相關作品進行識別與治理。

合規創作 避免發佈虛假或誤導性的AI內容

不得發佈涉及誤導性的AI人物視頻。包括但不限於利用AI生成虛擬人物或仿冒社會名人，捏造虛假人設、誘導互動，或冒充特定專業身份（如軍警等）進行帶貨、變現等行為。

不得發佈誤導性的AI事物視頻。包括但不限於利用AI生成違背常識或虛構編造的內容，如與事實嚴重不符的商品測評等。

抖音電商提醒，AI技術應在合規前提下合理使用，任何濫用、誤用導致消費者權益受損的行為都將受到嚴格治理。平臺將持續強化風險識別能力，推動人工智能合規應用，切實維護消費者合法權益，保障良好的電商生態環境。