界面新聞記者 | 肖芳

界面新聞編輯 | 文姝琪

今年，利用AI技術偽造名人代言、帶貨的虛假廣告讓越來越多消費者感到困擾。

比如，北京市場監管局近日通報了查處某公司利用AI技術冒用央視知名主持人發布虛假廣告的案件。通報顯示，該公司在直播間銷售的深海多烯魚油產品，實際執行標準為糖果，屬于普通食品，不具備疾病治療功能。同時，直播間出現的央視主持人李梓萌的形象為AI技術偽造生成。

實際上，AIGC帶來的廣告亂象還有很多。一些分辨能力較弱的群體成為了這些廣告亂象的受害者。

在抖音旗下營銷服務平臺巨量引擎舉辦的商業安全開放日上，巨量引擎商業安全治理標準負責人項韻對界面新聞表示，在廣告領域，AI衍生出來的問題并不想大家想象得那么簡單。“很多從業者原本認為AI帶來的僅僅是廣告素材合規方面的問題，但從實際出現的案例來看，AI結合到每一個行業，都可能產生一個新的問題。”

通過收集、分析抖音平臺的違規廣告案例，項韻表示，AIGC給廣告營銷帶來的風險主要包括三大類：違背公序良俗、侵權和虛假。

這三類風險在過去的廣告營銷中同樣存在，但在項韻看來，AIGC讓創造素材變得更容易，不僅讓風險的嚴重性提升，也讓平臺對違規問題的識別變得困難。

類似的挑戰在抖音內容生態治理中同樣存在。面對AIGC帶來謠言激增、人工識別困難的問題，抖音在內容生態治理上采用“以魔法打敗魔法”的方式，引入AI大模型技術進行違規內容研判、處置，取得了一定的成效。在AIGC帶來的違規廣告營銷問題上，抖音同樣引入了AI大模型等技術手段進行治理。

據界面新聞了解，使用技術手段治理違規廣告營銷比治理違規內容更為復雜。平臺除了需要研判廣告營銷內容是否違規之外，還需要研判商家資質、后續履約等一列環節是否存在違規。

抖音在治理違規廣告營銷時，一方面通過前置的研判識別商家資質以及違規廣告素材。項韻表示，平臺從商家資質、廣告內容以及內容表達三方面設置了防線。同時，針對違規行為，平臺設置了預警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系。

在開放日現場，抖音展示了平臺自研的交互式審核系統，該系統依托自研多模態大模型，審核效率比傳統時代提升75%。對于涉及違規的廣告，大模型還能快速提供拒審理由，告知違規內容出現在視頻中的具體時間點或具體畫面。根據抖音方面公布的數據，今年第三季度，平臺已前置攔截涉AI違規素材84萬余個。

另一方面，抖音也在探索通過技術手段識別廣告履約和后鏈路的問題。巨量引擎商業安全治理策略負責人郭澤斌對界面新聞表示，廣告履約包括實物交易、虛擬物品交易以及線下服務三種類型，履約過程可能涉及虛假宣傳、不良暗示等違規問題。

但這些問題都涉及消費者體驗，使用技術手段研判時，很難像研判違規廣告素材內容一樣通過設定明確的規則來實現。抖音探索的治理方案是把用戶的每一條評論、每一次舉報都轉化為可落地的治理依據。為此，其研發了廣告CCR 指標（消費者抱怨指數），整合用戶評論、舉報、投訴等多維負反饋并數字化、可視化，這在廣告行業也是首創。

郭澤斌透露，平臺根據用戶反饋整理出了4級風險體驗標簽，包括廣告內容問題、廣告履約問題、廣告分發問題以及其他問題，平臺會通過CCR指標來量化和定性。其中，針對廣告履約問題，平臺還會通過廣告監察員去做線下核驗和固定。針對涉及后鏈路欺詐的客戶，平臺會直接進行清退。

同時，老年人、未成年等特定群體在遭遇廣告后鏈路問題時可能面臨著風險識別和維權方面的挑戰，平臺還提供了專項保障服務。用戶可通過抖音廣告客服熱線或通過抖音APP內“廣告客服”專屬入口直達人工服務，反映相關問題。

在開放日活動上，抖音方面試圖傳達的信息就是技術成為治理的核心驅動力。在巨量引擎商業安全產品負責人潘荻看來，過去，平臺在治理違規廣告營銷內容的底線是安全，經常存在“寧可錯殺一千，不可放過一個有害內容”的問題。技術提升了平臺精確治理的能力，避免了誤殺行為對廣告主造成的影響，這將會帶來平臺變現效率的提升。