小紅書平臺近期針對站內(nèi)出現(xiàn)的AI技術濫用問題展開專項整治行動。平臺官方賬號“薯管家”發(fā)布公告稱，將全面升級對人工智能生成內(nèi)容的監(jiān)管措施，要求創(chuàng)作者必須對AI合成內(nèi)容進行明確標識，以維護社區(qū)內(nèi)容真實性和用戶權益。

據(jù)平臺披露，近期收到大量用戶舉報，反映部分賬號通過AI技術偽造公眾人物形象、制作虛假視頻。這些未經(jīng)授權的內(nèi)容不僅侵犯當事人肖像權，更因未履行標識義務導致信息真?zhèn)坞y辨，嚴重破壞社區(qū)信任體系。平臺數(shù)據(jù)顯示，僅上月就處理相關違規(guī)內(nèi)容超2.3萬條。

新實施的監(jiān)管方案采用"雙軌制"標識體系：創(chuàng)作者需在發(fā)布環(huán)節(jié)主動勾選"AI生成"選項，系統(tǒng)將自動添加特殊標識；若未主動標識，平臺檢測系統(tǒng)將通過圖像特征分析、行為模式識別等技術手段進行二次判定，強制添加醒目標識。這種設計既保障合規(guī)內(nèi)容傳播效率，又形成技術防控閉環(huán)。

在處罰機制方面，平臺建立分級處置體系。首次違規(guī)將收到警告并強制標識，二次違規(guī)內(nèi)容推薦權重降低50%，三次及以上違規(guī)賬號將被限制發(fā)布權限。特別針對涉及公眾人物的AI合成內(nèi)容，平臺將啟動專項審核通道，要求提供原始素材授權證明。

技術層面，平臺投入研發(fā)的AI內(nèi)容檢測系統(tǒng)已實現(xiàn)多模態(tài)識別能力，可精準區(qū)分深度偽造、風格遷移等不同技術路徑生成的合成內(nèi)容。該系統(tǒng)與國家網(wǎng)信辦《人工智能生成合成內(nèi)容標識辦法》實現(xiàn)數(shù)據(jù)互通，確保監(jiān)管標準與行業(yè)規(guī)范同步。

此次整治行動同步啟動創(chuàng)作者教育計劃，通過線上課程、案例解析等方式幫助用戶理解合規(guī)要求。平臺負責人表示，將持續(xù)優(yōu)化技術手段，建立"技術防控+人工審核+用戶舉報"的三維治理體系，堅決遏制AI技術濫用勢頭。