7月15日，小紅書公布2020年第二季度社區生態治理報告，報告顯示，小紅書當季處理涉嫌刷量筆記66萬篇，實時攔截和清理黑產刷量行為超過1.3億次，巡回攔截和清理黑產刷量行為超過1.3億次。
此外，在二季度啟動的小紅書生態專項治理中，重點打擊惡意營銷、評論區廣告引流等用戶高頻舉報的內容。經過一個季度強力打擊，評論廣告舉報量環比降低了44%。
“這意味著用戶看到或者感受到的，有反感的內容量明顯下降，并且在趨勢上也越來越少。”小紅書生態治理專項組負責人表示。
在反作弊領域，平臺還基于社區關系圖，全面使用圖計算相關技術，提高了灰黑產識別的覆蓋率，使模型每天能夠在原有打擊量基礎上提供10%增力。
小紅書方面表示，社區生態治理是一個長期不間斷的工作，第三季度將重點放在直播內容治理上，針對惡意導流、低俗直播及不良社會價值導向類直播的進行重點打擊。
嚴打標題黨惡意營銷 封禁賬號終身禁入
小紅書在今年4月表示，將在二季度啟動社區專項治理，針對社區內經常受到舉報的詐騙引流、網絡謠言、偽科學標題黨、惡意營銷、低俗媚俗、傳播不良生活方式和不良流行文化以及違規廣告等內容和賬號進行全面治理。
為此，小紅書專項治理團隊針對不良社會價值導向的內容進行嚴格治理，處理了涉黃等色情低俗內容的違規筆記超過1800篇，侵權假冒類內容近300篇，并對涉及上述內容的惡劣賬號進行封號清理。
“這類內容不僅讓用戶產生反感，也容易讓外界對小紅書用戶產生負面誤解，平臺必須對這些內容堅決地說‘不’，才能引導用戶發布更向上的內容，維護社區生態。”小紅書生態治理專項組負責人表示，比如‘康笑天’、‘胖妃娘娘’等賬號在全網都以同樣的“標題黨”方式博眼球，標題存在嚴重誤導性，平臺不僅封禁了此類賬號，并且規定終身禁入。
“一些惡意營銷號或標題黨筆記和賬號背后都有逐利的目的，這類賬號更會利用灰黑產技術刷量，占用公域資源，通過一個階段的專項治理，我們看到“節省”等真實分享的內容獲得了更多的呈現空間。”上述負責人解釋說，在平臺治理已經見到成效的情況下，未來還將繼續加大治理力度，持續打擊。
近年來，在互聯網社交平臺、UGC內容平臺，時有“抑郁”、“自殺”等傾向內容出現，小紅書為此成立了“挽救生命小分隊”，針對社區中發現的疑似“自殺”類的筆記，通過快速反饋機制，提供線索給各地警方進行核實及緊急干預。
三季度將著力提升直播內容
隨著直播業務發展，低質內容和刷量灰黑產也盯上了直播間的利益空間。為響應國家網信辦及相關部門對直播內容生態的監管要求，抖音、快手、小紅書等平臺先后展開直播間專項治理。
小紅書方面透露，平臺已經同步展開直播間治理，包括嚴厲的反作弊打擊灰黑產機制，平臺已在第二季度公布了《小紅書直播規范》，第三季度，平臺不僅會繼續打擊灰黑產，還會把重點放在直播間的低質量、存在不良社會價值導向內容的治理上。
小紅書方面表示，平臺反作弊機制已經覆蓋直播間，實時攔截刷量行為，并在直播間數據中實時進行扣除。平臺還積極配合公安機關打擊黑產作弊鏈條和詐騙團伙。
據介紹，小紅書已經制定了全面嚴格的直播內容審核機制，并在二季度發布了《小紅書直播行為》規范明確社區規則，對用戶直播內容進行實時安全把控，并定期對用戶進行直播規范普及。平臺還將采取直播間巡視，重點內容監控等方式，對低質量低營養，存在不良社會價值導向的內容進行干預和治理。
中國社會科學院法學研究所研究員、《環球法律評論》雜志副主編支振鋒此前曾表示，數字經濟大幅度拓展生產生活。以大數據、物聯網、云計算、人工智能為代表的信息技術，正在以前所未有的力度為人類賦能，但也給社會治理帶來了極其巨大的挑戰。
“近年來，以小紅書、騰訊、阿里巴巴、百度等為代表的頭部互聯網企業，積極進行技術迭代，努力健全防控機制，大力開展專項行動，在打擊網絡灰黑產上起到了重要作用。”支振鋒說。
目前，除了持續的迭代策略對抗、加強內容模型識別外，小紅書自主開發、升級清理不良內容、打擊虛假數據策略模型和治理策略，對有效提升基于行為特征、內容特征等方面的算法模型和策略識別能力在治理中也起到了關鍵作用。“平臺生態治理是一場‘持久戰’。”前述負責人表示，在打擊黑灰產方面，小紅書會堅持到底，絕不放松。
