小紅書的“種草”困境：內容亂象叢生

在虛假種草和“清洗KOL”事件之后，小紅書再次陷入風波。

7月29日，有用戶反饋小紅書在應用寶及華為、OPPO等手機廠商的應用商店顯示無法下載。燃財經登陸某安卓應用商店，小紅書APP顯示內部優化中，暫不提供下載，而iOS系統目前還能下載。有報道稱，iOS系統下的App Store近期也會下架小紅書。

對此，小紅書7月30日回應稱，已了解到該情況，正在和有關部門積極溝通。對于下架原因，各種報道的推測包括涉黃涉“黑醫美”等違規種草、被用戶舉報、內容或數據違規等，小紅書方面未予以證實。

從跨境電商到內容社區，六年多以來，小紅書聚集了2億多用戶，2018年時估值已達30億美元。其高速發展和陷入爭議都源于UGC（用戶生產內容）模式，一方面，大量真實案例分享與產品功效介紹籠絡了一大批用戶；另一方面，巨大的流量吸引了不少灰產，煙草軟文、虛假種草產業鏈、違禁醫美藥品等都曾引發外界質疑。

去年以來，對于內容平臺來說，強監管的警報信號密集響起。快手、火山小視頻、網易云音樂、荔枝FM、喜馬拉雅也曾經歷過下架風波，為了減少內容風險，各家除了建立自己的風控體系、強化人工運營和審核之外，一些公司也會找第三方合作，探索更多內容審核方式。

一家為各類平臺提供審核服務的公司對燃財經表示，目前在人工智能的輔助下已經能夠實現關鍵詞黑名單、專家干預、貼標簽機器學習和無監督機器學習等方式攔截有害內容，再配合以輿情監控和人工審核，能夠幫助企業大大提高效率。

對于內容社區來說，不斷提升審核能力將是未來平臺治理的一大任務。小紅書原本在商業化之路上就面臨著平衡用戶體驗和合理變現的挑戰，如今，強化審核走向合規成為了更急迫的命題。

種草沃土滋生黑產

最早將“種草”發展成一種商業模式的小紅書，正深陷“種草”效應擴大后失控的場面。

早在2019年4月就有報道稱，在小紅書APP上輸入“煙”進行關鍵詞搜索，頁面提示有9.5萬條“筆記”，搜索“女士”、“女煙”等也會出現與“電子煙”相關的“測評”和“體驗報告”，背后有很多是煙草營銷機構。

由于國家明令禁止煙草廣告，小紅書上的煙草軟文一經發現立刻遭到質疑。隨后小紅書下線了煙草類筆記。

小紅書上的醫美及煙草“種草” 圖片來源于網絡

此后不久，小紅書又被爆出虛假種草產業鏈，代寫代發種草文章可根據粉絲數量明碼標價，點贊、轉發、上熱門均可人為操縱。一時間，小紅書遭遇信任危機。

針對此次事件，小紅書推出新版的《品牌合作人平臺升級說明》，只有經過小紅書平臺審核成為“品牌合作人”后，KOL才可在小紅書上接廣告。提高門檻后，近2000名KOL被取消資格。清洗KOL的行為一度引發恐慌。

另一方面，小紅書加大了對平臺的審核力度。小紅書方面稱，公司有幾十人的反作弊團隊，500人的審核團隊，以及100多套數據模型打擊代寫、刷量等作弊行為。據小紅書發布的2019第二季度社區反作弊報告顯示，平臺平均每天清理刷量筆記4285篇，每天有920篇人工刷量筆記被清理，平均每5分鐘清理18.6個刷量賬號。

小紅書還推出了“小紅心”評分體系，根據社區熱度和商城銷量的綜合排名來篩選參與評分的單品，邀請一年內購買過該產品的用戶參與評測，得出類似日本“COSME大賞”的榜單。小紅書APP顯示，目前有3702件全球熱門好物進入小紅心評分體系，有518296位使用者真實評測。

這一切看起來使小紅書在朝著更好的社區生態發展，但7月29日，有媒體報道小紅書借種草賣人胎素等違禁藥，推廣微整形速成班，平臺上的用戶以種草的名義為未獲準入的韓國品牌“粉毒”、“白毒”等各種肉毒桿菌引流，下單后即可推薦相應地區的工作室進行急性肉毒桿菌注射。另外還有各種推廣“微整速成班”的筆記，有師資造假已遭大學澄清的機構仍然在小紅書上推廣。

報道稱，以“粉毒”為關鍵詞在小紅書搜索，平臺會出現許多看似科普或“種草”的文章，實際上是隱性售賣醫美產品的“廣告”，甚至有網友直接曬出注射的親身體驗。而這些品牌并不符合國家準入標準，屬于違禁藥品。

形形色色的違禁廣告，改頭換面包裝成“種草“筆記，又大大方方出現了。

小紅書在這件事情之后遭到下架，不少人猜測“違禁醫美種草”是其下架原因。但小紅書方面否認這一說法并表示，“被應用商店暫時下架的情況有很多種，公司正在和主管部門溝通，溝通情況很積極，請關注后續進展。”

強監管下的自我審核

一直以來，內容平臺涉黃涉賭的問題都是平臺審核和政策監管的“重災區”。

2019年6月，國家網信辦曾對吱呀、Soul、語玩、一說FM等26款違法違規音頻平臺，分別采取約談、下架、關停服務等階梯處罰。網易云音樂、荔枝FM、企鵝FM、喜馬拉雅、最右、探探等APP也在今年經歷了下架。

2018年4月，快手、火山小視頻安卓版APP也曾被下架整改，要求全面清查庫存節目，對低俗、暴力、血腥、色情、有害節目立即下線。

內容社區不斷的自我審核與外部監管并存基本成為常態。強監管之下，對于內容平臺的審核能力提出了更高要求，一些企業也探索了新的方式。

張一鳴曾發道歉信表示強化總編輯責任制，全面糾正算法和機器審核的缺陷，不斷強化人工運營和審核，將6000人的運營審核隊伍擴大到10000人。

除了通過內容質量中心嚴把內容質量關外，今日頭條還建立了打擊低俗的人工智能小程序“靈犬系統”，輸入文字或文章鏈接，系統即可檢測內容質量指數，并給出算法模型的鑒定結果，配合人工審核進行內容質量把控。

就在2019年7月30日，“靈犬3.0”發布，升級了識別類型和模型能力，支持圖片識別（反色情低俗、反血腥暴力）和文本識別（反色情低俗、反暴力謾罵、反標題黨）。

快手則在下架風波時回應稱正全面整改中，采取對現有庫存視頻加大清查力度、控制每日短視頻上傳總量等7大措施，并將審核團隊從2000人擴充至5000人。其招聘信息顯示，“內容審核編輯”的工作要求為：審核用戶上傳到快手的視頻、圖片、評論的合法性、合規性，對違規賬號進行合理處置，維護社區的綠色與健康。

除了建立自己的風控體系之外，一些公司也會去找第三方合作。

為各類平臺提供審核服務的從業者江洋對燃財經表示，人工審核和機器審核相輔相成，有一部分機器不能攔截到的東西，通過人工去提供一些標簽，算法就可以去驗證，同時捕捉到跟這個賬號有關聯的群組和賬號，這樣效率會更高。

內容審核難在哪兒？

即使企業大力審核，各類APP仍然難逃被下架的命運。那么，內容審核難在哪兒？有哪些新模式與技術應用在審核上？

江洋告訴燃財經，目前審核方面的技術已經經歷了四個階段。

第一代審核解決方案以名單類（如黑名單）等方案為主，技術上比較簡單，建立基于數據的名單，根據一些關鍵詞，并通過大數據AI技術收集數據名單中的有效信號，攔截相關信息。

第二代審核方式由公司啟用專家系統，即把行業專家多年積累的風控和業務知識通過系統的方案固化下來，做出一些攔截欺詐的規則模型，并在風控中做一些自動化的決策。比如可以設置一個賬號發廣告不能發超過50條，到第51條賬號就會被封。

第三代開始了機器學習，或者說有監督的機器學習。即給風控案例或數據做一些標簽，通過各種機器學習的手段，把它固化成模型，通過不停的迭代，做風控和反欺詐方面的決策。

他舉例，比如系統監測到某賬號或登陸IP之前有過欺詐行為，通過這些有限的數據讓機器去學習，總結出一些規則來攔截。例如有的用戶把涉黃的詞匯用拼音代替，或加一個隔斷符號，機器可以通過一千條類似的文本學習到這個規則，有效攔截掉類似的不良內容，這種方法強依賴于大量打上標簽的數據。

第四代審核技術則進入了無監督的機器學習，對于很多缺乏標簽的問題和不斷更新進化的新問題，運用無監督機器學習檢測信息。

江洋表示，現代的欺詐和黑產趨向于群組性的行動，這樣的組織甚至有上中下游產業鏈，可能購買了1萬個賬號通過群控的軟件發布違規信息。這些賬戶的行為比較異常，且多個賬號有緊密聯系，無監督機器學習就是利用了這一點，比如賬號注冊時間在某個時間段內，IP有時在美國，有時在越南，賬號之間可能存在過交易行為，交易數額在一定范圍內。在這樣的情況下，即便沒有數據貼標簽，系統也能捕捉出來群組進行攔截。

他舉例解釋第三代和第四代的差別，比如一群貓和狗混在一起，有監督的機器學習需要一條一條的列出貓的胡須長、走路更輕等，把這些特征各打一個標簽，再到群組里去識別匹配，而無監督的機器學習是在沒有標簽的時候，通過這些動物之間的特性和關系來區分。

但是，如果不是有組織大批量的賬號行為，可能就需要人工審核或其它輿情監測的平臺來輔助。目前各平臺采用的多是系統攔截加人工的方式，有規則、黑名單、人工智能風控，也有人工審核，二者結合進行欺詐信息和不良內容的清洗。

除了技術因素之外，平臺的主觀選擇也是一大重要因素，很多社交平臺存在涉黃問題，但如果不打擦邊球，平臺活躍度可能降低。所以，在審核上，一方面黑產組織在不斷與規則作斗爭，開發新模式，再加上用戶數巨大，技術加人工的審核難度依然不小，另一方面，平臺在權衡內容和活躍度的時候，也要做出取舍。

推薦虛假種草帖需擔責

小紅書平臺上用戶發布違規內容，板子是否該打到小紅書身上？

中國政法大學傳播法研究中心副主任朱巍對燃財經表示，小紅書上的“種草帖”本質上就是廣告，因為它們都可以通過內容引流直接變現，按照2016年《互聯網廣告管理暫行辦法》的規定，媒介方平臺經營者、廣告信息交換平臺經營者以及媒介方平臺成員，對其明知或者應知的違法廣告，應當采取刪除、屏蔽、斷開鏈接等技術措施和管理措施，予以制止。

朱巍指出，假如一個用戶發布了內容，平臺沒有推薦，點擊量不高，小紅書不承擔責任。但如果是一些小紅書進行算法推薦且內容達到很高的瀏覽量和成交額的內容出了問題，或是用戶舉報平臺不處理、競價排行內容出問題、賣家留的聯系方式是虛假等情況，小紅書要承擔連帶責任。

“小紅書的模式可以說是社交電商中最成功的一種模式，獲得了大量用戶的信任。現在問題出來，對小紅書來說未必是壞事。小紅書應該把籬笆墻扎好，用更高的水平來要求自己。這并非是提高運營成本，而是以用戶的信任和保障產品質量為基礎，將來會更多地占有市場。”朱巍表示。

小紅書原本在商業化之路上就面臨著保證用戶體驗與合理變現的挑戰，如今，強化審核走向合規成為了更急迫的命題。

*文中江洋為化名。

（來源：燃財經 唐亞華）