岳陽依賴的小紅書KOC種草，我們是一家集企業(yè)品牌營銷策劃咨詢、互聯(lián)網(wǎng)整合營銷推廣、短視頻營銷推廣、高端小程序制作、網(wǎng)站開發(fā)、品牌形象設(shè)計為一體的專業(yè)化機構(gòu)，多年來我們一直專注于中小企業(yè)的品牌打造、互聯(lián)網(wǎng)營銷推廣領(lǐng)域。
強監(jiān)管下的自我審核一直以來，內(nèi)容平臺涉黃涉的問題都是平臺審核和政策監(jiān)管的“重災區(qū)”。2019年6月，國家網(wǎng)信辦曾對吱呀、Soul、語玩、一說FM等26款違法違規(guī)音頻平臺，分別采取約談、下架、關(guān)停服務(wù)等階梯處罰。
但是，如果不是有組織大批量的賬號行為，可能就需要人工審核或其它監(jiān)測的平臺來輔助。目前各平臺采用的多是系統(tǒng)攔截加人工的方式，有規(guī)則、黑名單、人工智能風控，也有人工審核，者結(jié)合進行欺詐信息和不良內(nèi)容的清洗。除了技術(shù)因素之外，平臺的主觀選擇也是一大重要因素，很多社交平臺存在涉黃問題，但如果不打擦邊球，平臺活躍度可能降低。所以，在審核上，一方面黑產(chǎn)組織在不斷與規(guī)則作斗爭，開發(fā)新模式，再加上用戶數(shù)巨大，技術(shù)加人工的審核難度依然不小，另一方面，平臺在權(quán)衡內(nèi)容和活躍度的時候，也要做出取舍。
網(wǎng)易云音樂、荔枝FM、企鵝FM、喜馬拉雅、右、探探等APP也在今年經(jīng)歷了下架。2018年4月，快手、火山小視頻安卓版APP也曾被下架整改，要求全面清查庫存節(jié)目，對低俗、暴力、血腥、色情、有害節(jié)目立即下線。內(nèi)容社區(qū)不斷的自我審核與外部監(jiān)管并存基本成為常態(tài)。強監(jiān)管之下，對于內(nèi)容平臺的審核能力提出了更高要求，一些企業(yè)也探索了新的方式。張一鳴曾發(fā)道歉信表示強化總編輯責任制，全面糾正算法和機器審核的缺陷，不斷強化人工運營和審核，將6000人的運營審核隊伍擴大到10000人。除了通過內(nèi)容質(zhì)量中心嚴把內(nèi)容質(zhì)量關(guān)外，今日頭條還建立了打擊低俗的人工智能小程序“靈犬系統(tǒng)”，輸入文字或文章鏈接，系統(tǒng)即可檢測內(nèi)容質(zhì)量指數(shù)，并給出算法模型的鑒定結(jié)果，配合人工審核進行內(nèi)容質(zhì)量把控。
除了建立自己的風控體系之外，一些也會去找第方合作。為各類平臺提供審核服務(wù)的從業(yè)者江洋對燃財經(jīng)表示，人工審核和機器審核相輔相成，有一部分機器不能攔截到的東西，通過人工去提供一些標簽，算法就可以去驗證，同時捕捉到跟這個賬號有關(guān)聯(lián)的群組和賬號，這樣效率會更高。即使企業(yè)大力審核，各類APP仍然難逃被下架的命運。那么，內(nèi)容審核難在哪兒？有哪些新模式與技術(shù)應(yīng)用在審核上？江洋告訴燃財經(jīng)，目前審核方面的技術(shù)已經(jīng)經(jīng)歷了個階段。代審核解決方案以名單類（如黑名單）等方案為主，技術(shù)上比較簡單，建立基于數(shù)據(jù)的名單，根據(jù)一些關(guān)鍵詞，并通過大數(shù)據(jù)AI技術(shù)收集數(shù)據(jù)名單中的有效信號，攔截相關(guān)信息。
比如可以設(shè)置一個賬號發(fā)廣告不能發(fā)超過50條，到第51條賬號就會被封。第始了機器學習，或者說有監(jiān)督的機器學習。即給風控案例或數(shù)據(jù)做一些標簽，通過各種機器學習的手段，把它固化成模型，通過不停的迭代，做風控和反欺詐方面的決策。