硅谷“多巴胺實(shí)驗(yàn)室”的創(chuàng)始人拉姆塞·布朗說(shuō)過(guò)，“這世界上肯定存在讓人上癮的代碼?！?/p>

　　而這句話(huà)很好地體驗(yàn)在了國(guó)內(nèi)的今日頭條、抖音、快手等APP身上。不管是一線(xiàn)城市的白領(lǐng)，還是四五線(xiàn)城市的青年，都在手機(jī)上不斷滑動(dòng)翻看這些會(huì)令人“上癮”的軟件。

　　業(yè)內(nèi)人士告訴時(shí)代財(cái)經(jīng)，這些流行APP內(nèi)都利用了AI算法進(jìn)行興趣推送，會(huì)根據(jù)用戶(hù)的喜好不斷刷新用戶(hù)感興趣的內(nèi)容，這是令人“上癮”的原因之一。鑒于此，抖音甚至在近日上線(xiàn)了“防沉迷系統(tǒng)”，而以往這種機(jī)制大多只出現(xiàn)在游戲平臺(tái)上。

　　在度過(guò)最初的高速成長(zhǎng)期后，抖音、快手等互聯(lián)網(wǎng)內(nèi)容平臺(tái)接連遇到了監(jiān)管這道坎。罰款、約談、下架、永久關(guān)停等字眼在最近一兩個(gè)月內(nèi)不停地出現(xiàn)，而這一切都指向了平臺(tái)的AI算法和審核機(jī)制上。

　　一連串的審核風(fēng)波不禁讓用戶(hù)大打問(wèn)號(hào)，為何這些宣稱(chēng)“以技術(shù)驅(qū)動(dòng)”的互聯(lián)網(wǎng)公司仍然存在如此大的審核漏洞，仍然需要不斷加大人工審核的力度?更有網(wǎng)友戲稱(chēng)：“說(shuō)好的AI算法會(huì)讓人失業(yè)呢?原來(lái)AI反而能增加就業(yè)?！?/p>

　　借AI吸納用戶(hù)，卻不能有效監(jiān)管

　　今年3月底，快手平臺(tái)上存在大量“未成年媽媽”等低俗短視頻被央視陸續(xù)曝光，今日頭條也因廣告問(wèn)題被推到輿論的風(fēng)口浪尖，兩家公司的CEO宿華和張一鳴相繼發(fā)布了致歉信。

　　張一鳴在4月11日表示，宣布永久關(guān)停內(nèi)涵段子APP并加強(qiáng)今日頭條的審核，“全面糾正算法和機(jī)器審核的缺陷，不斷強(qiáng)化人工運(yùn)營(yíng)和審核，將現(xiàn)有6000人的運(yùn)營(yíng)審核隊(duì)伍擴(kuò)大到10000人?！?/p>

　　快手不久前也啟動(dòng)了內(nèi)容審核員的大規(guī)模招聘，一口氣增加3000名審核編輯，招聘條件是團(tuán)員和黨員優(yōu)先。

　　逐漸擴(kuò)大的審核風(fēng)波，最后也波及到抖音。抖音先是關(guān)停所有評(píng)論、關(guān)閉直播系統(tǒng)，近日還因涉嫌發(fā)布售假視頻一事查刪視頻805個(gè)，封禁賬號(hào)677個(gè)，并被北京市工商局約談。

　　事后抖音CEO張楠透露，目前審核團(tuán)隊(duì)的規(guī)模已經(jīng)有幾千人，而且“團(tuán)隊(duì)人員每天都在增長(zhǎng)”。

　　新招募的這些人員除了在運(yùn)營(yíng)層面給公司增加開(kāi)支外，這也意味著快手、今日頭條、抖音等社區(qū)型產(chǎn)品在UGC內(nèi)容審核上還不能完全依賴(lài)它們所擅長(zhǎng)的AI算法，“人工審核” 仍然占據(jù)非常重要的地位。

　　而這里面的“前輩”今日頭條，創(chuàng)立之初卻是把自己定位為一家技術(shù)驅(qū)動(dòng)的科技公司，利用AI算法將基于個(gè)性化推薦的內(nèi)容消費(fèi)做到極致。中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)研究中心特約研究員李俊慧表示，人工智能和算法能幫助企業(yè)吸納大量用戶(hù)、提高產(chǎn)品粘性，卻不能反過(guò)來(lái)起到整治和導(dǎo)向的作用，顯然是技術(shù)和管理上的缺失。

　　AI何時(shí)才能勝任內(nèi)容審核?

　　早于十年前，在谷歌、Facebook、百度等大范圍開(kāi)始使用算法進(jìn)行審查的時(shí)候，媒體和創(chuàng)業(yè)者都不斷地勾畫(huà)著人工智能時(shí)代到來(lái)的場(chǎng)景。時(shí)至今日，AI雖然通過(guò)學(xué)習(xí)，不斷在提升系統(tǒng)對(duì)于內(nèi)容類(lèi)型的識(shí)別和判斷概率，但不得不承認(rèn)的是，對(duì)于內(nèi)容的審核目前主要還是依賴(lài)人工。

　　日前，麻省理工學(xué)院(MIT)、斯坦福大學(xué)、OpenAI聯(lián)合研究報(bào)告顯示，人工智能領(lǐng)域比以往任何時(shí)候都更加活躍，盡管人工智能在執(zhí)行一些非常具體的任務(wù)時(shí)已經(jīng)超越了人類(lèi)，但它在一般智力方面仍然極其有限。

　　以月活用戶(hù)數(shù)超過(guò)20億的Facebook為例，在內(nèi)容審核上，這家面向全球的企業(yè)面臨的挑戰(zhàn)更加嚴(yán)峻。

　　Facebook的CEO扎克伯格近日稱(chēng)，按照目前AI的智力水平，要解決審核問(wèn)題只能暫時(shí)增加人工數(shù)量。目前Facebook擁有一個(gè)1萬(wàn)5千人規(guī)模的運(yùn)營(yíng)審核團(tuán)隊(duì)，預(yù)計(jì)今年年底增加至2萬(wàn)人。

　　據(jù)Facebook的技術(shù)團(tuán)隊(duì)介紹，目前AI的機(jī)器審核多用于文字內(nèi)容，如機(jī)器檢測(cè)到含有敏感詞匯的內(nèi)容，會(huì)將其刪除或向用戶(hù)發(fā)出警告。但對(duì)于圖片、視頻的審核，機(jī)器無(wú)法像對(duì)文字內(nèi)容一樣提取關(guān)鍵詞，審核仍然離不開(kāi)人工。

　　但相悖的是，在目前信息爆炸的時(shí)代，如果沒(méi)有AI和算法幫助審核，眾多互聯(lián)網(wǎng)公司顯然無(wú)法運(yùn)轉(zhuǎn)，反而需要越來(lái)越依賴(lài)AI。

　　此前“今日頭條”內(nèi)容質(zhì)量中心負(fù)責(zé)人、副總編輯李彤接受采訪(fǎng)時(shí)說(shuō)，頭條一個(gè)人一天能處理的文章大概是1000篇，機(jī)器一秒鐘能處理100篇，“今日頭條”每天新增發(fā)布內(nèi)容是50萬(wàn)條，全部由人工來(lái)做，要一個(gè)人工作500天才能看完，AI是不可或缺的。

　　今日頭條算法架構(gòu)師曹歡歡對(duì)時(shí)代財(cái)經(jīng)表示：“目前頭條的分享內(nèi)容識(shí)別技術(shù)模型主要分鑒黃模型、低俗模型、謾罵模型等，主要都是通過(guò)大量的樣本庫(kù)進(jìn)行比對(duì)分析?！币灾櫫R模型為例，樣本庫(kù)超過(guò)百萬(wàn)級(jí)別，準(zhǔn)確率80%以上，召回率95%以上，“這部分模型更注重召回率，甚至可以犧牲一些準(zhǔn)確率，也要提高安全性。”

　　李俊慧則認(rèn)為，未來(lái)社交軟件和短視頻APP等應(yīng)該是“算法+人工”的競(jìng)爭(zhēng)，其中人工的專(zhuān)業(yè)性將逐步升級(jí)到彌補(bǔ)或提升算法的正面導(dǎo)向作用，讓人工指導(dǎo)AI算法如何更好審核。