日本免费全黄少妇一区二区三区-高清无码一区二区三区四区-欧美中文字幕日韩在线观看-国产福利诱惑在线网站-国产中文字幕一区在线-亚洲欧美精品日韩一区-久久国产精品国产精品国产-国产精久久久久久一区二区三区-欧美亚洲国产精品久久久久

  1. 首頁 > 云知道 > >

內(nèi)容審核行業(yè)研究 內(nèi)容審查程序

生活常識(shí)生活知識(shí)


本文基于《內(nèi)容審核員能被AI“拯救”嗎?——深度解析內(nèi)容審核的困境與未來》的主題演講進(jìn)行整理成文 ， 主要討論機(jī)審人審在內(nèi)容審核的應(yīng)用前景 。
一、“緊”與“松”不是對(duì)抗 ， 而是共生“緊”與“松”的問題 ， 其實(shí)是對(duì)內(nèi)容監(jiān)管趨勢以及內(nèi)容平臺(tái)生態(tài)建設(shè)的一個(gè)總結(jié) 。
“緊”可以分為兩個(gè)方向 ， 一是監(jiān)管要求 ， 另一個(gè)是監(jiān)管力度 。在監(jiān)管上 ， 從2019年開始 ， 隨著數(shù)字經(jīng)濟(jì)蓬勃發(fā)展 ， 以及疫情加速的線上娛樂迅猛攀升 ， 涉黃、涉政、涉嫌違禁的內(nèi)容日益受到監(jiān)管重視 ， 并且也細(xì)分出隱晦色情整治、電信詐騙內(nèi)容整治、包括對(duì)未成年人的保護(hù)等具體要求 。這些要求正在逐步彌補(bǔ)各類平臺(tái)“野蠻生長”時(shí)期的規(guī)范空缺 ， 對(duì)各類風(fēng)險(xiǎn)內(nèi)容以及過往忽視的新發(fā)風(fēng)險(xiǎn)予以關(guān)注 ， 實(shí)際上也在樹立內(nèi)容生態(tài)發(fā)展的相關(guān)規(guī)范 。
另一方面 ， 監(jiān)管力度是監(jiān)管要求有效性的強(qiáng)力保障 ， 監(jiān)管要求、監(jiān)管力度、監(jiān)管處罰是對(duì)應(yīng)匹配的 。所以我們能夠看到一些平臺(tái)因?yàn)檫`規(guī)被處罰的新聞 ， 這種監(jiān)管力度的信號(hào)其實(shí)就傳遞出對(duì)監(jiān)管要求執(zhí)行的堅(jiān)決度 。這兩點(diǎn)構(gòu)成了廣義上的“緊” 。
從內(nèi)容平臺(tái)的角度出發(fā) ， 其實(shí)渴求的是“松” 。絕大多數(shù)的APP其實(shí)都在想方設(shè)法提高自己平臺(tái)的內(nèi)容活性 ， 無論是打造出社區(qū)/直播/評(píng)論/聊天等等功能 ， 本質(zhì)目的是創(chuàng)造活躍的UGC生態(tài) ， 讓用戶在平臺(tái)創(chuàng)造內(nèi)容、產(chǎn)生聯(lián)系、持續(xù)活躍 ， 獲得暢所欲言的快感或是滿足天然的社交需求 ， 這是內(nèi)容平臺(tái)渴求的“松” 。
“松”看似是一個(gè)逆監(jiān)管要求的想法 ， 但它并不是說觸犯紅線或逾越紅線的松 ， 比如放任用戶隨意發(fā)送色情內(nèi)容 。平臺(tái)在打造用戶體驗(yàn)的同時(shí) ， 同樣抱有著最大程度滿足合規(guī)要求的訴求 。在風(fēng)控上也對(duì)紅線的基礎(chǔ)問題十分明確 ， 希望能及時(shí)發(fā)現(xiàn)和處置真正有風(fēng)險(xiǎn)的信息 。
因此“緊”和“松”并不是劍拔弩張的對(duì)立關(guān)系 ， 實(shí)際上是一種共生關(guān)系 。
二、純?nèi)藢彿现庇X ， 但低效的審核方案最早出現(xiàn)的審核模式就是人審 ， 但人工審核有三個(gè)明顯的缺點(diǎn) 。

內(nèi)容審核行業(yè)研究 內(nèi)容審查程序


一. 監(jiān)管理解有難度數(shù)美在為大量客戶提供服務(wù)的過程中發(fā)現(xiàn) ， 大量腰部的中小型企業(yè)往往團(tuán)隊(duì)規(guī)模比較小 ， 成立年限比較短而且集中投入在產(chǎn)品上 ， 沒有精力投入到合規(guī)研究中 。
合規(guī)研究主要有兩方面門檻 ， 一是輿情關(guān)注 ， 要持續(xù)地關(guān)注最新的監(jiān)管動(dòng)向 ， 關(guān)注信息渠道是一定會(huì)占用、且會(huì)持久占用人力的工作 。因此中小型企業(yè)往往不會(huì)投入成本來設(shè)置專門人員關(guān)注輿情 。二是對(duì)新規(guī)的理解 ， 也就是每一條描述對(duì)應(yīng)了什么樣的案例 。當(dāng)面對(duì)一條抽象描述時(shí) ， 如何判斷平臺(tái)數(shù)十億信息哪些需要攔截和清洗 ， 這需要一個(gè)經(jīng)驗(yàn)豐富的人來理解 ， 想組建一個(gè)團(tuán)隊(duì)集結(jié)這樣的人 ， 難度是非常大的 。
二.高成本問題內(nèi)容審核問題是一分為二的 ， 除了要不斷監(jiān)控新發(fā)送的內(nèi)容 ， 也要對(duì)歷史發(fā)送的內(nèi)容進(jìn)行重審 ， 總數(shù)據(jù)量是非常龐大的 。以數(shù)美為例 ， 文本、圖片的日均量都是億計(jì) ， 音視頻時(shí)長日均超70萬個(gè)小時(shí) 。
人工審核在處理音視頻的時(shí)候只能簡單粗暴地聽一遍或看一遍 ， 如果有不清楚的可能需要重復(fù)2-3遍才能判定風(fēng)險(xiǎn) 。這就意味著內(nèi)容有多長 ， 審核就要多久 ， 甚至更久 。這就會(huì)產(chǎn)生更多的衍生問題 ， 比如固定的單人審核能效必將導(dǎo)致更加龐大的審核團(tuán)隊(duì) ， 又或是等待審核時(shí)長過長導(dǎo)致的用戶流失 。因此這既是效率問題 ， 也是用戶體驗(yàn)問題 ， 但最終都會(huì)回到成本問題 。

推薦閱讀