在日常的數據審查過(guò)程中,根據現實(shí)情況,審核人員會(huì )將關(guān)鍵詞錄入到網(wǎng)站后臺非法關(guān)鍵詞庫與敏感詞庫中,經(jīng)過(guò)確認流程生效后,便于其他審核人員開(kāi)展審核工作,其中,錄入到非法關(guān)鍵詞庫中的數據,網(wǎng)站會(huì )在用戶(hù)上傳數據過(guò)程中直接進(jìn)行攔截,而敏感詞庫中的數據,則在審核人員審核過(guò)程中進(jìn)行標記,方便辨識。
再依靠日常審核工作建立自己詞庫的同時(shí),我們還采用了國內領(lǐng)先第三方智能內容檢測系統(網(wǎng)易易盾檢測&百度AI檢測),第三方數據回饋后,我們也將其中未存在于我們庫中數據添加進(jìn)去,不斷充實(shí)網(wǎng)站自身詞庫。
經(jīng)長(cháng)時(shí)間的積累與技術(shù)沉淀,網(wǎng)站已擁有海量有害信息樣本,綜合自然語(yǔ)言處理、深度學(xué)習、語(yǔ)義識別、文本聚類(lèi)、詞向量模型等檢測系統,24小時(shí)對網(wǎng)站數據庫中內容進(jìn)行檢測,識別準確度到達99.999%。
網(wǎng)站擁有專(zhuān)業(yè)的人工審核團隊,基于機器檢測輔助將內容按出現風(fēng)險的可能分為了ABC三類(lèi),交由不同業(yè)務(wù)水平的相關(guān)審核人員進(jìn)行逐條審查。
同時(shí)所有文檔還將進(jìn)行復查+質(zhì)檢兩道內容安全機制,審核準確高效,確保審核通過(guò)的信息更加安全可靠。
為了確保審核團隊的持續高效運轉,公司也推出了相關(guān)激勵機制,根據不同類(lèi)型內容設置相關(guān)激勵指標,激發(fā)審核人員動(dòng)力,做到“多勞動(dòng)多得,有獎?dòng)辛P”。
目前我們已先后與網(wǎng)信辦、網(wǎng)安中心、文化執法大隊、版權局、新聞出版署等多家政府部門(mén),在網(wǎng)絡(luò )大數據安全、輿情監控等領(lǐng)域建立起了7*24小時(shí)的聯(lián)動(dòng)機制,確保能第一時(shí)間更新最新有害信息動(dòng)態(tài)與響應相關(guān)部門(mén)要求。
通過(guò)多年的技術(shù)積累,團隊現可以針對不同客戶(hù)需求定制專(zhuān)業(yè)化的檢測方案,可靈活調整審核標簽、松緊度,支持自定義文本黑庫和敏感人物名單,貼近業(yè)務(wù)需求,包括不限于:多種語(yǔ)言識別(英文、日語(yǔ)、韓語(yǔ)、俄語(yǔ)、藏語(yǔ)、維語(yǔ)等小語(yǔ)種)、通訊錄識別、版權識別、重復過(guò)濾、智能鑒黃、宗教&政治敏感識別等。
同時(shí),我們也可以通過(guò)API接口等多種方式,幫助其他第三方進(jìn)行機器或機器+人工的審核工作。
本網(wǎng)站對審核人員有嚴格的專(zhuān)業(yè)要求,從而保證對上傳者文檔的內容判斷準確,對網(wǎng)站文檔質(zhì)量嚴謹的把控。從正式入職前期開(kāi)始,審核人員需要通過(guò)培訓后考核才能進(jìn)行試崗;正式入職后,會(huì )定期對審核人員進(jìn)行各方面的培訓考核,網(wǎng)站要求全體審核人員通過(guò)網(wǎng)絡(luò )安全員考試,使得更好的開(kāi)展審核工作。同時(shí),審核人員在日常的審核工作中,還與用戶(hù)保持該有的日常溝通,幫助用戶(hù)對自己的文檔內容進(jìn)行一個(gè)該有的維護。
網(wǎng)站的發(fā)展趨勢也是一個(gè)資源整合、優(yōu)勢互補、發(fā)明創(chuàng )新的過(guò)程,歡迎合作。