涉黃、暴恐、違禁、不良價值觀、廣告等都是內容審核需要發揮作用,甄別出來的內容風險。
內容安全審核崗的工作內容以音視頻、圖文、直播的審核、監看為主,對不符合法律法規、運營規則的內容進行判斷及操作。同時按規則需要再對所審核內容進行頻道分類、補打內容標簽、質量分級等壹系列操作。
作為人工審核員,崗位職責具體來說,包括但不限於:
1、負責內容(包括不限於直播、音頻、視頻、圖文、評論等)審核監控工作,嚴格貫徹業務流程規範,保證信息處理的及時性及準確性;
2、參與審核規則制定,提高審核效率和安全性;
3、基於互聯網信息相關政策,針對違法違規及典型的惡意垃圾信息進行監控,及時發現處理並有效反饋;
4、主動觀察不良信息變化趨勢,及時對審核標準提出更新建議;
5、及時發現並上報審核中發現的問題,為產品、運營質量改進提供給支持;
6、整理互聯網行業法律法規和行業資訊新動態,為審核工作提供支持。
近年來AI審核已經成為趨勢,但是不能完全取代人工審核,兩者壹般是優勢互補,結合使用。比如網晴科技等第三方公司,都可以提供“AI+人工”雙重審核。