說到人工審查,人們的關註點往往被“無處不在的生殖器、恐怖主義和殘忍”所吸引——在現有的媒體報道中,以臉書和YouTube為代表的國外社交平臺充斥著色情和暴力內容,這往往給內容審查者造成不可磨滅的心理創傷。
在易信的日常工作中,違法內容大多是色情信息,其次是低俗和賭博。“極端情況比較少,我覺得可能是環境不壹樣的原因。”他這樣解釋。然而,易信並不否認極端信息的存在。“在‘黃賭毒’中,我認為應該是能對身心造成最大傷害的‘暴力’,比如目睹自殺、見血。”易信說。目前他接觸的色情內容通常是“軟色情”。壹般情況下,“主播漏壹點點,語言和動作比較色情”,嚴重的話就是招妓廣告。
在他的記憶中,鬥魚有壹場人為事件的直播,“那時候我還是個孩子。”易新發了壹張“沒落”的表情符號以示恐慌。
相對而言,直播平臺的內容審核最符合人們的“想象”。2016年,中國互聯網直播行業爆發,被業界稱為“元年”。但直播本身的社交、打賞屬性,卻頻頻出現在平臺的不規範監管中,比如低俗、色情等。到目前為止,在監管政策和平臺的整頓中,這個“色情”標簽並沒有被根除。內容審查也成了壹線“狙擊手”。
其實對於內容審核者來說,更敏感的並不是赤裸裸的賭博和毒品暴力。機器審計技術的進步已經可以過濾掉這部分明顯違法的內容。人工審計需要關註目前技術無法準確識別的東西。“在平臺上采用人工和電腦審核相結合的方式,人工主要關註壹些限制內容。”比如musical.ly的審核敏感點就在於未成年人。“例如,壹個小女孩不能袒胸,但壹個小男孩不能袒胸,”他告訴獵雲。“壹個3、4歲的男孩不能袒胸。”此外,這個平臺不合規的內容大多是跳街舞,抽大麻,抽電子煙。