1996年，美國麻省理工學院教授尼葛洛龐帝在《數字化生存》一書中預言，“數字不再只和計算有關，它決定我們的生存。”
二十六年后的今天，數字時代給人們的生活方式帶來巨大變革，媒介作為人的延伸，打破了時空限制，人與人之間的關系變得“比特化”，實現前所未有的聯結。暴力的形式也從線下蔓延到網絡空間，幻化成屏幕上的文字、符號、圖片……以更隱蔽的方式給當事人造成傷害，甚至導致“數字性死亡”“社會性死亡”。
自2022年6月起，南財合規科技研究院將推出反網暴系列報道，以期從不同維度、不同面向對網暴的衍生路徑、群體反應、治理面向進行拆解分析，以媒體力量推進網暴治理。
應對網絡暴力，互聯網平臺是第一道防線。在網暴醞釀及初發階段，各互聯網平臺如何設計防護機制？存在什么難點與痛點？
互動管理+信息監測：網暴能否“消音”？
對于互聯網平臺而言，“用戶自主設置+平臺介入監測”是事前階段主流的防控模式。
經21世紀經濟報道記者梳理發現，在新浪微博、抖音、快手、知乎、小紅書、豆瓣、B站、百度貼吧中，用戶均可以自主管理評論、私信互動關系。常見的選擇范圍包括所有人、關注的人、我的粉絲及互相關注的人，也可以選擇直接關閉權限。
相較于評論，私信場景中的網暴行為更加隱蔽。上述8個平臺對于“未關注人私信”功能均作出了嚴格限制，在對方未關注或回復前最多只能發送一條消息。新浪微博、小紅書、知乎、豆瓣、B站均設置了類似“未關注人私信箱”功能，陌生人發來的私信將會被系統收入其中。在抖音、快手，用戶還可以選擇設置私密帳號，該功能開啟后，僅粉絲可以瀏覽作品，且新的關注請求需經過用戶批準。
新浪微博近期發布公告，加強言論攻擊及網暴行為治理，調整私信接收規則，在接收未關注人發送的私信時，僅顯示1條私信提醒，用戶在確認接收后，可查看具體內容并進行正常文字對話，單次確認有效期為24小時。
在網暴信息識別監測方面，21記者設置了20個敏感詞，包括常見的攻擊類詞匯以及諧音、換字等更隱秘的表達，在上述8個平臺進行測試，均有不同程度的攔截，且評論場景中的詞匯攔截率高于私信場景。
在敏感詞測試中，平臺過濾情況大致可分為三類：一是消息可以正常發送及接收；二是消息發送后被屏蔽，接收方無法收到該信息；三是消息發送失敗。在第一類情況中，部分詞匯會觸發風險提示。
經記者梳理發現，貶低矮化類、詛咒威脅類和人身攻擊類詞匯基本能被系統識別并屏蔽。諧音、縮寫類敏感詞，除了“NMSL”有較高的屏蔽率外，仍有許多諧音詞存在一定識別難度。
值得注意的是，網絡暴力的表現形式復雜多變，某類信息是否涉及網暴，還需結合具體語境、當事人主觀感受等因素進行判斷。如“逝者安息”“位列仙班”等，在不同場景下會產生不一樣的解讀。
據了解，多個互聯網平臺都在近期調整優化了網暴信息監測機制。
抖音上線了“發文警示”“負向內容過濾”等12項防網暴功能。在“發文警示”功能下，若系統模型判定已經發送的評論存在問題，會推送彈窗提醒，建議發送者重新編輯，去除不當言論。如果發送者堅持發送，則該條評論不會在評論區出現。在“負向內容過濾”功能下，當模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會被直接放入“陌生人盒子—垃圾信息”中。
B站針對私信場景上線智能攔截功能，系統將對檢測到疑似騷擾或不良的會話內容直接攔截。在評論、彈幕等場景，用戶可以開啟評論精選模式、設置彈幕關鍵詞以過濾不良內容。據B站相關負責人介紹，當評論區集中性出現負面信息時，系統會觸發一套較為嚴格的防網暴互動管控模型，識別過濾不友善內容。“平臺還會通過抑郁情緒識別模型去識別有抑郁傾向的用戶，在發現相關內容后直接觸發防網暴模型。如果監測到有關輕生的內容，平臺會緊急介入專家進行風險等級判定，與用戶建立聯系、安撫情緒，必要時上報警方處理。”
作為Z世代高度聚集的文化社區，B站近期升級了未成年人保護機制。未成年用戶開啟青少年模式后，平臺將從內容、功能等層面進行限制，用戶所瀏覽的視頻需經內容團隊人工審核，評論、彈幕、私信等功能也會經過更嚴格的模型過濾，降低未成年人受到輿論傷害的風險。
在問答社區知乎，用戶可開啟“瓦力保鏢”功能，開啟后系統識別出的不良評論和私信將會被折疊、隱藏或刪除，嚴重者將被拉黑。21記者用兩個帳號進行測試，在收到3-4條不友善私信后，系統會自動將對方帳號加入黑名單。6月，知乎優化“發文提示”功能，用戶在評論和私信場景下發布不友善內容時將會收到社區建議修改的提示。在私信場景中，不友善的內容將被自動折疊并觸發風險提示，用戶可以自主選擇是否瀏覽消息詳情。
侮辱攻擊類詞匯層出不窮，對于表達形式更隱晦的網暴信息，平臺如何及時處理？微博相關負責人表示，對于日常的言論攻擊、泄露隱私、引戰等內容，平臺通過主動巡查、受理用戶舉報投訴等方式進行處置；對于熱點事件中衍生的網暴行為，平臺及時跟蹤、聯系熱點當事人，發掘相關線索上報至監管部門；針對平臺上的不友善內容，微博通過機器模型策略、關鍵詞策略強化內容識別與處置。
百度貼吧方面回復稱，貼吧有巡查、吧主和吧務反饋、舉報、清理回溯等發現機制，同時不斷優化內容策略，升級貼吧網暴識別能力。近期貼吧共擴充網暴關鍵詞近500組，新增圖片黑庫600余張。
定義之困：網暴的灰色邊界
目前，對于網暴的定義仍存在一定模糊界限?；ヂ摼W平臺面臨著一個繞不開的問題：什么樣的言論和行為能夠判定為網絡暴力？
在當事人社交帳號下刷屏白色蠟燭表情包，再附上一句“早日安息”。在私信中“提醒”當事人，“晚上一個人出門注意安全，別被車撞了。”又或者是對當事人的外貌留下一句輕飄飄的評價，“匯集了高科技的臉，一定很貴吧。”……
大量灰色的、難以判定的內容形成了一座大山，橫亙在互聯網平臺治理網暴的道路中。
微博相關負責人在采訪中告訴21記者，微博平臺主要治理侮辱謾罵、侵犯隱私、造謠誹謗、貶低羞辱、道德綁架和冒犯騷擾等方面的網暴行為。“網暴行為的發生較隨性和偶然，沒有固定規律，有時只因為一句話、一個觀點或一個表情。平臺難以及時發現和制止。此外，行業處置未形成統一標準，各平臺尺度不同，導致處置過程中也會存在用戶申訴和投訴的問題。”
抖音相關負責人表示，平臺正在不斷加強網暴信息識別能力建設，但依然存在一些難點，難以兼顧“快速”與“精準”。對于明顯的辱罵、造謠、人身攻擊類言語，平臺可以明確定義和治理。但另外還有大量惡搞、調侃類的言論，它們不違法違規，但對當事人的身心帶來了實質傷害。比如用當事人的臉P成搞怪表情包，用諧音梗進行辱罵等等。“網暴的界定和識別是目前的難點之一，在治理過程中需要結合受害人具體情況、抗壓能力，信息傳播量級、傳播速度進行個案分析，這對平臺進行規?；?、及時性治理帶來很大困難。”
目前司法層面對網暴尚無明確界定，更多的是從局部角度進行歸納。北京海淀法院專門審理互聯網案件的法官秦鵬博在此前采訪中表示，“在現有的法律法規和規范性文件、指導性文件中缺乏對網絡暴力概念內涵和外延的規定，亦缺乏列舉性的規范方式。”進一步明晰網絡暴力的法律概念，探索專門法的立法模式，是未來有效治理網絡暴力的重要途徑。
社區共治：數字鄰居的正向聯合
不同的互聯網平臺有各自獨特的社區文化。在事前階段，文化建設作為一種“軟性手段”將分散的用戶聯結在一起，強化用戶作為數字社區成員的身份認同感，引導用戶自覺維護社區氛圍。而對于難以判定的內容，平臺也可以通過用戶眾議的方式提高信息甄別的準確性。
在B站，用戶可以自愿加入“風紀委員會”，對全站熱門稿件的氛圍進行眾議投票，包括視頻整體的評論、彈幕氛圍，以及單條評論、彈幕在具體語境下是否適宜，以此甄別不良內容。B站相關負責人在采訪中表示，“今年4月，我們收到部分風紀委員的反饋，希望社區能夠治理數碼區存在的‘帶節奏’引戰攻擊互動問題。5月初B站啟動了數碼區專項治理行動，根據風紀委提報的不良氛圍特征進行總結，交由阿瓦?。ㄔu論審核系統）學習并治理。”
微博相關負責人表示，眾議投票的方式能夠一定程度上降低正常評論被誤傷的情況。“對于難以界定的內容，微博平臺會每日推送給社區委員會成員進行投票眾裁，以最大公允地判定違規行為是否成立。如用戶對站方處置有異議，可隨時進行申訴。”
目前，多個互聯網平臺通過制定社區公約、鼓勵用戶參與社區共治等方式維護社區氛圍，同時以用戶意見建議反哺社區策略調整。
中國傳媒大學新聞傳播學部電視學院教授、媒體融合與傳播系主任顧潔認為，在互聯網綜合治理體系中，網民自律是重要一環。“自律不僅是不做壞事，更重要的是主動去做好事。目前網民參與互聯網治理的力量還沒有被完全發揮出來，隨著網絡志愿文化逐漸深入人心，相信越來越多的網民會積極參與到治理中去。”
隨著個性化算法推薦等技術的普遍應用，網民基于選擇性心理長期只關注自己感興趣的內容，只聽自己認同的觀點。這些觀點不斷重復加深，形成“回音室效應”，可能會加劇群體極化現象。顧潔表示，“信息繭房”“回音室效應”是全球社會都在面臨的問題，互聯網平臺應堅持技術向善，以主流價值觀為導向，為網民提供更多的信息選擇。網民自身也要有意識地“破繭”，拓寬信息視野，了解多元化的聲音，在此過程中進一步提升媒介素養，提高理性思辨能力。
