1996年，美國(guó)麻省理工學(xué)院教授尼葛洛龐帝在《數(shù)字化生存》一書中預(yù)言，“數(shù)字不再只和計(jì)算有關(guān)，它決定我們的生存?！?/p>
二十六年后的今天，數(shù)字時(shí)代給人們的生活方式帶來(lái)巨大變革，媒介作為人的延伸，打破了時(shí)空限制，人與人之間的關(guān)系變得“比特化”，實(shí)現(xiàn)前所未有的聯(lián)結(jié)。暴力的形式也從線下蔓延到網(wǎng)絡(luò)空間，幻化成屏幕上的文字、符號(hào)、圖片……以更隱蔽的方式給當(dāng)事人造成傷害，甚至導(dǎo)致“數(shù)字性死亡”“社會(huì)性死亡”。
自2022年6月起，南財(cái)合規(guī)科技研究院將推出反網(wǎng)暴系列報(bào)道，以期從不同維度、不同面向?qū)W(wǎng)暴的衍生路徑、群體反應(yīng)、治理面向進(jìn)行拆解分析，以媒體力量推進(jìn)網(wǎng)暴治理。
應(yīng)對(duì)網(wǎng)絡(luò)暴力，互聯(lián)網(wǎng)平臺(tái)是第一道防線。在網(wǎng)暴醞釀及初發(fā)階段，各互聯(lián)網(wǎng)平臺(tái)如何設(shè)計(jì)防護(hù)機(jī)制？存在什么難點(diǎn)與痛點(diǎn)？
互動(dòng)管理+信息監(jiān)測(cè)：網(wǎng)暴能否“消音”？
對(duì)于互聯(lián)網(wǎng)平臺(tái)而言，“用戶自主設(shè)置+平臺(tái)介入監(jiān)測(cè)”是事前階段主流的防控模式。
經(jīng)21世紀(jì)經(jīng)濟(jì)報(bào)道記者梳理發(fā)現(xiàn)，在新浪微博、抖音、快手、知乎、小紅書、豆瓣、B站、百度貼吧中，用戶均可以自主管理評(píng)論、私信互動(dòng)關(guān)系。常見的選擇范圍包括所有人、關(guān)注的人、我的粉絲及互相關(guān)注的人，也可以選擇直接關(guān)閉權(quán)限。
相較于評(píng)論，私信場(chǎng)景中的網(wǎng)暴行為更加隱蔽。上述8個(gè)平臺(tái)對(duì)于“未關(guān)注人私信”功能均作出了嚴(yán)格限制，在對(duì)方未關(guān)注或回復(fù)前最多只能發(fā)送一條消息。新浪微博、小紅書、知乎、豆瓣、B站均設(shè)置了類似“未關(guān)注人私信箱”功能，陌生人發(fā)來(lái)的私信將會(huì)被系統(tǒng)收入其中。在抖音、快手，用戶還可以選擇設(shè)置私密帳號(hào)，該功能開啟后，僅粉絲可以瀏覽作品，且新的關(guān)注請(qǐng)求需經(jīng)過(guò)用戶批準(zhǔn)。
新浪微博近期發(fā)布公告，加強(qiáng)言論攻擊及網(wǎng)暴行為治理，調(diào)整私信接收規(guī)則，在接收未關(guān)注人發(fā)送的私信時(shí)，僅顯示1條私信提醒，用戶在確認(rèn)接收后，可查看具體內(nèi)容并進(jìn)行正常文字對(duì)話，單次確認(rèn)有效期為24小時(shí)。
在網(wǎng)暴信息識(shí)別監(jiān)測(cè)方面，21記者設(shè)置了20個(gè)敏感詞，包括常見的攻擊類詞匯以及諧音、換字等更隱秘的表達(dá)，在上述8個(gè)平臺(tái)進(jìn)行測(cè)試，均有不同程度的攔截，且評(píng)論場(chǎng)景中的詞匯攔截率高于私信場(chǎng)景。
在敏感詞測(cè)試中，平臺(tái)過(guò)濾情況大致可分為三類：一是消息可以正常發(fā)送及接收；二是消息發(fā)送后被屏蔽，接收方無(wú)法收到該信息；三是消息發(fā)送失敗。在第一類情況中，部分詞匯會(huì)觸發(fā)風(fēng)險(xiǎn)提示。
經(jīng)記者梳理發(fā)現(xiàn)，貶低矮化類、詛咒威脅類和人身攻擊類詞匯基本能被系統(tǒng)識(shí)別并屏蔽。諧音、縮寫類敏感詞，除了“NMSL”有較高的屏蔽率外，仍有許多諧音詞存在一定識(shí)別難度。
值得注意的是，網(wǎng)絡(luò)暴力的表現(xiàn)形式復(fù)雜多變，某類信息是否涉及網(wǎng)暴，還需結(jié)合具體語(yǔ)境、當(dāng)事人主觀感受等因素進(jìn)行判斷。如“逝者安息”“位列仙班”等，在不同場(chǎng)景下會(huì)產(chǎn)生不一樣的解讀。
據(jù)了解，多個(gè)互聯(lián)網(wǎng)平臺(tái)都在近期調(diào)整優(yōu)化了網(wǎng)暴信息監(jiān)測(cè)機(jī)制。
抖音上線了“發(fā)文警示”“負(fù)向內(nèi)容過(guò)濾”等12項(xiàng)防網(wǎng)暴功能。在“發(fā)文警示”功能下，若系統(tǒng)模型判定已經(jīng)發(fā)送的評(píng)論存在問題，會(huì)推送彈窗提醒，建議發(fā)送者重新編輯，去除不當(dāng)言論。如果發(fā)送者堅(jiān)持發(fā)送，則該條評(píng)論不會(huì)在評(píng)論區(qū)出現(xiàn)。在“負(fù)向內(nèi)容過(guò)濾”功能下，當(dāng)模型判定用戶收到的私信消息為“謾罵或騷擾”，該消息會(huì)被直接放入“陌生人盒子—垃圾信息”中。
B站針對(duì)私信場(chǎng)景上線智能攔截功能，系統(tǒng)將對(duì)檢測(cè)到疑似騷擾或不良的會(huì)話內(nèi)容直接攔截。在評(píng)論、彈幕等場(chǎng)景，用戶可以開啟評(píng)論精選模式、設(shè)置彈幕關(guān)鍵詞以過(guò)濾不良內(nèi)容。據(jù)B站相關(guān)負(fù)責(zé)人介紹，當(dāng)評(píng)論區(qū)集中性出現(xiàn)負(fù)面信息時(shí)，系統(tǒng)會(huì)觸發(fā)一套較為嚴(yán)格的防網(wǎng)暴互動(dòng)管控模型，識(shí)別過(guò)濾不友善內(nèi)容?！捌脚_(tái)還會(huì)通過(guò)抑郁情緒識(shí)別模型去識(shí)別有抑郁傾向的用戶，在發(fā)現(xiàn)相關(guān)內(nèi)容后直接觸發(fā)防網(wǎng)暴模型。如果監(jiān)測(cè)到有關(guān)輕生的內(nèi)容，平臺(tái)會(huì)緊急介入專家進(jìn)行風(fēng)險(xiǎn)等級(jí)判定，與用戶建立聯(lián)系、安撫情緒，必要時(shí)上報(bào)警方處理?！?/p>
作為Z世代高度聚集的文化社區(qū)，B站近期升級(jí)了未成年人保護(hù)機(jī)制。未成年用戶開啟青少年模式后，平臺(tái)將從內(nèi)容、功能等層面進(jìn)行限制，用戶所瀏覽的視頻需經(jīng)內(nèi)容團(tuán)隊(duì)人工審核，評(píng)論、彈幕、私信等功能也會(huì)經(jīng)過(guò)更嚴(yán)格的模型過(guò)濾，降低未成年人受到輿論傷害的風(fēng)險(xiǎn)。
在問答社區(qū)知乎，用戶可開啟“瓦力保鏢”功能，開啟后系統(tǒng)識(shí)別出的不良評(píng)論和私信將會(huì)被折疊、隱藏或刪除，嚴(yán)重者將被拉黑。21記者用兩個(gè)帳號(hào)進(jìn)行測(cè)試，在收到3-4條不友善私信后，系統(tǒng)會(huì)自動(dòng)將對(duì)方帳號(hào)加入黑名單。6月，知乎優(yōu)化“發(fā)文提示”功能，用戶在評(píng)論和私信場(chǎng)景下發(fā)布不友善內(nèi)容時(shí)將會(huì)收到社區(qū)建議修改的提示。在私信場(chǎng)景中，不友善的內(nèi)容將被自動(dòng)折疊并觸發(fā)風(fēng)險(xiǎn)提示，用戶可以自主選擇是否瀏覽消息詳情。
侮辱攻擊類詞匯層出不窮，對(duì)于表達(dá)形式更隱晦的網(wǎng)暴信息，平臺(tái)如何及時(shí)處理？微博相關(guān)負(fù)責(zé)人表示，對(duì)于日常的言論攻擊、泄露隱私、引戰(zhàn)等內(nèi)容，平臺(tái)通過(guò)主動(dòng)巡查、受理用戶舉報(bào)投訴等方式進(jìn)行處置；對(duì)于熱點(diǎn)事件中衍生的網(wǎng)暴行為，平臺(tái)及時(shí)跟蹤、聯(lián)系熱點(diǎn)當(dāng)事人，發(fā)掘相關(guān)線索上報(bào)至監(jiān)管部門；針對(duì)平臺(tái)上的不友善內(nèi)容，微博通過(guò)機(jī)器模型策略、關(guān)鍵詞策略強(qiáng)化內(nèi)容識(shí)別與處置。
百度貼吧方面回復(fù)稱，貼吧有巡查、吧主和吧務(wù)反饋、舉報(bào)、清理回溯等發(fā)現(xiàn)機(jī)制，同時(shí)不斷優(yōu)化內(nèi)容策略，升級(jí)貼吧網(wǎng)暴識(shí)別能力。近期貼吧共擴(kuò)充網(wǎng)暴關(guān)鍵詞近500組，新增圖片黑庫(kù)600余張。
定義之困：網(wǎng)暴的灰色邊界
目前，對(duì)于網(wǎng)暴的定義仍存在一定模糊界限。互聯(lián)網(wǎng)平臺(tái)面臨著一個(gè)繞不開的問題：什么樣的言論和行為能夠判定為網(wǎng)絡(luò)暴力？
在當(dāng)事人社交帳號(hào)下刷屏白色蠟燭表情包，再附上一句“早日安息”。在私信中“提醒”當(dāng)事人，“晚上一個(gè)人出門注意安全，別被車撞了?！庇只蛘呤菍?duì)當(dāng)事人的外貌留下一句輕飄飄的評(píng)價(jià)，“匯集了高科技的臉，一定很貴吧。”……
大量灰色的、難以判定的內(nèi)容形成了一座大山，橫亙?cè)诨ヂ?lián)網(wǎng)平臺(tái)治理網(wǎng)暴的道路中。
微博相關(guān)負(fù)責(zé)人在采訪中告訴21記者，微博平臺(tái)主要治理侮辱謾罵、侵犯隱私、造謠誹謗、貶低羞辱、道德綁架和冒犯騷擾等方面的網(wǎng)暴行為?！熬W(wǎng)暴行為的發(fā)生較隨性和偶然，沒有固定規(guī)律，有時(shí)只因?yàn)橐痪湓?、一個(gè)觀點(diǎn)或一個(gè)表情。平臺(tái)難以及時(shí)發(fā)現(xiàn)和制止。此外，行業(yè)處置未形成統(tǒng)一標(biāo)準(zhǔn)，各平臺(tái)尺度不同，導(dǎo)致處置過(guò)程中也會(huì)存在用戶申訴和投訴的問題?！?/p>
抖音相關(guān)負(fù)責(zé)人表示，平臺(tái)正在不斷加強(qiáng)網(wǎng)暴信息識(shí)別能力建設(shè)，但依然存在一些難點(diǎn)，難以兼顧“快速”與“精準(zhǔn)”。對(duì)于明顯的辱罵、造謠、人身攻擊類言語(yǔ)，平臺(tái)可以明確定義和治理。但另外還有大量惡搞、調(diào)侃類的言論，它們不違法違規(guī)，但對(duì)當(dāng)事人的身心帶來(lái)了實(shí)質(zhì)傷害。比如用當(dāng)事人的臉P成搞怪表情包，用諧音梗進(jìn)行辱罵等等?！熬W(wǎng)暴的界定和識(shí)別是目前的難點(diǎn)之一，在治理過(guò)程中需要結(jié)合受害人具體情況、抗壓能力，信息傳播量級(jí)、傳播速度進(jìn)行個(gè)案分析，這對(duì)平臺(tái)進(jìn)行規(guī)模化、及時(shí)性治理帶來(lái)很大困難?！?/p>
目前司法層面對(duì)網(wǎng)暴尚無(wú)明確界定，更多的是從局部角度進(jìn)行歸納。北京海淀法院專門審理互聯(lián)網(wǎng)案件的法官秦鵬博在此前采訪中表示，“在現(xiàn)有的法律法規(guī)和規(guī)范性文件、指導(dǎo)性文件中缺乏對(duì)網(wǎng)絡(luò)暴力概念內(nèi)涵和外延的規(guī)定，亦缺乏列舉性的規(guī)范方式。”進(jìn)一步明晰網(wǎng)絡(luò)暴力的法律概念，探索專門法的立法模式，是未來(lái)有效治理網(wǎng)絡(luò)暴力的重要途徑。
社區(qū)共治：數(shù)字鄰居的正向聯(lián)合
不同的互聯(lián)網(wǎng)平臺(tái)有各自獨(dú)特的社區(qū)文化。在事前階段，文化建設(shè)作為一種“軟性手段”將分散的用戶聯(lián)結(jié)在一起，強(qiáng)化用戶作為數(shù)字社區(qū)成員的身份認(rèn)同感，引導(dǎo)用戶自覺維護(hù)社區(qū)氛圍。而對(duì)于難以判定的內(nèi)容，平臺(tái)也可以通過(guò)用戶眾議的方式提高信息甄別的準(zhǔn)確性。
在B站，用戶可以自愿加入“風(fēng)紀(jì)委員會(huì)”，對(duì)全站熱門稿件的氛圍進(jìn)行眾議投票，包括視頻整體的評(píng)論、彈幕氛圍，以及單條評(píng)論、彈幕在具體語(yǔ)境下是否適宜，以此甄別不良內(nèi)容。B站相關(guān)負(fù)責(zé)人在采訪中表示，“今年4月，我們收到部分風(fēng)紀(jì)委員的反饋，希望社區(qū)能夠治理數(shù)碼區(qū)存在的‘帶節(jié)奏’引戰(zhàn)攻擊互動(dòng)問題。5月初B站啟動(dòng)了數(shù)碼區(qū)專項(xiàng)治理行動(dòng)，根據(jù)風(fēng)紀(jì)委提報(bào)的不良氛圍特征進(jìn)行總結(jié)，交由阿瓦?。ㄔu(píng)論審核系統(tǒng)）學(xué)習(xí)并治理。”
微博相關(guān)負(fù)責(zé)人表示，眾議投票的方式能夠一定程度上降低正常評(píng)論被誤傷的情況?！皩?duì)于難以界定的內(nèi)容，微博平臺(tái)會(huì)每日推送給社區(qū)委員會(huì)成員進(jìn)行投票眾裁，以最大公允地判定違規(guī)行為是否成立。如用戶對(duì)站方處置有異議，可隨時(shí)進(jìn)行申訴。”
目前，多個(gè)互聯(lián)網(wǎng)平臺(tái)通過(guò)制定社區(qū)公約、鼓勵(lì)用戶參與社區(qū)共治等方式維護(hù)社區(qū)氛圍，同時(shí)以用戶意見建議反哺社區(qū)策略調(diào)整。
中國(guó)傳媒大學(xué)新聞傳播學(xué)部電視學(xué)院教授、媒體融合與傳播系主任顧潔認(rèn)為，在互聯(lián)網(wǎng)綜合治理體系中，網(wǎng)民自律是重要一環(huán)?！白月刹粌H是不做壞事，更重要的是主動(dòng)去做好事。目前網(wǎng)民參與互聯(lián)網(wǎng)治理的力量還沒有被完全發(fā)揮出來(lái)，隨著網(wǎng)絡(luò)志愿文化逐漸深入人心，相信越來(lái)越多的網(wǎng)民會(huì)積極參與到治理中去?！?/p>
隨著個(gè)性化算法推薦等技術(shù)的普遍應(yīng)用，網(wǎng)民基于選擇性心理長(zhǎng)期只關(guān)注自己感興趣的內(nèi)容，只聽自己認(rèn)同的觀點(diǎn)。這些觀點(diǎn)不斷重復(fù)加深，形成“回音室效應(yīng)”，可能會(huì)加劇群體極化現(xiàn)象。顧潔表示，“信息繭房”“回音室效應(yīng)”是全球社會(huì)都在面臨的問題，互聯(lián)網(wǎng)平臺(tái)應(yīng)堅(jiān)持技術(shù)向善，以主流價(jià)值觀為導(dǎo)向，為網(wǎng)民提供更多的信息選擇。網(wǎng)民自身也要有意識(shí)地“破繭”，拓寬信息視野，了解多元化的聲音，在此過(guò)程中進(jìn)一步提升媒介素養(yǎng)，提高理性思辨能力。
更多內(nèi)容請(qǐng)下載21財(cái)經(jīng)APP
