《社科大互聯網法治研究中心:2023互聯網平臺網絡暴力治理機制構建與測評報告(60頁).pdf》由會員分享,可在線閱讀,更多相關《社科大互聯網法治研究中心:2023互聯網平臺網絡暴力治理機制構建與測評報告(60頁).pdf(60頁珍藏版)》請在三個皮匠報告上搜索。
1、互聯網平臺網絡暴力治理機制構建與測評報告中國社會科學院大學互聯網法治研究中心2023.07.13中國社會科學院大學互聯網法治研究中心中國社會科學院大學互聯網法治研究中心長期致力于互聯網法律和政策相關的前沿問題和基礎理論研究,研究團隊涵蓋互聯網犯罪、數據治理、知識產權、平臺治理、競爭法、行政法、電子證據等專業領域,通過課題研究、產業調研、系列沙龍、開放論壇等方式與互聯網理論與實務界展開合作,為立法司法、政府決策、產業發展提供研究支撐,立足于為互聯網領域搭建溝通交流的平臺,促進產業界、理論界以及從事政策制定、執行、司法裁判的相關機構形成持續對話、良性互動和共同研究的長期機制?!盎ヂ摼W平臺網絡暴力治
2、理機制構建與測評報告互聯網平臺網絡暴力治理機制構建與測評報告”課題組課題組課題組負責人:劉曉春課題組成員:姜瀚(協調人)、石嘉浩、張芮、許冷玉潔、金昊堉、鄭開心、李廣釗、朱琳、陳之杞、李凡非、杜天星、楊超然網址:https:/ 年 7 月網絡暴力現象在互聯網絡空間中時有發生,侵害了廣大互聯網用戶的合法權益,擾亂了正常網絡秩序。針對網絡暴力現象的多元治理,是維護互聯網絡空間信息生態秩序健康穩定的題中之義和關鍵所在。2022 年 11 月 4 日,中央網信辦印發關于切實加強網絡暴力治理的通知,提出要切實加大網暴治理力度,進一步壓實網站平臺主體責任,有效保障廣大網民合法權益,維護文明健康的網絡環境。
3、2023 年 6 月 9 日,最高人民法院、最高人民檢察院、公安部三部門起草了關于依法懲治網絡暴力違法犯罪的指導意見(征求意見稿),向社會公開征求意見。7 月 7 日,國家互聯網信息辦公室發布網絡暴力信息治理規定(征求意見稿),提出了“強化網絡暴力信息治理,營造良好網絡生態,保障公民合法權益,維護社會公共利益”的網絡暴力治理目標。對網絡暴力現象進行有效的治理,需要對我國互聯網絡空間網絡暴力現象的特征進行歸納,從生成機制角度對網絡暴力行為和現象加以識別、預防,明確網絡服務提供者的主體責任及其邊界,充分發揮多元主體的治理效能。一、網絡暴力的界定、機制、形態和類型一、網絡暴力的界定、機制、形態和類型
4、(一)網絡暴力的界定和類型(一)網絡暴力的界定和類型近二十年來,互聯網尤其是移動互聯網降低了社會公眾使用網絡的成本,網民數量急劇增加,與此同時,網絡暴力現象在世界范圍內越來越多地進入了公眾視野,對網絡暴力的法律治理、技術治理、平臺規則治理也成為了全球多個法域在互聯網絡信息生態治理層面的共同需求。然而,由于“網絡暴力”這一概念固有的模糊性,其與網絡犯罪、網絡欺凌乃至部分網絡輿論監督之間的區分始終不夠明確,這使得對網絡暴力行為的治理以及相關研究的深入開展面臨難題。1.現有的網絡暴力定義方式及其界定難題由于“網絡暴力”這一概念固有的模糊性,其與網絡犯罪、網絡欺凌乃至部分網絡輿論監督之間的區分始終不夠
5、明確,這使得對網絡暴力行為的治理以及相關研究的深入開展面臨難題。1.現有的網絡暴力定義方式及其界定難題2(1)網絡暴力指通過網絡實現的任何傷害例如,在歐盟委員會一項關于網絡暴力的研究中,網絡暴力被界定為“利用計算機系統造成、促進或威脅對個人的暴力,導致或可能導致身體、性、心理或經濟傷害或痛苦,并可能包括利用個人的情況、特點或脆弱性?!?這一定義方式繞過了對具體行為的描述,從工具(計算機系統)和后果(傷害或痛苦)兩個視角界定了網絡暴力的概念,實現了對網絡暴力行為的全覆蓋,但未能對網絡暴力與網絡上一般性的違法犯罪行為作出區分,對于網絡暴力的治理尤其是技術治理和平臺規則治理方面無法提供具有針對性的參
6、考。(2)網絡暴力是通過某些特定網絡行為實現的特定后果另一類典型的定義思路來自于對具體網絡暴力行為展開討論的研究者,這類定義試圖將其與其他網絡空間的惡意行為區分開,因此采取列舉或窮舉網絡暴力行為的方式界定網絡暴力的內涵。這一類型的嘗試主要見于網絡暴力研究的早期,如將其定義為“包括侮辱、謾罵、網上圍攻、誹謗、惡意暴露個人隱私等人身攻擊、嚴重踐踏網絡文明的網絡事件”2,或描述為“網絡暴力行為人對某種不符合社會道德的行為采用網絡黑客的手段,公布個人隱私,從網上追到網下,并以無形的輿論壓力,造成被害人心理上被強制,進而導致其生理上也被強制的狀態,足以妨礙被害人意思決定自由與依其意思決定其行動的自由”3
7、等。這一定義方式的優勢是能夠將“網絡暴力”的行為限定在特定類型之中,避免因定義的模糊而將其他網絡犯罪行為納入網絡暴力范疇,并且客觀上也將“網絡暴力”一詞所指涉行為的烈度限定在了一定范圍內。但這一定義的問題在于,列舉方式并不能窮盡網暴的所有表現形式,例如,早期以“人肉搜索”為代表的網絡暴力形態與社交媒體、視頻時代網絡暴力的形態已經大不相同。因此,列舉行為的界定方式,存在過于零散而缺少抽象層面概括的問題。(3)網絡暴力是特定機制生成的現象這類思路主要從網絡暴力的生成機制入手加以定義,較具典型參考價值的定義包括“網絡暴力是現實暴力在網絡世界的體現”4或“網絡技術風險與網下社會風險經由1歐盟網絡犯罪公
8、約委員會(T-CY):關于網絡暴力的繪圖研究附 2018年 7 月 9日 T-CY通過的建議,載歐盟網絡犯罪公約委員會網站:www.coe.int/cybercrime,2018年 7月 9 日。2王剛:從“銅須事件”看網絡暴力的成因,載傳媒觀察2007年第 1期。3陳秀麗:網絡暴力現象內涵及原因分析,載成都大學學報(社會科學版)2007年第 5期。4侯玉波、李昕琳:中國網民網絡暴力的動機與影響因素分析,載北京大學學報(哲學社會科學3網絡行為主體的交互行動而發生交疊,繼而可能致使當事人的名譽權、隱私權等人格權益受損的一系列網絡失范行為”5等。這類思路關注網絡暴力“何以生成”,能夠從較深層次對網
9、絡暴力的成因或形態加以概括,因此雖然在精確度上往往不如列舉式定義,但對網絡暴力現象往往能夠提出較為深刻的觀察。(4)網暴、類網暴、非網暴的區分網暴、類網暴、非網暴的區分對于網絡暴力,學界尚且沒有統一標準的定義,但實踐中各主體早已關注并著手解決這一社會問題。2022 年中央網信辦開展了“清朗網絡暴力專項治理行動”,并出臺了關于切實加強網絡暴力治理的通知,在該通知中首次規范界定了網絡暴力行為,即“針對個人集中發布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息,侵害他人合法權益,擾亂正常網絡秩序”。盡管這一界定仍有模糊之處,如“不友善信息”的范圍該如何界定等,但它指出了網絡暴力的核心在于侵害
10、他人合法權益、擾亂正常網絡秩序,因此網絡暴力應當具有群體性、欺凌性、煽動性的特點,且對社會秩序造成損害。2023 年 7 月 7 日,國家互聯網信息辦公室發布網絡暴力信息治理規定(征求意見稿)通知,進一步將網暴明確為“通過網絡對個人集中發布的,侮辱謾罵、造謠誹謗、侵犯隱私,以及嚴重影響身心健康的道德綁架、貶低歧視、惡意揣測等違法和不良信息?!迸c網暴密切相關的另一個概念是類網暴,其表現形式與網暴有很多相似之處,與網暴密切相關的另一個概念是類網暴,其表現形式與網暴有很多相似之處,比如行為的“不友善性”、影響范圍較大、持續時間較久等。類網暴有很多表現形式,如網絡輿論、網絡批評、謾罵等,但類網暴與網絡
11、暴力有兩個重要區別:其一,是否造成了惡意后果;其二,是否符合“巨量”的特征。首先,網絡暴力的關鍵點在于“暴力”,現實中的暴力行為往往出于惡意的目的,并且會造成惡劣影響,但網絡輿論和批評并不能一概而論認定其目的惡意,且輿論往往具有監督作用,如果加以引導甚至可以對社會治理起到正面作用。第二,網絡批評和謾罵有時只是個人行為,盡管表面上可能與“暴力”類似,但由于數量太少,造成的后果并未達到群體性、欺凌性、規模性的特征。因此,類網暴并不能簡單地歸類到“網絡暴力”這一概念之下。由于網暴定義與邊界不清晰,網暴界定與識別存在困難。在許多場景和語境中,以“網暴”為名,消費“網暴”,甚至引發真正“網暴”的行為時有
12、發生應當將由于網暴定義與邊界不清晰,網暴界定與識別存在困難。在許多場景和語境中,以“網暴”為名,消費“網暴”,甚至引發真正“網暴”的行為時有發生應當將版)2017年第 1期。5姜方炳:“網絡暴力”:概念、根源及其應對基于風險社會的分析視角,載浙江學刊2011年第 6期。4這樣的行為界定為消費“非網暴”。所謂的消費“非網暴”是指個別媒體或自媒體,未核查新聞事實直接將事件定性為網暴,或者將事件結果與網暴強行掛鉤的行為,這種行為以“網暴”的名義,混淆了事實,消費了公眾情緒和流量,也加大了治理難度和成本。若是不加區分地將一些批評扣上“網暴”的帽子,則可能會模糊網暴概念與治理邊界。必須指出,網絡暴力不是
13、“籮筐”,不能隨意將爭議事件與網暴不當關聯。在各方尚未達成共識的情況下,應當審慎認定網絡暴力,警惕網暴概念的泛化和濫用,同時平臺和媒體也應加強正向宣導,不應炒作和夸大個別評論的影響力。這樣的行為界定為消費“非網暴”。所謂的消費“非網暴”是指個別媒體或自媒體,未核查新聞事實直接將事件定性為網暴,或者將事件結果與網暴強行掛鉤的行為,這種行為以“網暴”的名義,混淆了事實,消費了公眾情緒和流量,也加大了治理難度和成本。若是不加區分地將一些批評扣上“網暴”的帽子,則可能會模糊網暴概念與治理邊界。必須指出,網絡暴力不是“籮筐”,不能隨意將爭議事件與網暴不當關聯。在各方尚未達成共識的情況下,應當審慎認定網絡
14、暴力,警惕網暴概念的泛化和濫用,同時平臺和媒體也應加強正向宣導,不應炒作和夸大個別評論的影響力。6 6需要明確的是,本報告所針對的對象是治理范圍內的網絡暴力,而類網暴、非網暴在實質上并不屬于網絡暴力的范圍,類網暴與非網暴行為也要排除在此份報告的討論范圍之外。(5)網絡暴力界定的六大難點(5)網絡暴力界定的六大難點目前針對網絡暴力的概念和內涵仍未有明確的規定,界定難成為網暴治理的首要難題。有專家提出,“網絡語言暴力”應包含以下定義要素:第一,語言形式使用負面表達;第二,聚集大量沖擊性語言;第三,對當事人產生巨大負面影響。這種界定對典型的網暴行為可以涵蓋,但仍面臨很多疑難雜癥。如果網暴的定義不能明
15、確,關于網暴的爭論就永遠無法休止。7因網暴難以界定且容易引發社會關注和同情,部分媒體、自媒體可能在未核實基本事實的情況下,將事件結果與網暴強行關聯,形成了以“假網暴”催生真網暴的現象。首先,“風言風語”、“揣測暗示”以及難以準確定義的部分語言暴力是否應納入法律意義上網絡暴力的范疇,是橫亙在網暴治理中懸而未決的難題。首先,“風言風語”、“揣測暗示”以及難以準確定義的部分語言暴力是否應納入法律意義上網絡暴力的范疇,是橫亙在網暴治理中懸而未決的難題。有專家指出,以冷嘲熱諷、煽風點火、風言風語、陰陽怪氣為主的不良信息型網絡暴力違法特征并不明顯,但對當事人造成的傷害不亞于造謠誹謗、侮辱謾罵、侵犯隱私等網
16、絡暴力違法信息。這些難以界定為違法信息的不良信息,是否應受到法律的規制有待進一步討論。8其次,網絡暴力難以有效界定的主要難點和最大問題在于,網絡暴其次,網絡暴力難以有效界定的主要難點和最大問題在于,網絡暴力造成的傷害力造成的傷害6參見評論:警惕網暴概念泛化,當心奇葩言論炒作擠占公共表達空間,載南方都市報2022年 10月 25日,https:/ 關鍵在于明確定義,載人民論壇網 2023年 6 月 26日,http:/ 6月 10日。5是以其規模為基礎的,單次的網絡暴力行為對受害者造成實質性的傷害不像多次行為那么嚴重,而多因一果的邏輯鏈條則使得單一網絡暴力行為的責任非常難以確定,容易帶來追責難題
17、。在具體的網絡暴力事件中,“多對一”行為和結果之間的因果關系很難確定,是以其規模為基礎的,單次的網絡暴力行為對受害者造成實質性的傷害不像多次行為那么嚴重,而多因一果的邏輯鏈條則使得單一網絡暴力行為的責任非常難以確定,容易帶來追責難題。在具體的網絡暴力事件中,“多對一”行為和結果之間的因果關系很難確定,事實上許多案例中,網絡暴力受害者與網絡暴力實施者之間可以實現溝通,但這種溝通覆蓋的范圍注定是狹窄的,最終難以扭轉網絡空間謠言及惡意洶涌的大局。例如在“粉色頭發女孩被網暴去世”一案中,當事人自述其曾與網絡暴力實施者交流并取得一定的澄清效果,但大規模的惡意評論仍然使得其無力招架。第三,從實踐情況來看,
18、一般的量化指標往往難以實現網絡暴力現象的準確界定。從實踐情況來看,一般的量化指標往往難以實現網絡暴力現象的準確界定。例如在“女籃運動員李夢微博遭網暴”一案中“這個銀牌和你關系不大吧?”“發燒打一針不能上場嗎?”“決賽為什么不能拼一下呢?”等攻擊性評論實際占比不足 1%,李夢本人也親自予以反擊,這算不算得上網暴?在李夢事件中,有聲音對相關評論是否屬于網暴范疇提出質疑。從施暴人數、攻擊頻次等因素看,也存在尚待厘清的判定細則比如在單個施暴者和數以千百計的施暴者之間、隨機偶發和持續不斷的網絡攻擊之間,構成網暴的標準幾何,是否應當考慮網暴評論數量以及在整體評論中的占比情況等等。9第四,當事人的主觀感受影
19、響對網暴的認定,網暴界定需要考慮不同情境。第四,當事人的主觀感受影響對網暴的認定,網暴界定需要考慮不同情境。對話者的身份不同,語言中的暴力屬性完全不同,比如一句話用在父母朋友之間可能會認為是開玩笑,但放在陌生人之間就是惡語相向。一些表達可能僅僅會對特定的人帶來傷害,一旦脫離情境,如何用一種普遍性的規則界定其是否為網絡暴力較為困難。如果把負面的、不友好的、不當的評論也納入網暴范疇,可能會進一步縮小言論的邊界,壓縮正常批評的空間。在快速處置與精準處理的雙重訴求下,應賦予平臺一定的試錯空間,不應過度苛責。此外,網絡暴力產生傷害的機制本身也是動態的,一方面,作為個案的網絡暴力現象發展變化很快,有關評論
20、的規??赡茉趲滋靸妊杆倥蛎浀角f級;另一方面,對受害者造成傷害性后果的輿論焦點從事前來看常常難以預測。這種混沌系統的特征使得網絡暴力現象難以在早期識別,也很難在現象早期通過某種單一手段的介入實現正向引導。第五,多數情況下網絡暴力的表現形式是言論,這使得單次的網絡暴力行為與許多輿論監督乃至公共議題的一般討論很難區分開。由于網民數量較多,網絡監管具有客觀的局限性,網絡服務提供者很難在第一時間制止一些不良行為,也很難把握言論第五,多數情況下網絡暴力的表現形式是言論,這使得單次的網絡暴力行為與許多輿論監督乃至公共議題的一般討論很難區分開。由于網民數量較多,網絡監管具有客觀的局限性,網絡服務提供者很難在
21、第一時間制止一些不良行為,也很難把握言論9參見評論:警惕網暴概念泛化,當心奇葩言論炒作擠占公共表達空間,載南方都市報2022年 10月 25日,https:/ 1855期第 2版。7侵權或犯罪行為。侵權或犯罪行為。聚集型網絡暴力應當具有以下特點:(1)網絡暴力所涉言論、行為等本身不具有道德正當性,且無法解釋為某種通過網絡實現的公眾監督;(2)孤立的單項言論或行為不符合法定違法或犯罪行為的構成要件,亦一般不會對受害人造成實質的生理或精神損害;(3)達到聚集規模后會對受害人造成實質的生理或精神損害。(1)網絡暴力所涉言論、行為等本身不具有道德正當性,且無法解釋為某種通過網絡實現的公眾監督;(2)孤
22、立的單項言論或行為不符合法定違法或犯罪行為的構成要件,亦一般不會對受害人造成實質的生理或精神損害;(3)達到聚集規模后會對受害人造成實質的生理或精神損害。該定義從網絡暴力損害后果的生成機制入手,將網絡暴力與通過網絡實現的暴力犯罪、主要由線下欺凌轉入線上的未成年人網絡欺凌、正當的網絡輿論監督等都作了區分,特別是從治理角度,將網絡暴力治理的目標行為從模糊的灰度地帶剝離出來加以探討,試圖為治理體系和指標的建立提供概念基礎。(二)網絡暴力的發生機制(二)網絡暴力的發生機制1.我國網絡環境的現實特征從傳統時代的書面及線下交流,到網絡時代的貼吧、微博、微信、短視頻等,都是語言暴力發生的場所,也是語言暴力在
23、網絡空間的延續和發展。1.我國網絡環境的現實特征從傳統時代的書面及線下交流,到網絡時代的貼吧、微博、微信、短視頻等,都是語言暴力發生的場所,也是語言暴力在網絡空間的延續和發展。在國外,網絡暴力還蔓延到元宇宙的虛擬現實空間中。網絡暴力治理是現在以及未來網絡生態治理中不可缺少的一部分。2.網絡暴力發生的成因分析網絡暴力是網絡技術風險與現實社會風險交互重疊的產物。2.網絡暴力發生的成因分析網絡暴力是網絡技術風險與現實社會風險交互重疊的產物。網絡暴力的成因極具復雜性,深受社會倫理及現實、網民心理及情緒等問題影響??梢哉f,網絡暴力是諸多社會問題在網絡平臺的投射。網絡暴力防控與網絡文明專題調查報告顯示,網
24、絡暴力的產生多因并存,既有網絡環境內生性的原因,也有網民素質、社會法治等外部因素。其中,網民素養不足、相關事件認識不清草率評論是最突出的原因,這兩項分別占比 69.16%和 68.04%。網絡暴力是諸多社會問題在網絡平臺的投射。網絡暴力防控與網絡文明專題調查報告顯示,網絡暴力的產生多因并存,既有網絡環境內生性的原因,也有網民素質、社會法治等外部因素。其中,網民素養不足、相關事件認識不清草率評論是最突出的原因,這兩項分別占比 69.16%和 68.04%。另有 58.91%的受訪網民認為網絡管理制度和道德約束的缺乏也是造成網絡暴力的一大因素。此外,情緒宣泄、誤解、跟風站隊等也是誘發網絡暴力的重要
25、原因,相關占比超過半數。網民素養、法治建設等問題疊加網絡環境的虛擬屬性共同造成網絡暴力的產生,治理網絡暴力也需多方發力,綜合施策。網民素養、法治建設等問題疊加網絡環境的虛擬屬性共同造成網絡暴力的產生,治理網絡暴力也需多方發力,綜合施策。(1)發生過程網絡暴力是由語言和各種各樣的信息所營造、裹挾、助推的“軟暴力”,在網絡8上的具有“誹謗性、誣蔑性、侵犯名譽、損害權益和煽動性”的言論、文字、圖片、視頻或各種信息形式整合在一起的內容。本研究通過對發生在 20012023 年的 77 件主要“網絡暴力”事件進行分析、比較,歸納出網絡暴力在發生過程中的以下特點,并具體總結出受網絡暴力的人群特征、網絡暴力
26、實施者的行為模式、網絡平臺及媒介的傳播效應。首先,受網絡暴力的人群具有一定特征,網絡暴力受害人為公眾人物、熱點事件卷入者、具有特定組群身份的人,主要涉及明星娛樂、社會民生、涉政府官員。其次,實施網絡暴力人群的行為模式,從網絡暴力事件的統計來看,其具體實施的網絡暴力行為包括言語暴力、人肉搜索、隱私泄露、引導到線下的惡性行為。其中實施者的身份具有匿名性與虛擬性,發表具有攻擊性、侮辱性、煽動性言論或不當的極端言論。本研究通過對發生在 20012023 年的 77 件主要“網絡暴力”事件進行分析、比較,歸納出網絡暴力在發生過程中的以下特點,并具體總結出受網絡暴力的人群特征、網絡暴力實施者的行為模式、網
27、絡平臺及媒介的傳播效應。首先,受網絡暴力的人群具有一定特征,網絡暴力受害人為公眾人物、熱點事件卷入者、具有特定組群身份的人,主要涉及明星娛樂、社會民生、涉政府官員。其次,實施網絡暴力人群的行為模式,從網絡暴力事件的統計來看,其具體實施的網絡暴力行為包括言語暴力、人肉搜索、隱私泄露、引導到線下的惡性行為。其中實施者的身份具有匿名性與虛擬性,發表具有攻擊性、侮辱性、煽動性言論或不當的極端言論。此外通過人肉搜索,侵犯到受害者的隱私權和個人信息,出現從線上行為蔓延到線下的趨勢。形式包括文字私信謾罵、詞條侮辱、圖片惡搞、視頻惡意剪輯、彈幕刷屏,甚至借助深度偽造的 AI 技術等實現網暴目的。網絡暴力具有不
28、同類型,結構性暴力和事件性暴力并發,同類事件多米諾效應顯著,而實施網絡暴力的人群則有“低齡化”趨勢。網絡暴力具有不同類型,結構性暴力和事件性暴力并發,同類事件多米諾效應顯著,而實施網絡暴力的人群則有“低齡化”趨勢。最后,體現了網絡平臺媒介的傳播效應,目前網絡暴力事件輿情的演化階段更加復雜,基本可分為輿情發酵期、輿情形成期、輿情上升期、輿情轉變期、網絡暴力形成期、輿情消退期、網絡暴力平息期。(2)發生機制的分析在網絡文化角度,網民構成極具復雜性,受教育程度、價值觀以及情感認識都存在很大的不同,網絡環境魚龍混雜。部分網民的言行表明了其媒介素養的缺失,媒介素養是一種能夠成熟判斷信息的能力,當某一事件
29、發生時,有媒介素養的人會獨立理性思考,辨別正反方信息,尋找自己的立場;而缺失之人則會被信息洪流席卷,反復橫跳,容易成為網絡暴力的幫手。在網絡文化角度,網民構成極具復雜性,受教育程度、價值觀以及情感認識都存在很大的不同,網絡環境魚龍混雜。部分網民的言行表明了其媒介素養的缺失,媒介素養是一種能夠成熟判斷信息的能力,當某一事件發生時,有媒介素養的人會獨立理性思考,辨別正反方信息,尋找自己的立場;而缺失之人則會被信息洪流席卷,反復橫跳,容易成為網絡暴力的幫手。網絡正逐漸成為具有不同觀念和教育背景的人的重要發聲地,網絡時代將“民意”匯聚公共空間,私人極端言論也同樣進入公共領域。虛擬身份具有匿名性與虛擬性
30、,匿名化弱化了網民對自身真實身份的認知,他們利用網絡的匿名性來隱藏自己,逃避制裁。此外,匿名化、網絡泛化、網絡暴力與各種所謂的“文化”結合,例如“飯圈文化”,形成站隊效應和極化效應,網絡暴力也離不開各種有形的信息和無形的“推手”。在傳播學角度,個體很容易在從眾心理與共情驅使下,投入所謂的“主流”觀點。當這種觀點在失去理性思考之后,無論事情是否真實,網民極易做出語言暴力行為,破壞原本和諧的社會秩序。這使得在網絡時代公共空間施暴者們的“群起而攻之”對在傳播學角度,個體很容易在從眾心理與共情驅使下,投入所謂的“主流”觀點。當這種觀點在失去理性思考之后,無論事情是否真實,網民極易做出語言暴力行為,破壞
31、原本和諧的社會秩序。這使得在網絡時代公共空間施暴者們的“群起而攻之”對9于當事人通常是“單方面的碾壓”,不論當事人如何解釋,他們總能源源不斷地制造刷屏般的失控,掌握話語權,當事人有苦說不出卻也辯理無人尋,從而產生“沉默的螺旋”效應,人們為避免成為眾矢之的,或放棄表達,或加入群體,從而網暴的聲音會在不斷消除異己的過程中壯大力量。于當事人通常是“單方面的碾壓”,不論當事人如何解釋,他們總能源源不斷地制造刷屏般的失控,掌握話語權,當事人有苦說不出卻也辯理無人尋,從而產生“沉默的螺旋”效應,人們為避免成為眾矢之的,或放棄表達,或加入群體,從而網暴的聲音會在不斷消除異己的過程中壯大力量。所以,我們通???/p>
32、到的公眾輿論不一定是集體理性的結果,更多情況下可能是怕被視為“異己”、“另類”后的趨同行為。大量互聯網用戶聚集的討論空間,被帶有偏頗導向性的信息內容占據,損害網絡空間的風氣,甚至誘發網民采取非理性的線下行為。在這個過程中一般會出現兩種情形,共同加速以情緒為主導的網絡暴力蔓延。首先,身為個體的網民在看到與自身持有相同觀點的群體時,就相當于找到了“組織”,通常不會對當事人發表攻擊性言論的個人,在受到群體感染時,容易產生群體極化行為。此時的觀點表達已非個體,而是群體的一種聲音。其次,當這種群體非理性的聲音不斷擴大占據主要輿論時,理性聲音就會被誤傷甚至被壓制。久之,網絡上就只存在一種聲音,這反而鼓舞了
33、群體進一步擴大聲勢,不斷裂變,加速網絡暴力傳播。從眾與共情心理會讓個人聚集為群體并產生雙重壓力,使得個人與集體裹挾著向前。在自媒體爆發的時代,部分自媒體通常會使用駭人驚聞的標題、片面或夸大的信息和充滿爭議性的內容來吸引流量,構成事件拐點。在自媒體爆發的時代,部分自媒體通常會使用駭人驚聞的標題、片面或夸大的信息和充滿爭議性的內容來吸引流量,構成事件拐點。其觀點契合部分網民的情緒,言論不斷裂變傳播,影響擴大,網絡暴力也就接踵而至。參與討論的大量網民已經習慣帶著預設立場去判斷,選取對自己有利的信息碎片和角度,將互聯網信息平臺作為“虛擬法庭”,將自己想象為法官或人民陪審員,在網絡社交平臺盡情展示自己的
34、話語權與價值立場,毫無顧忌地用情感和道德評判去碾壓對手和涉案事件的當事人,形成顯著的多米諾效應。在互聯網平臺治理角度,存在技術防護架構及平臺治理標準參差不齊、網暴行為跨平臺傳播的問題。在互聯網平臺治理角度,存在技術防護架構及平臺治理標準參差不齊、網暴行為跨平臺傳播的問題。中國逐步進入移動互聯網時代,以用戶生產內容為核心特征的社交網絡平臺如雨后春筍般出現,它們中的一些開放性強、交互強的平臺也成為網絡暴力新的集散地,網暴容易跨平臺相互流轉。而平臺作為治理者,在法律尚有空白時,面臨如何承擔應責任與期望的難題。同時,網絡暴力乃至網絡治理問題從來不是單一方能夠解決的問題,未來需要建立的是多方協同的預防處
35、理機制。在法律救濟角度,由于網絡空間的空間虛擬性、主體隱蔽性、群體參與性、內容模糊性等特征,網絡暴力判別尺度、界定治理等方面都存在一定難度,在民法上“海恩法則”(該法則強調兩點:一是事故的發生是量的積累的結果;二是再好的技術,再完美的規章,在實際操作層面,也無法取代人自身的素質和責任心)與“涌現”現象結合使得侵權法系統運行成本超出運行收益導致的侵權法失靈。而在刑法上網絡暴而平臺作為治理者,在法律尚有空白時,面臨如何承擔應責任與期望的難題。同時,網絡暴力乃至網絡治理問題從來不是單一方能夠解決的問題,未來需要建立的是多方協同的預防處理機制。在法律救濟角度,由于網絡空間的空間虛擬性、主體隱蔽性、群體
36、參與性、內容模糊性等特征,網絡暴力判別尺度、界定治理等方面都存在一定難度,在民法上“海恩法則”(該法則強調兩點:一是事故的發生是量的積累的結果;二是再好的技術,再完美的規章,在實際操作層面,也無法取代人自身的素質和責任心)與“涌現”現象結合使得侵權法系統運行成本超出運行收益導致的侵權法失靈。而在刑法上網絡暴10力中的“暴力”并非規范術語,網絡空間相關的約束和懲戒時常難以發揮作用,網絡暴力成本低且代價小。再加上網絡匿名性與網暴單向性,這成為施暴者們肆無忌憚發表攻擊性言論的重要原因。力中的“暴力”并非規范術語,網絡空間相關的約束和懲戒時常難以發揮作用,網絡暴力成本低且代價小。再加上網絡匿名性與網暴
37、單向性,這成為施暴者們肆無忌憚發表攻擊性言論的重要原因。(3)機制間的協同作用從發生機制來看,網絡暴力是多方面綜合作用的結果,其中有屬于預防層面的網絡文化、傳播學特點,也有治理機制的失靈情況,致使傷害擴大、事件升級。其中既有網民個人的非理性表達,也有網絡媒體的推波助瀾;既有政府部門的管理盲區,也有平臺社區因界定難而產生的操作難點、無所適從,或個別中小平臺的不當縱容。網絡暴力是多種機制共同作用產生的結果,相對應的,治理網絡暴力也需要構建多元主體共同參與的協同治理體系。3.網絡暴力發生機制的結果及后續影響網絡暴力是多種機制共同作用產生的結果,相對應的,治理網絡暴力也需要構建多元主體共同參與的協同治
38、理體系。3.網絡暴力發生機制的結果及后續影響(1)對被網絡暴力人群的影響網絡暴力通常會對受害者造成名譽受損、心理傷害。受害者可能因為刺激的言語而不堪其辱,輕者產生抑郁心理,重者輕生。(2)網絡生態環境極端化縱然有網絡暴力的存在,我們也仍能看到一些理性的民意表達。網絡公共領域實際上更具有便捷性和優越性,提供了相對充分的公共討論空間。然而網絡暴力事件中網民的極化現象更加明顯,也可能會催生出新的“網絡暴民”人格。網絡暴力事件在挑起群體對立和價值觀沖突的過程中,網民被單向信源點燃憤怒之情,在網絡空間盡顯撕裂和沖突,其爆發、蔓延與擴張演變為情緒主導。在傳播過程中,當信息匯聚引發輿論時,網絡集群效應下的群
39、體容易盲目性從眾,出現大量不理智的情緒化傾向與極化行為,以“執法者”、“正義守衛者”的心態侵犯他人的個人權利。如果任由其泛濫,損害的不僅是個體權利,還有社會賴以生存和發展的個體尊嚴與自由,以及社會的基本秩序。(三)網絡暴力的表現形態(三)網絡暴力的表現形態1.依據網暴對象劃分表現形態1.依據網暴對象劃分表現形態通過對 20012023 年網絡暴力事件的大致梳理,依據網絡暴力受害者生活和職業的不同,劃分為明星網紅領域、政府官員領域、社會民生領域、特定群體領域。20012007 年網絡暴力發生頻率較低,主要集中在社會民生領域;2007 年“華南虎”11事件以來,公職人員領域明顯增多,并隨著服務型政
40、府的深入推進逐漸減少;2014 年“文章出軌”事件引起社會廣泛關注,明星網紅領域伴隨我國媒介產業市場化程度的加深甚囂塵上,數量激增;近年來自媒體的異軍突起,將普通民眾卷入輿論風波,社會民生領域與日俱增,與明星網紅領域交替成為網絡暴力的中心,而特殊群體領域也出現增多趨勢。近年來自媒體的異軍突起,將普通民眾卷入輿論風波,社會民生領域與日俱增,與明星網紅領域交替成為網絡暴力的中心,而特殊群體領域也出現增多趨勢。(1)明星網紅領域:公眾人物或網紅的負面新聞與普通人相比,明星網紅作為頗具影響力的公眾人物,有著各自的“人設”,一向是大眾關注的焦點。然而互聯網作為一個“放大鏡”,在增強明星光環影響力的同時,
41、也將其缺點暴露在公眾視野。一旦產生負面輿情事件,極易誘發民眾的非理性情緒,導致網絡暴力在明星網紅領域頻發。自 2014 年“文章出軌”事件以來,一系列“出軌門”被曝光占據各大新聞媒體頭條,“馬蓉出軌”“林丹出軌”“劉愷威出軌”迅速引爆網絡輿論場,“王寶強離婚案”甚至被多家國外媒體報道,帶來一場場災難性的娛樂窺探和隱私泄露。此外,隨著自媒體的興起,網紅也成了網絡暴力的重災區。網紅 saya 打孕婦、“辣筆小球”道歉等事件層出不窮,風波難平。(2)社會民生領域:悲劇人物、同情弱勢群體、違背主流價值觀的爭議事件、博眼球炒作等社會民生一直都是網絡暴力活躍的主要領域,普通人的生活難題容易涉及一些“結構性
42、”的社會問題、政策漏洞甚至是制度缺陷,引起大眾的共鳴,社會民生一直都是網絡暴力活躍的主要領域,普通人的生活難題容易涉及一些“結構性”的社會問題、政策漏洞甚至是制度缺陷,引起大眾的共鳴,如“珞珈山炮王事件”“優衣庫事件”“上海地鐵色狼案”體現了網民對日常事件的關注。近年來隨著視頻類信息的增多,越來越多的普通人生活被記錄下來,在“沉默螺旋”“回聲室效應”“群體極化”的作用下,容易成為網絡暴力的受害者。(3)特定群體領域:飯圈、地域歧視等拉仇恨行為特定群體領域主要指的是一些長期存在、有個性標簽等的少數群體。比如性少數群體、不同膚色群體、熊孩子群體、女權群體、飯圈群體等。如 2020 年的“肖戰 22
43、7事件”,引起了飯圈群體和耽美愛好群人的傾軋,從一開始的肖戰粉絲網暴耽美群體和 AO3 平臺,再到耽美群體網暴肖戰,引發民眾廣泛關注。2.依據網絡暴力參與者身份劃分表現形態2.依據網絡暴力參與者身份劃分表現形態在網絡暴力事件中,網絡施暴者的身份并不特定且多為匿名,但仍可基于與被施暴者的關系,主要分為熟人網絡暴力和陌生人網絡暴力。共同之處是施暴者都是對事件當事人進行人身攻擊,惡意詆毀,甚至是對事件當事人進行“人肉搜索”,將其真12實身份、姓名、照片、生活細節等個人隱私公布于眾。不同之處主要是熟人和陌生人實施網絡暴力的目的不同,曝光的個人隱私的程度存在區別。(1)熟人網絡暴力網絡暴力事件中“熟人作
44、案”的情況十分普遍。涉網絡暴力訴訟案件主要集中于熟人之間,雙方或為鄰居或為朋友,也有可能是互相了解的企業,因生活中發生的某些矛盾和競爭目的導致網絡言論失格。在熟人網暴中最為典型的是校園欺凌轉化型,即校園暴力往往會蔓延到網絡空間的暴力。2019 年,聯合國兒童基金會警告稱,全球 70.6的 15 至 24 歲年輕網民正面臨著網絡暴力、欺凌和騷擾的威脅。2017 年,教育部等十一部門印發加強中小學生欺凌綜合治理方案明確規定網絡欺凌是一種新型校園欺凌形式。比如,武漢市高一學生李林被同校學生通過“網上懸賞”組織起來的多名施暴者網暴。又比如,蘇州大學 2019 級某商學院男生從 2022 年 5 月開始
45、,利用高中、大學的同學,甚至是多年好友在朋友圈分享的照片 PS 處理后,配以虛構的文字描述,在色情網站上發布十一篇帖子,在不雅網站上公然造謠污蔑了他人的清白,從而使對方遭受到嚴重的損失和傷害。為此,該男生被網友群起攻之,最終也被學校退學處理。但是該男子在受到網絡暴力后,感到痛苦,轉而又通過各種手段來繼續攻擊他人。又比如,2019 太原師范學院校園暴力案件,網民“王芝芝會有狗的”的同宿舍女生多次扒掉她的衣服并錄制視頻,甚至將偷拍的裸露照片和視頻上傳至多人 QQ 群中,導致該女生患上重度抑郁。該事件后被曝光,施暴者迅速成為被網暴的對象。因此,有時被網絡暴力的人,可能一開始是施加危害行為的人,但是不
46、能因其犯錯誤而使其遭受網絡暴力,對這類人群被網暴也應采取相關的措施予以關注,而不是任由其走向下一個網絡暴力。成年人之間的熟人網暴也十分嚴重。此類型大部分網絡暴力事件發生是基于報復心理,表現為微信朋友圈、業主群造謠辱罵他人、曝光對方個人信息等等。比如,雙方本是上下樓鄰居,因瑣事導致鄰里關系不睦,進而因一時沖動在網絡上發布不當言論,導致雙方矛盾更為激化。成年人之間也可能基于嫉妒的心理實施網絡暴力。比如,2022 年 9 月 21 日,文春在線報道了源田選手的妻子、衛藤美彩(29 歲)生育后在Instagram 上受到了西武隊內野手山田遙楓的妻子長達 2 年的誹謗中傷,期間衛藤美彩的居住地址,孩子狀
47、況,丈夫工作的信息被她不斷曝光?;谶@種熟人關系的特點,當事人一旦成為網絡暴力的對象,不僅會對當事人名譽權造成侵害,更可能對當事人的精神造成極大創傷。(2)陌生人網絡暴力13相比于線下暴力,在匿名狀態下在網上對陌生人施暴的行為是難以被追蹤的。并且很多網友認為在網絡上發布的個人的言論,屬于個人行為,不會對他人造成傷害,但有時卻會不經意轉變為一場公開的論戰,特別是網民采用一些激進的表達時,更是會成為網絡暴力的導火索。不同于熟人之間網絡暴力目的的明確性,陌生人之間的網絡暴力事件中,相當一部分施暴者是基于無聊,又或者是因孤獨或被孤立而掙扎的人,想要通過對他人的抨擊使得內心得到滿足。社群網站是陌生人網絡
48、暴力誕生的主場,如貼吧、論壇、社交媒體等等。不同于熟人之間網絡暴力目的的明確性,陌生人之間的網絡暴力事件中,相當一部分施暴者是基于無聊,又或者是因孤獨或被孤立而掙扎的人,想要通過對他人的抨擊使得內心得到滿足。社群網站是陌生人網絡暴力誕生的主場,如貼吧、論壇、社交媒體等等。這些社群網站具有留言板、日志、投票等多種功能,為網絡暴力的出現提供了媒介,施暴者可以較為隨意地留下非理性的評論。在這些社群網站中,陌生人對于相關的圖片、視頻中涉及的人物并不了解,但仍評頭論足,產生侮辱謾罵、惡意攻擊、不實言論等信息的行為。比如,在名為“孫笑川吧”的貼吧中,用戶曾經經常從其他平臺中將一些女性的照片搬運過來,評論區
49、內布滿帶有侮辱性以及人身攻擊性的語言。一個女孩簡簡單單的自拍可以被罵 11420 貼。比較特殊的是通過技術手段入侵網課,實施網絡暴力。這種情況雖不常見,但是陌生人介入網課這種較為私密空間實施網絡暴力的行為需著重注意。比如,河南鄭州新鄭三中的歷史老師的網課遭到了網暴入侵,從多條網課直播錄屏中,存在陌生人進入劉老師的網課課堂,故意搞破壞,通過語音辱罵、共享屏幕干擾課件投屏、放哀樂、說葷段子、散發淫穢色情視頻等多種方式侮辱教師。3.依據網暴實施手段劃分表現形態3.依據網暴實施手段劃分表現形態現代人已經進入“數字化生存”狀態,每個人在網絡上的行為舉止都留有數字痕跡,一旦觸發特定的條件,就有可能成為網絡
50、暴力的“集火點”,輕則受到惡性言論的侮辱,重則被“人肉搜索”,更有甚者,網絡暴力滲透到現實空間,導致線下惡性事件的發生。(1)惡性言論:捏造事實侮辱誹謗類當下,某些疑似違背常理常情或法律的事件被傳入網絡,有可能引發矛盾和情緒,引起廣泛關注和激烈討論,作為風口浪尖的當事人往往會遭受非理性情感宣泄的惡性言論,被“沉默螺旋”和“群體極化”效應下的網民們沖擊。網民們站在道德的制高點或在使命感的美化下,憑借自身的價值觀和道德理論對網絡暴力當事人進行大肆評論、謾罵、詆毀、嘲諷,已然成為網絡空間的一種常態化、病態化現象。由于互聯網去中心化的特性,個體可以在高度匿名的網絡空間中成為網絡暴力的發源地和“助推器”
51、,甚至在網絡暴力的群情激奮下收獲巨額流量和收益,導致惡性言論極具傳播力、殺傷力和破壞性,致使被網暴者身心重創,甚至抑郁自殺。如 2023 年的“粉紅頭發女14孩遭遇網暴事件”,24 歲女研究生被大量惡性言論侮辱,諸如染發“不正經”,不配做老師等等,最后導致她抑郁自殺。(2)隱私泄露和個人信息侵害類網絡空間信息發達,任何人都可以突破時空的限制一鍵檢索信息,其成本接近于零,個體的真實姓名、家庭住址、電話號碼、婚姻狀況等信息在網絡上曝光,但實施“人肉搜索”的行為卻是高度隱秘的,網民可以利用網絡強大的信息聚攏作用,不負責任地將當事人的照片、視頻等個人信息泄露到網絡,形成一張實質性的“通緝令”,對當事人
52、的個人隱私造成嚴重的侵犯,甚至令其身敗名裂,“社會性死亡”。如 2007年的“中國人肉搜索第一案”,姜巖“死亡博客”的發布引爆網絡,群情激奮之下,網民將其丈夫王菲的個人信息,私人住址、電話號碼、戶口本、身份證曝光,遭受四個多月網絡暴力后的王菲患上了抑郁癥,最終選擇了法院訴訟維權的道路。(3)引導向線下惡性行為線下惡性行為是網絡暴力中對當事人傷害最直接、最惡劣、最難以躲避的一種類型,它不僅僅涉及矛盾糾紛的層面,更可能違反法律,甚至觸犯刑法。線下惡性行為一般以隱私泄露為前提,通過前期的人肉搜索,當事人的家庭地址等空間信息被散布在網絡,當失去理智的網民,特別是一些群體極化下的網民群體掌握到這些信息后
53、,并被網絡暴力引導向線下行為,當事人很可能遭受現實生活中的暴力。如 2020 年的“山東理工學生虐貓事件”,事件發生后,當事人的真實姓名、身份證號、照片、電話、住址被上傳到網絡,當事人不僅遭受來自線上的微博私信、短信、電話的網絡暴力轟炸,而且其中一些人的老家被人寄去了祭祀用品,其母親也接到騷擾電話,生活陷入混亂。4.依據網絡暴力實施的載體劃分表現形態4.依據網絡暴力實施的載體劃分表現形態通過對 2001-2023 年的網絡暴力事件梳理,在互聯網平臺,主要是以文字、圖片、視頻、音頻等方式而實施侮辱、誹謗、威脅、惡意詆毀他人形象等行為都屬于網絡暴力的范疇。(1)以文字語言為形式的網絡暴力網絡暴力最
54、普遍的形式為文字語言,其中發帖發文、評論區留言評論是網暴重災區,對網暴者來說成本很低、指向性明確且網暴者本人曝光量不多,隱蔽性較強。從網絡構建伊始的聊天室,到現在評論新聞時事的社交媒體,都可以發現無邏輯性甚至無目的性的攻擊性語言,這些網絡虛擬空間里的攻擊性語言往往會導致現實中的惡果。從網絡構建伊始的聊天室,到現在評論新聞時事的社交媒體,都可以發現無邏輯性甚至無目的性的攻擊性語言,這些網絡虛擬空間里的攻擊性語言往往會導致現實中的惡果。15據抖音安全中心統計,其平臺每天產生 8 億條評論,其中,被投訴、舉報并最終處理的評論中,“謾罵,人身攻擊”占比 32.79%。據抖音安全中心統計,其平臺每天產生
55、 8 億條評論,其中,被投訴、舉報并最終處理的評論中,“謾罵,人身攻擊”占比 32.79%。由于侵權主體眾多,難以劃分責任,很多互聯網平臺的評論區成為不少實施網暴者心目中的“絕佳場所”。比如,B 站 UP 主“卡夫卡松餅君”因肺癌離世,許多網友在她的微博下留言悼念,其中一條充滿惡意的熱評十分刺眼,只有短短五個字“開香檳慶?!?。松餅君生前經歷了多次網暴,她的最后一條微博寫道:“很多事情都是沒輪到自己頭上,所以能在旁邊為虎作倀,叫嚷熏天”。再比如,一網友通過微博客類社交平臺發布“抱怨飛機毛毯少”相關博文,吐槽坐飛機太冷沒拿到毛毯,順手了民航官博,沒想到這一情緒表達在互聯網上引火上身,“巨嬰”、“矯
56、情”等負面情緒詞撲面而來,成為網友抨擊的對象。此前,私信轟炸進行網絡暴力較為常見,但是近幾年互聯網平臺對陌生人之間發送私信都進行一定的限制,因此通過該途徑實施網暴的數量此前,私信轟炸進行網絡暴力較為常見,但是近幾年互聯網平臺對陌生人之間發送私信都進行一定的限制,因此通過該途徑實施網暴的數量較少。特別指出的是朋友圈并不算是嚴格意義上的私密場所,在朋友圈發布的視頻、信息,也會被轉載傳播。雖然是一人發布,但卻被多人廣泛傳播。較少。特別指出的是朋友圈并不算是嚴格意義上的私密場所,在朋友圈發布的視頻、信息,也會被轉載傳播。雖然是一人發布,但卻被多人廣泛傳播。比如,在最高檢發布的第三十四批指導性案例中,第
57、 137 號案例“郎某、何某誹謗案”。被告人郎某在被害女子取快遞時偷拍視頻,并與何某編造被害女子出軌快遞小哥等聊天內容,后謠言轉發至網絡后不斷發酵,導致被害女子工作、生活受到嚴重影響,遭遇“社會性死亡”。又比如,浙江杭州一個年輕女孩去門口取快遞時遭到便利店老板偷拍。該老板其后編造虛假的微信聊天記錄,炮制出“富婆出軌快遞小哥”的劇情,并配以女孩的影像資料發至網上。在并未弄清真相的情形下,眾多網友就掀起對這個女孩的無情鞭撻。女孩經此打擊丟了工作、找新工作又被拒,并最終罹患抑郁癥。在接受媒體采訪時,這個女孩坦陳這種網暴已使自己“社會性死亡”。(2)以視頻或圖片信息為形式的網絡暴力以視頻或圖片信息形式
58、實施網絡暴力成本較高、針對性不強、目標較大。通常呈現以下幾種模式:第一,錄制或剪輯短視頻發布至平臺。最常見的就是將校園毆打他人的視頻上傳。如,2016 年湖南某校學生將毆打同學的視頻上傳網絡并進行廣泛傳播。又或者通過對視頻惡意剪輯進行惡意“錘人”。比如,2018 德陽女醫生自殺事件,該事件當事人男孩的家人將剪輯過的游泳池視頻發布在微博上,刻意隱瞞事實真相。網絡上充斥著對安醫生及其丈夫鋪天蓋地的辱罵、譴責。最終,安醫生因不堪輿論壓力服藥自殺;第二,在網絡平臺評論或上傳照片。如“史上最毒后媽”案中,發帖人張貼了被打女童口吐鮮血的照片,網友紛紛對當事人“最毒后媽”群起攻之,后續證明為小女孩自己跌倒摔
59、傷所致;第三,將圖片制作成表情包。比如,徐州市某學生表示:“他們不僅嘲笑我的長相,還把我的照片傳到網路上,做成表情包”。16(四)網絡暴力的傳播節點(四)網絡暴力的傳播節點大數據時代下,網絡空間內充滿各類信息,網絡輿情則是各類信息的匯集與融合,其大致存在與信息相同的從產生、使用、維護、存檔到刪除的生命周期。因此基于信息生命周期理論,網絡暴力可以分為潛伏發酵期、規模擴大期及消退恢復期等三個階段。各個階段存在著不同的特征,同時各網絡平臺對不同階段也存在不同的治理手段及治理經驗。1.潛伏發酵期1.潛伏發酵期(1)特征在潛伏發酵階段中,網絡暴力經常會出現在負向行為、爭議事件、熱點話題、道德綁架以及偏見
60、歧視等話題中。同時在話題討論的初期,平臺對于網絡暴力行為難以進行詳細辨別。其原因在于,相關話題可能產生于平臺內用戶好友之間,但隨著話題的進一步傳播可能逐漸出現圈層式的擴散,導致更多人關注該話題的討論與爭議,進而可能演化成網絡暴力。同時,網絡暴力在發酵潛伏期中往往引起一定范圍內的輿情主體的關注,引發較小范圍內的爭論,但暫時并沒有引起較大風浪。隨著網民不斷交流在潛伏發酵階段中,網絡暴力經常會出現在負向行為、爭議事件、熱點話題、道德綁架以及偏見歧視等話題中。同時在話題討論的初期,平臺對于網絡暴力行為難以進行詳細辨別。其原因在于,相關話題可能產生于平臺內用戶好友之間,但隨著話題的進一步傳播可能逐漸出現
61、圈層式的擴散,導致更多人關注該話題的討論與爭議,進而可能演化成網絡暴力。同時,網絡暴力在發酵潛伏期中往往引起一定范圍內的輿情主體的關注,引發較小范圍內的爭論,但暫時并沒有引起較大風浪。隨著網民不斷交流,個人意見逐步匯集、趨同形成意見群體,沉默螺旋效應現象也隨之凸顯。輿情主體在此階段可能受到已有的觀點的影響,產生從眾心理,因而新觀點的提出者不斷減少。,個人意見逐步匯集、趨同形成意見群體,沉默螺旋效應現象也隨之凸顯。輿情主體在此階段可能受到已有的觀點的影響,產生從眾心理,因而新觀點的提出者不斷減少。1111目前研究表明,潛伏發酵期的未來發展可以分為兩種,“快速成長階段”和“緩慢成長階段”?!翱焖俪?/p>
62、長階段”的傳播方式屬于裂變式傳播,在短時間內容易形成大范圍輿情危機,更容易導致網絡暴力的發生;而“緩慢成長階段”由于主體對其反映的事件的敏感性和參與性積極性不高,傳播速度較為緩慢,此階段輿情爆發力不足,容易受到平臺方的控制,因此引發網絡暴力的可能性較低。目前研究表明,潛伏發酵期的未來發展可以分為兩種,“快速成長階段”和“緩慢成長階段”?!翱焖俪砷L階段”的傳播方式屬于裂變式傳播,在短時間內容易形成大范圍輿情危機,更容易導致網絡暴力的發生;而“緩慢成長階段”由于主體對其反映的事件的敏感性和參與性積極性不高,傳播速度較為緩慢,此階段輿情爆發力不足,容易受到平臺方的控制,因此引發網絡暴力的可能性較低。
63、(2)相關治理經驗在網絡暴力的潛伏發酵期階段,平臺提前采取措施進行預防以免相關輿論事件的進一步擴大,以避免網絡暴力的爆發。因此,一些平臺如微博、小紅書、抖音、bilibili 等,均采取“優化互動功能”的方式,調整接收評論和私信的范圍與方式,從而減少陌生人的評論或私信打擾。在網絡暴力的潛伏發酵期階段,平臺提前采取措施進行預防以免相關輿論事件的進一步擴大,以避免網絡暴力的爆發。因此,一些平臺如微博、小紅書、抖音、bilibili 等,均采取“優化互動功能”的方式,調整接收評論和私信的范圍與方式,從而減少陌生人的評論或私信打擾。例如,微博可以對“哪些人可以評論我的微博可以收到哪些人的私信”進行設置
64、,當私信設置為只接受“我關注的人和關注我 7 天以上的粉絲的消息時,為避免打擾,僅顯示 1 條未關注人發送的私信提醒,點擊確認接11晏敬東,楊彩霞,張煒南.基于生命周期理論的微博輿情引控研究J.情報雜志,2017,36(08):88-93+75.17受后,可正常接收并查看該條私信”。抖音已經上線了社交對象授權、用戶風險提醒和負向內容過濾等功能。簡單的說,就是用戶可以對私信對象進行設定,可設置為所有人、互關好友或關閉三種狀態。同時,當用戶收到可能包含風險的私信時,抖音會發出提醒。此外,抖音還上線了私信的臨時對話設定功能。即陌生人每次只能向單個用戶發送少量信息,用戶回復后,陌生人才能與其臨時對話,
65、有效期為 24 小時,超時后重新申請。這樣的功能,幫助用戶過濾掉來自各方的不當言論,很大程度上避免了網暴的發生。平臺也依靠自動識別技術進行攔截,利用關鍵詞過濾系統,對一些不友善內容進行風險提醒,以起到提醒和保護用戶的作用。平臺也依靠自動識別技術進行攔截,利用關鍵詞過濾系統,對一些不友善內容進行風險提醒,以起到提醒和保護用戶的作用。例如,貼吧平臺中為用戶建立網暴信息防護屏障,如果平臺方識別到用戶發布涉嫌網暴的信息,會自動攔截該條私信內容,并對用戶發出提示,請用戶友善發言;同時也建立網暴應急響應機制,百度將對平臺的網暴信息進行檢測,對網暴行為及時介入并進行干預。平臺與用戶進行協同管理網絡輿論環境,
66、如微博針對部分用戶開放“微博協管員”的功能,博主可自行邀請粉絲對其評論、超話、粉絲群場景進行管理,協助刪除博主評論區下對社區氛圍造成不良影響的評論內容等。2.規模擴大期2.規模擴大期(1)特征在規模擴大階段,網民們針對爭議事件等產生的對立意見,最終被廣泛認可的一方占據主導地位從而得到進一步傳播。由于網絡中沒有統一的評判標準及沉默的螺旋效應,若對該事件的意見為對事件當事人的惡意批評與指責,則可能加深對當事人的網暴程度。隨著信息的加速傳播,各營銷號、大 V 等自媒體的加入,網民群體乃至線下公民的關注熱情持續提升、關注度不斷上漲,從潛伏發酵期到規模擴大期大約 7 日左右,將達到輿論的頂峰。在規模擴大
67、期,對當事人的惡意評論呈倍數增長,且大部分評論屬于極端惡意評論,對當事人造成極大程度上的侵害。在這一階段,輿論當事人將面對數量龐大的惡意評論,對其身心健康造成巨大影響。在規模擴大期,對當事人的惡意評論呈倍數增長,且大部分評論屬于極端惡意評論,對當事人造成極大程度上的侵害。在這一階段,輿論當事人將面對數量龐大的惡意評論,對其身心健康造成巨大影響。(2)相關治理經驗在規模擴大期階段,平臺將限制對相關爭議事件的進一步傳播,通過降低推薦、強制刪除下架等方式進而避免網暴進一步擴大。如抖音平臺開設的“抖音小安一鍵防網暴功能”,當開啟一鍵防護功能,用戶在 7 天內不會收到選擇人群外用戶發送的私在規模擴大期階
68、段,平臺將限制對相關爭議事件的進一步傳播,通過降低推薦、強制刪除下架等方式進而避免網暴進一步擴大。如抖音平臺開設的“抖音小安一鍵防網暴功能”,當開啟一鍵防護功能,用戶在 7 天內不會收到選擇人群外用戶發送的私18信、彈幕及評論,最大限度減少平臺用戶所受的網暴程度。同時部分平臺還設置“當用戶收到大量非正常評論時,會彈窗提示用戶是否開啟“一鍵防護”的功能,當功能開啟后,將“只允許我關注的人評論我”和“只允許我關注的人給我發私信”。平臺內部還常設“黑名單制度”,鼓勵用戶在面對網絡暴力等相關違規內容進行舉報,并提供相關詳細信息。信、彈幕及評論,最大限度減少平臺用戶所受的網暴程度。同時部分平臺還設置“當
69、用戶收到大量非正常評論時,會彈窗提示用戶是否開啟“一鍵防護”的功能,當功能開啟后,將“只允許我關注的人評論我”和“只允許我關注的人給我發私信”。平臺內部還常設“黑名單制度”,鼓勵用戶在面對網絡暴力等相關違規內容進行舉報,并提供相關詳細信息。對多次發布不當信息的用戶限制私信功能,如果系統識別到用戶多次發布不當信息,發信人私信功能將被暫停使用一段時間。同時,平臺也暢通舉報通道,如快手在客戶端首頁正式開通“網絡暴力有害信息”受理熱線并在舉報類型中增設“網絡暴力有害信息”模塊。用戶可撥打投訴熱線“01051751865”對網暴內容進行投訴,快手將第一時間受理和處置。抖音增加用戶舉報網暴行為的入口。同時
70、,其客服電話和舉報郵箱也會實時接收和處理針對網暴的舉報。3.消退恢復期抖音增加用戶舉報網暴行為的入口。同時,其客服電話和舉報郵箱也會實時接收和處理針對網暴的舉報。3.消退恢復期(1)特征在爭論事件的討論達到頂峰后,輿情熱度開始下降。在這一階段中,對該爭議事件已經形成主導意見,關注度已經達到最大規模,影響力和擴散能力不斷縮小。同時,部分網民對該爭論事件感到疲憊、失去興趣和新鮮感,停止對其的關注與表達,因此對爭論事件當事人的網絡暴力程度逐步降低,最后其逐漸淡出大眾視野。平臺在這一階段,對網絡環境進一步進行修復,更好地營造健康清朗的網絡環境。但值得關注的是,對該事件的關注度衰退之后,仍可能回歸潛伏發
71、酵期,從而引發新一輪的熱議,對被網暴當事人可能造成二次傷害。(2)相關治理經驗平臺在這一階段主要會對當事人進行心理安撫,并為其進行疏導,關注用戶訴求點,對用戶賬號進行保護。平臺在這一階段主要會對當事人進行心理安撫,并為其進行疏導,關注用戶訴求點,對用戶賬號進行保護。如在快手平臺中,被網暴用戶出現對抑郁等內容檢索時,平臺會立即提示“別怕,我們都在”標語,并提供 24h 免費心理危機咨詢熱線。同時,平臺會適時采取報警等方式進行處理,加強對被網暴網民的保護,防止出現意外事件。抖音安全中心聯合字節跳動公益、AI-lab 等團隊組成專項小組,為用戶提供心理關懷服務。同時平臺對被網暴網民提供舉證維權的協助
72、功能。同時平臺對被網暴網民提供舉證維權的協助功能。在“微博”平臺中。用戶可以通過該功能批量多選“聊天證據”進行投訴,從而提高投訴取證速度,舉證內容可支持文本信息、圖片信息、語音信息等。在“bilibili”中,平臺提供法律手段維權指導,幫助被網暴用戶維護自身權益,同時也提供后續運營的指導,幫助用戶在危機后19快速回復賬號的正常運營。在微信平臺中,用戶可以在視頻號私信場景,點擊對方頭像,選擇舉報按鈕,可快捷選擇聊天記錄快速進行舉報;在短視頻、直播等評論環節,對于誘導逼迫自殘自殺的信息,平臺在管控的同時還移交到相關部門依法追究法律責任。(五)網絡暴力的治理之困(五)網絡暴力的治理之困網絡暴力本質上
73、是語言暴力在網絡空間中的呈現,平臺是治理網絡暴力的重要環節。我國監管執法要求平臺建立健全網暴預警預防機制,加強內容識別預警,構建網暴技術識別模型,建立涉網暴輿情應急響應機制;強化網暴當事人保護,設置一鍵防護功能,優化私信規則,建立快速舉報通道;嚴防網暴信息傳播擴散,加強評論環節管理,加強重點話題群組和版塊管理,加強直播、短視頻管理,加強權威信息披露;而且要分類處置網暴相關賬號,依法從嚴處置處罰。網絡暴力的泛在特征與邊界不明,給網絡平臺治理網絡暴力帶來困難。首先,網絡暴力具有規模性、隱匿性、海量性、圈層性、微暴力等特征,識別和判斷網絡暴力并不容易。網絡暴力與網民正常言論表達、公眾輿論監督之間的界
74、限并不是清晰可辨的。由于網絡暴力的識別存在難度,要求平臺對一切網絡暴力的發生負責,結果可能是平臺方的過度刪除,帶來寒蟬效應,要求平臺針對海量的網絡互動場景一律作出精準判斷,存在較大操作難度。12其次,平臺處理快速聚集的網暴時難以兼顧“快速”與“精準”。在重大事件中,不斷反轉且難辨真偽的新信息,也會增加平臺治理難度。在不同場景、人際關系、個人主觀感受下,“網暴”與“非網暴”往往難以明確區分。第三,網絡平臺對不同程度的網暴言行,處罰措施各不相同。在處理快速聚集的網暴時,平臺難以兼顧“快速”與“精準”,一些難以避免的錯審、漏審也容易引發公眾不滿。第四,網暴治理過程中涉及公開數據和私有數據,基于個人信
75、息和隱私保護的考慮,平臺治理網絡暴力并不能主動監測和分析受害者個人信息特別是私密信息。第五,網暴行為越來越多在不同平臺互相流轉,僅依靠單一平臺難以根治網絡暴力。各平臺尺度不同,協同機制還不完善。如果平臺處置缺乏一定依據,有可能面臨12參見劉文杰:治理網絡暴力需要多方協力,載人民政協網 2023年 6 月 9 日,http:/ 1網絡暴力防治措施評價體系概覽1.評估指標分類1.評估指標分類依據治理手段和面向對象的重心不同,可以將上述評估指標分為“前端服務”、“后端技術”、“秩序生成和維持”三類;此外,上述指標涉及兩種評價尺度,一種為平臺是否提供某項服務或是否具備某項功能,另一種是課題組對該項服務
76、或功能的測評與評價。(1)前端服務。前端服務。平臺面向網絡暴力受害者或潛在受害者提供的保護手段,該類手段以“由平臺提供服務、由用戶決定啟用”為主要特征。包括“平臺網絡暴力防治專門產品或技術工具”,如平臺為用戶提供的一鍵防護功能,可以根據用戶自身的意愿及時地阻斷用戶與網暴信息間的接觸,從而達到保護用戶的作用。(2)后端技術。后端技術。平臺針對網絡暴力行為開發的識別和阻斷手段,包括“平臺網絡暴力防治專門產品或技術工具”、“平臺網絡暴力防治專門人員/部門設置”、“事前內容審查和過濾機制”、“網絡暴力重大輿情與極端事件的處置”、“平臺關于謠言治理的技術措施”。(3)秩序生成和維持。秩序生成和維持。平臺
77、面向普通用戶以構建和維持良好網絡社區生態的手段,包括“網絡暴力防治平臺規則、社區公約”“事后投訴和救助機制”“平臺關于優質信息內容創作、用戶評論的激勵措施”“平臺網暴防治的宣傳”。24(4)未成年人保護機制。未成年人保護機制。未成年人的保護涉及未成年人個人信息和隱私保護等特殊問題,情況更為復雜,措施更加嚴苛,因此單獨作為一類指標。2.評估指標測評的內涵、要點和具體測評機制2.評估指標測評的內涵、要點和具體測評機制(1)前端服務該類手段以“由平臺提供服務、由用戶決定啟用”為主要特征,因此從用戶角度出發評價此類平臺網暴治理措施更為適宜。所謂“從用戶角度出發”,即測評者跳出“旁觀第三人”的身份固圈,
78、以用戶個人有限的視角而非旁觀全知全能的視角來設置測評要點。對于平臺提供前端服務的評價維度,包括但不限于“用戶是否能夠自主設置互動功能”、“用戶自主設置互動功能的便捷度”、“用戶是否能夠進行消息偏好設置”。以下,將對其測評的要點和具體測評機制進行詳細闡述。用戶是否能夠自主設置互動功能:互動功能包括但不限于用戶之間的“贊”“評論”“轉發”“私信”“彈幕”,設置互動功能,即對前述互動功能的接收范圍或權限的調整,例如用戶是否可以設置僅關注人可私信。該項評估指標的最高級 A+級為“用戶可以自主設置互動功能”,最低級 B 級為“用戶不能自主設置互動功能”。用戶自主設置互動功能的便捷度:盡管大多數平臺都會為
79、用戶提供自主設置互動功能的服務,但受限于設置互動的簡繁程度和用戶的認知水平,用戶在實際當中很少去應用該服務。因此,設置互動功能的便捷度也是評價平臺網暴治理措施的重要指標。測評互動設置功能的便捷度可以從“互動設置功能的優先級”、“互動設置功能的集中度”等維度考量?;釉O置功能的優先級,或理解為互動功能入口位置與互動環節的級點遠近,例如接收的私信與設置私信功能的入口所需跳轉頁面的多少。該項評估指標的最高級 A+級為“互動環節與互動設置功能在同一界面”以下根據優先級下降依次降分。絕大多數平臺在此項指標下得分較低,主要原因是將互動設置功能過度集中在“設置”當中,未在易于被用戶接觸的互動環節設置跳轉性的
80、鏈接?;釉O置功能的集中度,鑒于互動功能的多樣性,部分平臺的互動設置功能也進行相應的分類,例如對于私信和評論的互動權限設置可能會處在不同的入口,造成了用戶個人在遭受網絡暴力,想要完全阻斷互動環節的難度增大,即用戶可能考慮不到所有互動環節,或可能進行完全互動功能設置的時間過長,導致用戶在自主設置互動25功能的窗口期遭到網絡暴力的傷害。該項評估指標的最高級 A+級為“用戶可以使用一鍵防護功能”,最低級 C 級為“所有互動功能設置完全割裂”。用戶是否能夠進行消息偏好設置:用戶進行消息偏好設置不同于互動功能設置,其實質是一種用戶從平臺過濾機制中獲得的權利讓渡,例如用戶能否自主設置屏蔽詞,過濾個人認為的
81、“不友善內容”?;庸δ艿脑O置,是用戶針對陌生人或未關注人以對象為阻斷目標的保護手段,而進行消息偏好設置,則是用戶以內容為阻斷目標的保護手段,是更加有效的防治網絡暴力的措施。因此,將“用戶是否能夠進行消息偏好設置”作為前端服務的評估指標亦有其重要性。該項評估指標的最高級 A+級為“用戶可以使用消息偏好設置”,最低級 C 級為“用戶不能使用消息偏好設置”。抖音和微博在該項指標下表現良好,用戶能夠自主設置關鍵詞以屏蔽自己認為敏感的內容。bilibili 的關鍵詞屏蔽功能限于彈幕,知乎提供的關鍵詞屏蔽功能采取會員制,在用戶體驗中表現明顯不如適用于所有互動環節、無需附加條件的消息偏好設置。具體測評機制
82、同樣貫徹“從用戶角度出發”的原則。測評者以用戶身份,實際進入社交網絡平臺進行體驗,就上述“用戶是否能夠自主設置互動功能”、“用戶自主設置互動功能的便捷度”(“互動設置功能的優先級”和“互動設置功能的集中度”)、“用戶是否能夠進行消息偏好設置”的具體指標進行操作。(2)后端技術后端技術主要指平臺針對網絡暴力行為開發的識別和阻斷手段,該類技術以平臺層面后臺自動運行、用戶無感啟動為主要特征,包括但不限于“平臺網絡暴力防治專門產品或技術工具”、“平臺網絡暴力防治專門人員/部門設置”、“事前內容審查和過濾機制”、“網絡暴力重大輿情與極端事件的處置”、“平臺關于謠言治理的技術措施”等。具體而言,測評要點和
83、測評機制如下:平臺網絡暴力防治專門產品或技術工具:該項評估指標下設置 2 級測評要點。一是“平臺是否設置網絡暴力防治專門產品或技術工具”,最高級 A+級為“是”,最低級 B 級為“否”。專門產品包括但不限于面向遭受網絡暴力的用戶提供集成服務的專門界面、應對網絡暴力的平臺工具組合等。專門技術工具主要指不需要人工客服或技術人員介入即可運行的自動化技術工具,包括但不限于網絡暴力信息自動識別工具、關鍵詞默認攔截機制等。二是“平臺所提供網絡暴力防治專門產品或技術工具的技術治理實效”,最高級26為 A 級,以下根據實效減弱依次降分。主要測評內容是平臺所提供的專門產品或專門技術在防范網絡暴力行為造成嚴重后果
84、方面是否發揮作用,具體指標包括但不限于應用場景、用戶觸達情況、攔截信息規模、自動識別準確度等。平臺網絡暴力防治專門人員/部門設置:該項評估指標下設置 2 級測評要點。一是“平臺是否為網絡暴力防治設置專門人員及崗位或專門部門及團隊”,最高級 A+級為“是”,最低級 B 級為“否”。網絡暴力防治專門人員及部門指平臺層面專門組織開展網絡暴力防治工作的人員或團隊,不包括處理以網絡暴力為事由投訴舉報內容的客服人員。二是“平臺網絡暴力防治專人或部門統籌平臺資源的權限資格”,包括但不限于是否有權限調取后臺數據、是否有權限審查內容推薦算法,是否有權限對用戶進行訪問或問卷調查等,最高級為 A+級,以下根據網絡暴
85、力防治部門權限減少依次降分。事前內容審查和過濾機制:該項評估指標下設置 3 級測評要點。一是“平臺是否設置事前的內容審查和過濾機制”,最高級 A+級為“是”,最低級 B 級為“否”。二是“平臺的內容審查及過濾是否包括對網絡暴力信息內容的審查與攔截”,最高級 A+級為“是”,最低級 B 級為“否”。三是“平臺的內容審查及過濾對網絡暴力信息的識別及過濾效果”,包括但不限于審查過濾總量、網絡暴力信息識別攔截總量、攔截關鍵詞設置、異常評論規模升級機制等,最高級為 A+級,以下根據過濾效果減弱依次降分。網絡暴力重大輿情與極端事件的處置:該項評估指標下設置 2 級測評要點。一是“平臺是否有應對重大輿情與極
86、端事件的處理機制”,最高級 A+級為“是”,最低級 B 級為“否”。二是“平臺應對重大輿情與極端事件的處理機制是否包括對涉網絡暴力相關事件的應對及治理措施”,最高級 A+級為“是”,最低級 B 級為“否”。平臺關于謠言治理的技術措施:該項評估指標下設置 2 級測評要點。一是“平臺是否有應對謠言傳播的技術措施”,最高級 A+級為“是”,最低級 B級為“否”。二是“平臺謠言治理技術措施的治理實效”,包括但不限于針對謠言內容及傳播鏈路的識別機制、相關責任主體處理機制、平臺巡查機制等,最高級為 A+級,以下根27據治理實效減弱依次降分。(3)秩序生成和維持網絡暴力事件時而發生,重要原因之一在于防治網絡
87、暴力尚未納入現行的法秩序當中,使施暴者受到法律的規制和警告。單一平臺基于用戶協議構建的一般性平臺秩序,不能完全有效地約束或控制網絡暴力的發生和擴散。盡管因此,各平臺也在積極努力,出臺了有關構建和維持防止網絡暴力社區生態的治理措施,包括但不限于“網絡暴力防治平臺規則、社區公約”、“事后投訴和救助機制”、“平臺關于優質信息內容創作、用戶評論的激勵措施”、“平臺網暴防治的宣傳”等。網絡暴力事件時而發生,重要原因之一在于防治網絡暴力尚未納入現行的法秩序當中,使施暴者受到法律的規制和警告。單一平臺基于用戶協議構建的一般性平臺秩序,不能完全有效地約束或控制網絡暴力的發生和擴散。盡管因此,各平臺也在積極努力
88、,出臺了有關構建和維持防止網絡暴力社區生態的治理措施,包括但不限于“網絡暴力防治平臺規則、社區公約”、“事后投訴和救助機制”、“平臺關于優質信息內容創作、用戶評論的激勵措施”、“平臺網暴防治的宣傳”等?,F對上述評估指標的測評要點和具體測評機制進行詳細闡述。網絡暴力防治平臺規則、社區公約:該項評估指標下設置 3 級測評要點。一是“平臺用戶服務協議中是否涉及防治網絡暴力的內容”,最高級 A+級為“是”,最低級 B 級為“否”。平臺會在用戶注冊賬號時,要求用戶勾選“同意該平臺用戶服務協議”,在平臺用戶服務協議中會對用戶要求行為規范,否則平臺有權在不事先通知的情況下終止向用戶提供服務,并依法追究相關責
89、任。盡管絕大多數平臺均能在用戶服務協議當中考慮到防治網絡暴力的內容,但實際上,除了極少數契約意識較強的用戶會認真閱讀并嚴格遵守用戶服務協議外,對于大多數用戶而言,用戶服務協議形同虛設,不具有約束力,并未認識到用戶服務協議作為平臺停止服務的合法性來源的重要地位。二是“平臺是否出臺關于網絡暴力防治的專項政策”,最高級 A+級為“是”,最低級 B 級為“否”。鑒于用戶服務協議對于用戶的約束作用有限,平臺應當就其中的重點內容向用戶進行提醒或強調,使用戶知悉平臺對于網絡暴力防治的要求和規范。三是“平臺網絡暴力防治平臺規則或社區公約內容的合理性”,包括但不限于明確性、約束力和其他要素作為測評內容合理性的參
90、考維度。明確性要求平臺網絡暴力防治規則內容具體可適用,該維度下的最高級 A+級為“平臺規則對平臺認定網絡暴力行為作出明確清晰的規定,用戶能依據平臺規則用戶準確判斷識別網絡暴力行為”;最低級 C 級為“平臺規則僅提及禁止網絡暴力,而不對網絡暴力作任何有利于用戶理解的解釋”。雖然在當前階段,平臺難以對“網絡暴力”這一概念的內涵做出準確的定義,但是平臺掌握了大量網絡暴力行為的一手資料,可以從網絡暴力行為的具體表現角度,盡量對“網絡暴力”概念的外延澄清,從而便于知悉規則內容的用戶明確自身行為是否屬于網絡暴力行為的判斷。雖然在當前階段,平臺難以對“網絡暴力”這一概念的內涵做出準確的定義,但是平臺掌握了大
91、量網絡暴力行為的一手資料,可以從網絡暴力行為的具體表現角度,盡量對“網絡暴力”概念的外延澄清,從而便于知悉規則內容的用戶明確自身行為是否屬于網絡暴力行為的判斷。約束力要求平臺網絡暴力防治規則內容附帶相28應的責任條款,該維度下的最高級 A+級為“平臺規則明確規定用戶實施網絡暴力行為后對后果承擔的責任,并依據行為惡劣性和后果嚴重程度作出合理的梯度區分”;最低級 C 級為“平臺規則無任何用戶實施網絡暴力行為后造成的后果或應承擔責任的內容”。約束力一般包括“自律的約束力”與“強制的約束力”。平臺向用戶展示網絡暴力行為造成的實質性后果,可以對用戶產生出于同理心和道德感的自律的約束力;平臺向用戶明確網絡
92、暴力行為應承擔的責任,如禁言、封號等,可以對用戶產生基于雙方達成共治協議的強制的約束力。在該指標下,除抖音在網絡暴力防治平臺規則的明確性和約束力兩個維度上都表現良好外,測評的其他平臺或者二者偏重其一,或者二者皆評價較低。事后投訴和救助機制:網絡暴力行為的實施可能會對被網暴者造成經濟利益的損失和精神名譽的傷害。網絡暴力事件之后,平臺應盡力恢復被破壞的社區秩序,為被網暴者和其他用戶提供投訴、舉報的途徑,并對未得到平臺及時保護的被網暴者提供相應的救助。事后投訴:事后投訴是除了平臺監測外,識別網絡暴力行為的有效手段,被網暴者和其他用戶可以通過投訴向平臺反映,并期望進入實質維權環節。該項評估指標下設置
93、2 級要點。一是“平臺是否提供專門的網絡暴力投訴渠道”,最高級 A+級為“是”,最低級 B 級為“否”。部分平臺在投訴的窗口中,并未將“網絡暴力”單獨列為一個分類,將網絡暴力涵蓋的行為分解到了其他投訴類型當中。首先,這種做法可能會使用戶對于網絡暴力行為的理解產生偏差,因為其他投訴的行為類型無法完全涵蓋網絡暴力行為;其次,平臺設置投訴行為類型的目的是方便快速、集中地處理相似性質的投訴,平臺應當為網絡暴力行為的投訴提供專門的渠道或分類,有利于及時、準確地處理相關投訴。二是“平臺事后投訴機制的時效性與準確性”,平臺應對投訴一般采用機器處理與人工處理兩種方式,機器處理的時效性強,處理速度快,人工處理的
94、準確性高,誤判概率小。該項指標的最高級 A+級為“網絡暴力投訴處理及時、準確”;最低級 C 級為“機器處理與人工處理在時效性和準確性上均存在嚴重缺陷”,根據機制的時效性與準確性依次降級呢。提高機器處理的準確性和人工處理的時效性,是平臺在投訴機制完善的兩大方向。測評者通過企業調研的方式,了解平臺企業使用機器處理和人工處理的具體情形,以模擬網暴行為的方式分別測試機器處理的準確性和人工處理的時效性。事后救助:事后救助既包括對被網暴者心理疏導的救助,又包括為被網暴者提供法律服務的救助。該項評估指標下設置 4 級要點。一是“平臺是否提供心理疏導相關的救助”,最高級 A+級為“是”,最低級 B 級為“否”
95、;二是“平臺提供心理疏導相29關救助的形式”,主要參考維度為救助形式的互動性和有效性,目前平臺采用的心理疏導的形式根據上述維度,從最高級 A+級到最低級 C 級依次是“平臺提供線上心理疏導中心為用戶提供單獨的心理疏導”、“用戶與人工智能聊天交互式的心理服務”、“圖文或視頻形式的心理疏導小貼士”、“無心理疏導類服務”;三是“平臺是否提供取證服務及取證的便捷度”,最高級 A+級為“平臺向用戶提供一鍵取證服務,便于其尋求法律幫助”,最低級 C 級為“平臺無取證相關的救助服務,為用戶自主取證帶來巨大困難”。四是“平臺是否提供法律咨詢服務或將相關案件移交司法部門”,平臺雖然不能代替受害者直接向網暴者控訴
96、,但是可以通過向用戶提供網絡暴力相關的法律咨詢或主動將相關案件移交司法部門的方式,間接地幫助被網暴者通過法律武器捍衛自身權益,實現從維持平臺網絡社區秩序向介入國家現實法律秩序的交接。平臺網暴防治的宣傳與平臺關于優質信息內容創作、用戶評論的激勵措施平臺除了維持和恢復遭到破壞的防治網絡暴力社區秩序外,也應主動地引導用戶自發地鞏固當前良好的社區秩序。這類治理措施主要包括以全體用戶為對象的“平臺網暴防治的宣傳”與“平臺關于優質信息內容創作、用戶評論的激勵措施”。一是“平臺是否進行網絡暴力防治的宣傳”,最高級 A+級為“是”,最低級 B 級為“否”。二是“平臺網絡暴力防治宣傳的用戶觸達情況及社區氛圍的用
97、戶感知”。本項測評要點主要以用戶調查問卷的方式進行,實質是對平臺關于網暴防治宣傳有效性、轉化率等維度的測評,最高級為 A+級,以下根據用戶觸達和感知度下降依次降分。三是“平臺是否有關于網暴防治優秀內容創作與用戶評論的激勵措施”,最高級A+級為“是”,最低級 B 級為“否”。本項測評要點中提及的“激勵”,主要為實質獎勵性的引導,如賦予優秀創作者更高的“流量”或設置獎金等。(4)未成年人保護機制未成年人作為網絡暴力尤其是網絡欺凌的受害群體和施暴群體,具有在平臺層面加以額外保護以及額外監督的必要性。對于未成年人用戶的保護機制,測評內容主要包括平臺網絡暴力防治機制與平臺“未成年人模式”(或“青少年模式
98、”“青少年防沉迷系統”等)的兼容情況、未成年人賬號發布含個人信息內容時的安全提示情況、未成年人用戶綁定監護人賬號的比例、未成年人涉網絡暴力侵害或受害的心理疏導機制等,最高級為 A+級,以下根據未成年人保護合規水平降低依次降分。3.測評機制3.測評機制30(1)邀請平臺提供有關基礎防網暴產品或技術工具開發應用情況、網絡信息內容人工審核機制的覆蓋情況、平臺規則和平臺社區規范關于反網暴治理的規則建設情況、謠言治理情況、優質信息內容創作激勵情況、未成年人專門保護情況的說明,通過外部機構測評的方式加以測評考察;(2)邀請有代表性特點的用戶群體參與調查,對平臺關于反網暴治理的效果、用戶遵守平臺規則及平臺社
99、區規范的情況進行測度和考察;(3)通過虛擬用戶注冊新賬號的形式測試平臺關于用戶賬號的實名要求、平臺基礎防網暴產品啟動/關閉的便捷性、用戶關于防網暴措施的決定權、心理咨詢的供給情況、舉報投訴機制的反應時效、未成年人模式的專門保護情況等,主要以“有/無”或“達標/不達標”作為輸出結果加以評價;(4)專家調研訪談并根據調研情況給出專家鑒定意見。需要說明的是,“對行業具參考價值的做法、表列范圍外測評指標表現”一項,主要涵蓋了測評體系中因資料調取難度較大而未能完整測評的指標,如事前針對涉網暴信息內容識別攔截的實效、事后投訴舉報處理的實效、優秀內容創作和用戶評論激勵措施、是否設置網暴防治專員或專門部門、網
100、暴防治宣傳的用戶觸達情況等;測評團隊依據平臺測評情況,對在網絡暴力防治措施方面作出了行業前沿實踐探索的平臺給予了相應的賦分。4.初步測評結果整體而言,我國抖音、快手、知乎、微博、嗶哩嗶哩等頭部平臺在網絡暴力防范治理機制的技術治理和平臺規則治理層面,功能上已經初具規模、初具體系。4.初步測評結果整體而言,我國抖音、快手、知乎、微博、嗶哩嗶哩等頭部平臺在網絡暴力防范治理機制的技術治理和平臺規則治理層面,功能上已經初具規模、初具體系。在中央網信辦發布關于切實加強網絡暴力治理的通知后,各主流網絡服務提供平臺積極響應,從技術治理和平臺規則治理兩方面入手,在前端服務、后端技術、秩序生成與維持以及未成年人保
101、護等方面盡到了充分的平臺責任。在前端服務、后端技術、秩序生成與維持以及未成年人保護等方面盡到了充分的平臺責任。通過調研分析發現,與國際相比,我國部分治理措施在技術應用和治理實效方面已經達到了相當的水準。我國部分治理措施在技術應用和治理實效方面已經達到了相當的水準。具體測評情況如下:(1)前端服務:國內主流的頭部網絡服務提供平臺在用戶自主設置互動功能、具體防網暴設置的操作便捷程度以及提供給用戶的消息偏好設置權限等方面都取得了較高的評價等級。以“抖音小安”為代表的綜合性網絡暴力防護功能集成產品以及允許用戶自行調整互動開放性的保護策略兼容了受害者主觀認定標準,在充分尊重個人信息的基礎上最大限度地實現
102、了網絡暴力的個體差異化防護。31(2)后端技術:由于大多數技術指標需要向平臺后臺調取而無法以用戶身份直觀測度,部分網絡服務提供平臺的技術指標尚待進一步調取資料測評。項目組對國內各主流平臺在網絡暴力防治專門產品或技術工具的開發、專門人員或專門團隊設置、涉網絡暴力信息審查和過濾機制、網絡暴力重大輿情應急處置機制、謠言治理技術措施等方面進行了綜合測評。測評到的網絡服務提供平臺均開發了網絡暴力防治專門產品或技術工具并投入使用,調研資料顯示以抖音為代表的頭部平臺已經在涉網絡暴力信息內容識別、異常流量數據識別、謠言治理和算法推薦邏輯優化等方面進行了較為有效的機制設置,明確了平臺內部關于涉網絡暴力信息內容的
103、分類分級標準、攔截過濾機制及不同等級信息內容的處理方式,在充分尊重用戶自主選擇權的基礎上充分發揮算法在異常流量監控、信息實時反饋方面的網絡環境輔助治理效能。(3)秩序生成與維持:調研顯示,除微博用戶協議未涉及網絡暴力防治、也未向網絡暴力受害者提供心理疏導外,我國頭部的網絡服務提供平臺均已將網絡暴力防治義務納入平臺規則或社區公約,并為網絡暴力受害者提供用戶可主動發起的心理疏導。在優質內容創作者激勵方面,網絡服務平臺普遍提供網絡暴力防治的宣傳激勵,總體的用戶觸達情況尚待進一步調查統計,但部分頭部平臺實際觸達率已達到用戶總規模的 30-40%。此外,部分頭部平臺建立了明確的網絡暴力案件線索移交機制,
104、將平臺巡查到的涉網絡暴力違法犯罪案件線索提交給網信、公安等部門。(4)未成年人保護:國內各頭部平臺未成年人模式(或“青少年模式”“青少年防沉迷系統”等)的落實情況較好,通過設置監護人權限管理、用戶間社交功能限制等方式,為未成年人模式下的用戶提供了較為充分的網絡暴力防護,部分具體機制和措施的應用及普及情況尚待進一步資料調取。5.測評主要結論5.測評主要結論依據團隊測評及調研,可歸納出國內頭部平臺網絡暴力治理措施的以下特征國內頭部平臺網絡暴力治理措施的以下特征:首先,從合規舉措角度來從合規舉措角度來看,現階段經過網信部門主導的集中治理,各平臺在網暴治理基本功能上大體都已經完備合規,基本功能在形式上
105、均已具備???,現階段經過網信部門主導的集中治理,各平臺在網暴治理基本功能上大體都已經完備合規,基本功能在形式上均已具備。具體表現為,多數平臺在后端技術方面的供給已經滿足外部可直接觀察到的技術需求,總體得分較高,且在未成年人保護領域整體合規情況較好,但在前端服務和平臺上用戶社區秩序的生成和維持方面則仍存在若干不足之處。下一步有必要從治理效能角度出發,追求“形式合規”之上更好的網暴防治實際效果。例如在平臺規則已經明確、網絡暴力受害者保護技術措施已經設立的基礎上,網絡服務提供者有必要加強宣發推廣,以增強用戶實際的感知。例如在平臺規則已經明確、網絡暴力受害者保護技術措施已經設立的基礎上,網絡服務提供者
106、有必要加強宣發推廣,以增強用戶實際的感知。32其次,從治理措施角度來看,各頭部平臺網絡暴力治理措施的同質化程度較高,但并未完整覆蓋網絡暴力治理的所有環節。測評團隊發現,以平臺互動設置功能的集中度、網絡暴力防治宣傳情況,以及大部分可測度的后端技術指標等為代表的,現階段較為成熟的特定技術措施或評估內容,往往在行業大多數平臺都能實現較高水平的對齊或普及;而互動功能設置的優先級、社區公約中網絡暴力治理相關內容的合理性等柔性或偏實質的指標,則存在改進空間。這反映了平臺自行探索創新治理措施的積極性有待充分開發。其三,從測度手段角度來看,通過平臺公示公開資料和用戶賬號可明確驗證的治理措施以形式合規為主,實質
107、性治理措施往往無法通過外部測評驗證治理實效。從治理措施角度來看,各頭部平臺網絡暴力治理措施的同質化程度較高,但并未完整覆蓋網絡暴力治理的所有環節。測評團隊發現,以平臺互動設置功能的集中度、網絡暴力防治宣傳情況,以及大部分可測度的后端技術指標等為代表的,現階段較為成熟的特定技術措施或評估內容,往往在行業大多數平臺都能實現較高水平的對齊或普及;而互動功能設置的優先級、社區公約中網絡暴力治理相關內容的合理性等柔性或偏實質的指標,則存在改進空間。這反映了平臺自行探索創新治理措施的積極性有待充分開發。其三,從測度手段角度來看,通過平臺公示公開資料和用戶賬號可明確驗證的治理措施以形式合規為主,實質性治理措
108、施往往無法通過外部測評驗證治理實效。例如,平臺所提供網絡暴力防治專門產品或技術工具的技術應用情況、平臺是否為網絡暴力防治設置專門人員及崗位或專門部門及團隊、平臺網絡暴力防治專人或部門統籌平臺資源的權限資格、平臺的內容審查及過濾對網絡暴力信息的識別及過濾效果、平臺事后投訴機制的時效性與準確性、平臺是否提供法律咨詢服務或將相關案件移交司法部門、平臺網絡暴力防治宣傳的用戶觸達情況及社區氛圍的用戶感知、平臺是否有關于網暴防治優秀內容創作與用戶評論的激勵措施等重要測評指標,均屬于平臺應當掌握且能夠有效標示網絡暴力治理情況的指標,由于測評手段有限,本報告中未能進行相關指標的測度。最后,從具體平臺的測評情況
109、來看,抖音平臺各方面得分普遍較高且相對均衡,尤其是在平臺網絡暴力治理專門崗位或部門的權限設置、投訴機制的時效性和準確性、網絡暴力宣傳防治宣傳及平臺規則的觸達情況等實質性合規和治理指標上得分較高,其做法在整個行業具有參考意義。微博平臺在涉網絡暴力取證服務及其便捷性方面具有較強的服務功能,在網絡暴力防治平臺規則設計、社區公約內容等方面上具有較好的治理效果,具有行業參考意義。知乎和快手平臺在外部測評可接觸的范圍內較為均衡且整體表現較好,其中快手在平臺心理疏導機制的提供上則有較具參考性的實踐經驗和做法。嗶哩嗶哩平臺在前端服務及平臺秩序生成與維持機制方面有改進空間,主要是未提供專門的網絡暴力投訴渠道,總
110、體上建立起了多功能的治理機制。小紅書、微信視頻號兩家平臺從功能的完備性和多樣性來看,在用戶消息偏好設置、平臺用戶服務協議內容、平臺規則或社區公約合理性等重要方面都存在完善和改進空間。具體情況如表 2 所示。網絡暴力平臺治理措施指標評價實例(等級情況)網絡暴力平臺治理措施指標評價實例(等級情況)33評估類別評估指標測評內容抖音微博快手知乎bilibili微信視頻號小紅書前端服務用戶自主設置互動功能的便捷度用戶是否能夠自主設置互動功能評估類別評估指標測評內容抖音微博快手知乎bilibili微信視頻號小紅書前端服務用戶自主設置互動功能的便捷度用戶是否能夠自主設置互動功能A+A+A+A+A+A+A+互
111、動設置功能的優先級互動設置功能的優先級BCBBBBC互動設置功能的集中度互動設置功能的集中度A+A+A+A+A+A+A+用戶是否能夠進行消息偏好設置用戶是否能夠進行消息偏好設置A+A+A+AACC類別等級AAABBCC后端技術平臺網絡暴力防治專門產品或技術工具平臺是否設置網絡暴力防治專門產品或技術工具類別等級AAABBCC后端技術平臺網絡暴力防治專門產品或技術工具平臺是否設置網絡暴力防治專門產品或技術工具A+A+A+A+A+A+A+事前內容審查和過濾機制平臺是否設置事前的內容審查和過濾機制事前內容審查和過濾機制平臺是否設置事前的內容審查和過濾機制A+A+A+A+A+A+A+平臺的內容審查及過濾
112、平臺的內容審查及過濾A+A+A+A+A+A+A+34是否包括對網絡暴力信息內容的審查與攔截網絡暴力重大輿情與極端事件的處置平臺是否有應對重大輿情與極端事件的處理機制是否包括對網絡暴力信息內容的審查與攔截網絡暴力重大輿情與極端事件的處置平臺是否有應對重大輿情與極端事件的處理機制A+A+A+A+A+A+A+平臺應對重大輿情與極端事件的處理機制是否包括對涉網絡暴力相關事件的應對及治理措施平臺應對重大輿情與極端事件的處理機制是否包括對涉網絡暴力相關事件的應對及治理措施A+A+A+A+A+A+A+平臺關于謠言治理的技術措施平臺是否有應對謠言傳播的技術措施及其效果平臺關于謠言治理的技術措施平臺是否有應對謠
113、言傳播的技術措施及其效果A+AAA+AAA類別等級A+A+A+A+A+A+A+秩序生成和維持網絡暴力防治平臺規則、社區公約平臺用戶服務協議中是否涉及防治網絡暴力的內容類別等級A+A+A+A+A+A+A+秩序生成和維持網絡暴力防治平臺規則、社區公約平臺用戶服務協議中是否涉及防治網絡暴力的內容A+A+A+A+A+A+C35平臺是否出臺關于網絡暴力防治的專項政策平臺是否出臺關于網絡暴力防治的專項政策A+A+A+A+A+A+A+平臺網絡暴力防治平臺規則或社區公約內容的合理性平臺網絡暴力防治平臺規則或社區公約內容的合理性A+ACBBAC事后投訴和救助機制平臺是否提供專門的網絡暴力投訴渠道事后投訴和救助機
114、制平臺是否提供專門的網絡暴力投訴渠道A+A+A+A+CCC平臺是否提供取證服務及取證的便捷度平臺是否提供取證服務及取證的便捷度CAA+AA+CA+平臺網暴防治的宣傳與平臺關于優質信息內容創作、用戶評論的激勵措施平臺是否進行網絡暴力防治的宣傳平臺網暴防治的宣傳與平臺關于優質信息內容創作、用戶評論的激勵措施平臺是否進行網絡暴力防治的宣傳A+A+A+A+A+A+A+類別等級AA+AABBB未成年人未成年人模式平臺是否設置未成年人類別等級AA+AABBB未成年人未成年人模式平臺是否設置未成年人A+A+A+A+A+A+A+36保護機制模式未成年人模式是否納入網絡暴力防治機制保護機制模式未成年人模式是否納
115、入網絡暴力防治機制A+A+A+A+A+A+A+涉未成年人網絡暴力事件涉未成年人網絡暴力事件是否優先處置涉未成年人網絡暴力事件涉未成年人網絡暴力事件是否優先處置A+A+A+A+A+A+A+類別等級A+A+A+A+A+A+A+對行業具參考價值的做法、表列范圍外測評指標表現等A+AABAAB綜合等級A+A+AAABB類別等級A+A+A+A+A+A+A+對行業具參考價值的做法、表列范圍外測評指標表現等A+AABAAB綜合等級A+A+AAABB表 2測評情況模塊化得分(二)網絡暴力防治技術工具測評體系(二)網絡暴力防治技術工具測評體系1.網絡暴力防治技術工具測評概述1.網絡暴力防治技術工具測評概述現階段
116、社交傳播、算法分發已成為互聯網主流,網絡暴力防治需要依托平臺的主體地位以及治理責任與義務,其中各平臺的網暴防治技術工具不容小覷。網絡暴力防治技術工具測評作為面向平臺層面,評測各平臺技術工具應對網絡暴力事件預防和治理能力的判斷和衡量標準?;谄脚_內網暴事件由受害方、施暴方、旁觀者等多方參與,且呈現出聚集性、海量性、隱匿性和微暴力等核心特征。且呈現出聚集性、海量性、隱匿性和微暴力等核心特征。因此,應從行業前沿實踐經驗出發,從多個維度構建不同場景下平臺技術工具網絡暴力防治效果的測評標準體系。但如何把握測評標準的邊界與尺度,平臺擔責同時又不過度加壓是需要進一步解決的問題。但如何把握測評標準的邊界與尺度
117、,平臺擔責同時又不過度加壓是需要進一步解決的問題。在確定網絡暴力防治技術工具所需特征和功能方面,明確網絡暴力防治的目標是完善監測識別、實時保護、干預處置、溯源追責、宣傳曝光等全鏈條治理,追求平臺37網暴標本兼治的預期效果。此外,還需考量各互聯網平臺的實際情況,如:平臺規模、技術水平、用戶群體、發表內容類型等,以及分析平臺、用戶和其他利益相關者的需求和期望,明確技術工具所應具備的基本特征和功能,以便為設計科學合理的測評標準體系提供參考。2.網絡暴力防治技術工具測評方案2.網絡暴力防治技術工具測評方案(1)測評場景基于網絡暴力防治階段和目標的不同,可以將測評場景劃分為事前預警預防、事中保護控制和事
118、后處罰階段。事前預警預防階段關鍵在于三點:一是內容的識別預警。事前預警預防階段關鍵在于三點:一是內容的識別預警。平臺是否建立網絡暴力信息分類標準和典型案例樣本庫。由于網暴官方尚無識別標準,各平臺內部需細化涉網絡暴力內容標準,排除輿論監督和善意批評等情形,增強網絡暴力識別的準確性。并結合網站平臺業務特點和具體處置案例,不斷更新分類標準,持續完善樣本庫。二是網絡暴力技術識別模型。二是網絡暴力技術識別模型。平臺感知網絡暴力的渠道通?;谟脩襞e報、本人求助、站內站外熱點事件以及負向內容風險聚合等,綜合考慮事件類別、針對主體、參與人數、發布頻次、舉報投訴等維度,建立具體的網暴行為識別模型,從網暴發生苗頭
119、處進行預警。三是涉網絡暴力輿情應急處理機制。三是涉網絡暴力輿情應急處理機制。在平臺感知到網暴風險后,平臺組織專門工作力量,及時收集網絡暴力相關熱點話題和輿情線索,在輿情形成前或發酵中進行風險上報、人工研判等流程,進入應急處置階段,如:判斷事因、確認網暴發生維度、評估處置手段、力度等。事中保護控制階段還可以劃分為兩部分:一是當事人保護;二是控制網絡暴力信息傳播擴散。事中保護控制階段還可以劃分為兩部分:一是當事人保護;二是控制網絡暴力信息傳播擴散。其中,依據當事人群體不同給予不同程度的保護,如優先處理涉未成年人網暴問題、社會熱點類當事人分情況評估保護等。當事人保護技術工具一般包括:第一,一鍵防護功
120、能。部分平臺根據自身特點,提供一鍵關閉陌生人私信、評論、轉發等設置。平臺通過“用戶自主設置+平臺介入保護”模式進行保護控制,用戶遭遇網絡暴力風險時,平臺發送系統信息,提示其啟動一鍵防護,免受相關信息騷擾,例如:抖音的抖音的一鍵防暴功能、知乎的“瓦力保鏢”功能等。一鍵防暴功能、知乎的“瓦力保鏢”功能等。第二,私信、評論保護規則。發送者發送涉嫌網絡暴力的評論,會收到風險警示、繼續發送可能導致平臺系統對評論進行限制,還可以對關鍵詞進行屏蔽等。而私信方面,用戶可以對接收陌生人私信附加數量、時間、范圍等限制,用戶可根據自身需要自主設置僅接收好友私信或拒絕接收所有私信。同時平臺端通過技術監測對用戶進行遭受
121、網絡暴力的風險提醒。第三,快速舉報通道。各大平臺在評論、私信等位置均設置有涉網絡暴力信息快捷投訴舉報38入口,但投訴舉報入口和程序繁簡不一。此外,部分平臺的一鍵取證功能,方便當事人快速收集證據??刂凭W絡暴力信息傳播擴散部分不同平臺措施略有差異,視頻平臺如:B 站、抖音、快手等大都管控彈幕、評論環節,嚴控涉網絡暴力不友善評論泛化傳播,優先展示權威信息,及時清理過濾違法違規評論。貼吧、微博、知乎等網站平臺主要對相關話題討論、群組和板塊進行及時管控、清理等,密切巡查以相關事件名稱、當事人及相關人員姓名命名的詞條、話題、群組??刂凭W絡暴力信息傳播擴散部分不同平臺措施略有差異,視頻平臺如:B 站、抖音、
122、快手等大都管控彈幕、評論環節,嚴控涉網絡暴力不友善評論泛化傳播,優先展示權威信息,及時清理過濾違法違規評論。貼吧、微博、知乎等網站平臺主要對相關話題討論、群組和板塊進行及時管控、清理等,密切巡查以相關事件名稱、當事人及相關人員姓名命名的詞條、話題、群組。排查關閉以匿名投稿、隔空喊話等名義發布導向不良等內容的話題版塊和群組賬號。針對直播和短視頻,對存有網絡暴力風險的短視頻先行審查,攔截過濾相關視頻傳播。事后處罰階段的重點在于經研判后確屬網絡暴力信息并造成侵害的應在第一時間分類處置相關賬號。對涉嫌網絡暴力的賬號,進行理性發言提示;對參與網暴的賬號進行警示教育,并根據惡劣程度采取禁言等處罰措施;對牽
123、頭、煽動網絡暴力的賬號,平臺多采事后處罰階段的重點在于經研判后確屬網絡暴力信息并造成侵害的應在第一時間分類處置相關賬號。對涉嫌網絡暴力的賬號,進行理性發言提示;對參與網暴的賬號進行警示教育,并根據惡劣程度采取禁言等處罰措施;對牽頭、煽動網絡暴力的賬號,平臺多采取關閉賬號等嚴厲的處罰措施,涉及違法犯罪的,移交相關部門依法追究法律責任。取關閉賬號等嚴厲的處罰措施,涉及違法犯罪的,移交相關部門依法追究法律責任。(2)測評方法與指標權重關于網絡暴力防治技術工具測評方法,建議通過模擬用戶行為獲取相關數據,測試網暴防治技術工具在不同場景下的表現。相較于問卷調查、訪談等方式,可以更詳細、清楚、精準地找出平臺
124、技術工具存在的問題。一方面,模擬網絡暴力受害者測試各平臺事前預警預防能力,并使用各平臺的網暴防護功能,深度體驗其啟動步驟、程序和實際效果等。另一方面,模擬施暴者行為進行網暴防治測試,設定敏感詞,包括常見的攻擊類詞匯以及諧音、換字等更隱秘的表達,在各平臺測試其不同場景下(如評論、私信等)的攔截程度,判斷其信息識別監測能力。為每個測評場景分配適當的權重,才能科學反映其在總評分中的重要性。如前文所述,網絡暴力的界定和識別是目前的難點之一,在治理過程中需要結合受害人具體情況、抗壓能力,信息傳播量級、傳播速度進行個案分析,平臺對網絡暴力進如前文所述,網絡暴力的界定和識別是目前的難點之一,在治理過程中需要
125、結合受害人具體情況、抗壓能力,信息傳播量級、傳播速度進行個案分析,平臺對網絡暴力進行規?;?、及時性的治理依賴于“止于微末”和“防于未然”。故事前預警預防與事中保護控制階段的技術工具權重大于事后處罰階段的技術工具。3.網絡暴力防治技術工具測評標準行規?;?、及時性的治理依賴于“止于微末”和“防于未然”。故事前預警預防與事中保護控制階段的技術工具權重大于事后處罰階段的技術工具。3.網絡暴力防治技術工具測評標準一是信息識別的準確度。檢查各平臺技術工具對網絡暴力信息內容的識別能力,包括敏感關鍵詞、文本、圖片和視頻等多種形式。網絡暴力行為的發生具有隨機和偶然性,沒有固定規律評估且行業內沒有形成統一的標準。
126、網絡暴力信息識別能力建設需要兼顧“快速”與“精準”,測評中需要確定正確識別網絡暴力信息內容的比例以39及誤報正常內容的比例。二是采取措施的實時性。衡量網絡暴力防治技術工具的另一個重要標準是平臺發現網絡暴力行為后采取措施的速度。平臺基于對輿情、用戶舉報、受到謾罵評論攻擊風險的濃度等因素的研判,此研判流程一般包括機審和人審等,應盡可能迅速,在事件發酵前進行應急處理。這可能包括實時監控平臺相關信息內容、迅速提示被網暴對象開啟防護功能、快速封禁或警告發布者等。實時性越高的技術工具越能有效遏制網絡暴力的傳播。三是防治技術的覆蓋范圍。由于各網站平臺的類型不同,如論壇、視頻、直播等;社交屬性上針對的群體、文
127、化圈子和用戶量級有較大差異。網絡暴力防治技術工具在不同測評場景下的覆蓋范圍、表現情況應留有彈性。在網絡暴力內容的識別預警、技術識別模型、涉網絡暴力輿情應急處理機制方面,大平臺和小平臺由于技術水平、公司規模和影響力的差距,防治技術的覆蓋范圍不應采用一個標準,能夠基本涵攝事前、事中和事后階段的防治領域即可。四是用戶體驗。評價網絡暴力防治技術工具的另一個重要維度是技術在用戶體驗方面的表現。涉網絡暴力信息內容的舉報、投訴渠道是否暢通;被網絡暴力方啟動、操作防護功能的便捷性、入口關卡是否簡潔;平臺技術對涉嫌網絡暴力信息內容的誤報率等。對于涉嫌網絡暴力事件的雙方以及其他旁觀用戶而言,這些防治機制與流程的設
128、置,會影響到用戶對網絡暴力技術工具的使用體驗和網絡暴力事件治理的看法。平臺是否在能力范圍內減輕對正常用戶的影響也是一個需要關注的方向。五是安全性與合規性。測評網絡暴力防治技術工具在用戶數據保護和個人隱私政策方面是否符合相關法律法規要求。平臺對系統內用戶的賬號采取使用權限限制、信息變更、關閉賬戶等處置措施時需要平衡用戶個人信息與隱私、數據安全和網絡暴力防治的內在要求。此外,還需要考慮平臺在網絡暴力信息內容審查過程中可能涉及的倫理問題,如言論自由和網絡暴力之間的平衡。三、網絡暴力的平臺責任與多元治三、網絡暴力的平臺責任與多元治理理基于上述測評系統和指標,可以建構一套網絡暴力防范治理系統。然而,網絡
129、暴力是由社會、技術與心理等多重原因而形成的社會失范現象。從時間縱向維度來看,網絡并不是語言暴力的誕生地,相反語言暴力先于網絡暴力而存在,網絡暴力的實質是語言暴力在網絡空間的延伸與演化。語言暴力是長期存在的社會現象,是人類40在使用語言文字過程中的異化,自古有之。從口語時代的面對面交流,到網絡時代的論壇、貼吧、微博、微信等平臺,再到內容長短不一的視頻平臺上,都有語言暴力的延續和發展。從橫向角度來看,其產生與傳播受社會環境、媒介環境、技術環境、網民素養等多重因素影響。社會發展中不同群體、個體之間的一些矛盾和差異,在網絡空間投射、轉化產生了網絡暴力等社會失范現象?,F實中網民素質參差不齊,網絡的匿名特
130、點,進一步降低了網民施暴的心理負擔與成本。此外,個別媒體、一些自媒體人和社交媒體出于吸引流量等目的,進行夸大、片面等失范報道,也容易助推或擴大網暴負面影響。加之網暴界定難、防范難的特點,使得單純依托平臺來根除網暴難以實現。圖一 網暴生態圖有鑒于此,在現實的網絡暴力的治理實踐中,平臺單方面的力量仍然顯得獨木難支,除跨平臺的協調聯動機制之外,還需要有關的監管部門以及司法機關、新聞媒體和用戶等都納入網絡暴力的治理中形成合力。在現實的網絡暴力的治理實踐中,平臺單方面的力量仍然顯得獨木難支,除跨平臺的協調聯動機制之外,還需要有關的監管部門以及司法機關、新聞媒體和用戶等都納入網絡暴力的治理中形成合力。(一
131、)網絡暴力治理的多方責任結構體系(一)網絡暴力治理的多方責任結構體系網絡暴力是復雜社會問題在網絡空間的“鏡像”、投射和變形。古今中外,人類社會發展始終面臨著經濟社會發展不平衡、不充分等問題,很多時候會通過線下的實際行動解決,也會通過爭吵(網暴的最根本形式)的方式應對,可見網絡暴力有其久遠且深刻的社會原因。在互聯網時代,這些問題與矛盾也為網絡暴力的發生提供了土壤、埋下了“伏筆”,網絡空間則為網民提供了情緒宣泄的途徑,網民容易站在道德網絡暴力是復雜社會問題在網絡空間的“鏡像”、投射和變形。古今中外,人類社會發展始終面臨著經濟社會發展不平衡、不充分等問題,很多時候會通過線下的實際行動解決,也會通過爭
132、吵(網暴的最根本形式)的方式應對,可見網絡暴力有其久遠且深刻的社會原因。在互聯網時代,這些問題與矛盾也為網絡暴力的發生提供了土壤、埋下了“伏筆”,網絡空間則為網民提供了情緒宣泄的途徑,網民容易站在道德41制高點上指責他人,甚至形成網絡暴力等失范現象。同時,由于網絡的匿名特點,網絡逐漸成為紓解社會矛盾的方式和途徑之一。必須指出的是,雖然網絡暴力發生在網絡空間,但不能將網暴的全部責任歸結于互聯網??傮w來看,網絡暴力是由社會、技術與心理等多重原因而形成的社會失范現象?;馍鐣?,避免激化成外顯事件,并蔓延至互聯網,形成社會失范現象,是防治網暴的應有之義。網絡暴力是復雜社會問題在網絡空間的投射,依靠
133、單一主體的力量是難以解決的,只有政府部門、媒體機構、平臺企業、社會公眾等各方主體共同參與,才能實現有效治理。因此有必要對政府、平臺、媒體、公民等在網絡暴力治理中的角色與作用進行準確定位,實現治理權責的科學配置。首先,政府部門在網絡暴力治理中承擔依法監管責任。制高點上指責他人,甚至形成網絡暴力等失范現象。同時,由于網絡的匿名特點,網絡逐漸成為紓解社會矛盾的方式和途徑之一。必須指出的是,雖然網絡暴力發生在網絡空間,但不能將網暴的全部責任歸結于互聯網??傮w來看,網絡暴力是由社會、技術與心理等多重原因而形成的社會失范現象?;馍鐣?,避免激化成外顯事件,并蔓延至互聯網,形成社會失范現象,是防治網暴的
134、應有之義。網絡暴力是復雜社會問題在網絡空間的投射,依靠單一主體的力量是難以解決的,只有政府部門、媒體機構、平臺企業、社會公眾等各方主體共同參與,才能實現有效治理。因此有必要對政府、平臺、媒體、公民等在網絡暴力治理中的角色與作用進行準確定位,實現治理權責的科學配置。首先,政府部門在網絡暴力治理中承擔依法監管責任。政府機關應當在法律法規完善、推動上位立法、明確行業標準、推動行業自律等方面對網絡暴力的多元主體治理加以充分引導和鼓勵。政府機關應當依法依規對網絡暴力現象進行行政和司法手段的治理,包括建立跨平臺的協作聯動機制、涉網絡暴力線索證據移交移送機制、多部門會商協調機制等。其次,網絡服務提供者居于網
135、絡暴力防范治理第一線,承擔網絡暴力直接治理的主體責任,網絡服務提供者居于網絡暴力防范治理第一線,承擔網絡暴力直接治理的主體責任,明確網絡暴力治理的平臺規則和用戶公約等,探索建立平臺內部適用的網絡暴力識別指標,為網絡暴力受害者提供充分的、自主選擇的技術保護和心理咨詢,并對平臺上的網絡暴力行為加以監控,必要時通過技術手段對快速傳播的網絡暴力事件加以干預。需要說明的是,平臺責任不應當過于泛化,在網絡暴力事件處置中,不宜唯結果論,應綜合考察平臺是否已經采取合理的措施、建立有效的防范治理和攔截保護機制,評估平臺是否已經履行主體責任。第三,媒體是治理網暴不可或缺的一環。媒體報道、自媒體社交媒體傳播對網絡暴
136、力的傳播擴散和烈度提升具有重要的媒介作用。傳統媒體和自媒體應當遵循媒體倫理、承擔媒介責任,避免隨意用網暴定性事件,成為網絡暴力的第三,媒體是治理網暴不可或缺的一環。媒體報道、自媒體社交媒體傳播對網絡暴力的傳播擴散和烈度提升具有重要的媒介作用。傳統媒體和自媒體應當遵循媒體倫理、承擔媒介責任,避免隨意用網暴定性事件,成為網絡暴力的推手,避免因“唯流量論”的不良引導導致網絡暴力現象的膨脹和社會矛盾的激化。第四,網暴治理是全體網民的必修課。網絡服務用戶應當明確自己作為新時代互聯網公民的責任和義務,遵守法律法規、平臺規則等,積極參與網絡空間生態秩序的維護和與網絡暴力行為現象的斗爭,不斷在公民素質、網絡素
137、養的培養和提升方面自我教育。推手,避免因“唯流量論”的不良引導導致網絡暴力現象的膨脹和社會矛盾的激化。第四,網暴治理是全體網民的必修課。網絡服務用戶應當明確自己作為新時代互聯網公民的責任和義務,遵守法律法規、平臺規則等,積極參與網絡空間生態秩序的維護和與網絡暴力行為現象的斗爭,不斷在公民素質、網絡素養的培養和提升方面自我教育。(二)網絡暴力治理的監管措施(二)網絡暴力治理的監管措施42參考域外有關網絡暴力治理的實踐經驗,有關監管部門可以在推動有關立法、推動行業自律、確立行業規范、拓展行政司法綜合治理等多個方面著力推動網絡暴力跨平臺監管治理的措施落地和體系建構。1.域外有關網絡暴力治理的實踐1.
138、域外有關網絡暴力治理的實踐(1)注重專項法制注重專項法制美國目前已經出臺多部法律法規以應對網絡暴力,如聯邦禁止利用計算機犯罪法、計算機安全法等。其中最貼近網絡暴力的是梅根梅爾網絡欺凌預防法,這部法律的頒布源于美國網絡欺凌第一案。另外,美國國會出臺的網絡欺凌預防法案則對施暴者的責任承擔、受害者的權利救濟、網絡平臺的責任承擔等問題都進行了詳細的規定。德國 1997 年通過的多媒體法界定了網絡服務商的權利及義務,倘若網絡服務商提供的網絡搜索引擎或者鏈接出現了被禁止的內容,則該網絡服務商很可能面臨著承擔最高 1.5 萬歐元罰款的責任。后續德國出臺的信息與通信服務法等法律也進一步促進了德國網絡暴力治理體
139、系的完善。作為全球最早對網絡內容進行立法規制的國家之一,澳大利亞也建成了包括電信傳輸法、數字保護法散播邪惡暴力內容法等在內的法律規范體系13,其中的散播邪惡暴力內容法也對社交媒體傳播的互聯網影響內容予以了限制。韓國也專門設立了促進使用信息通信網絡及信息保護關聯法,對網站主動屏蔽有關暴力、違法、涉嫌詆毀他人的文章和影像提出了要求,并對網站不作為的責任進行了明確。(2)明確責任部門在韓國,其早期不僅設立了信息道德委員會,目前還有專門主管不良信息網上傳播事宜的管理網絡信息的部門,以期構建健康的網絡文化。在德國,聯邦內政部對網絡監管負有主要職責,聯邦內政部直屬的聯邦刑警局下設立了“數據網絡無嫌疑調查中
140、心”,該機構不受限于具體的嫌疑指控,享有 24 小時不間斷地跟蹤和監測網絡信息的較大權力,該機構也就相當于“網絡警察”。截止到目前,德國的 16 個州都可以看到“網絡警察”的蹤影。在希臘,網絡犯罪部對互聯網相關的犯罪行為享有專門權力,當其發現存在涉及國家安全、欺詐犯罪的暴力信息時,會及時請求法院出具搜查令以對涉案人實施逮捕工作。(3)突出行業自律出于網絡的開放性和虛擬性特征的考慮,域外多數國家也多通過行業自律加強網13鄭曉均:加快虛擬網絡立法,促進社會管理創新,載紅旗文稿2011年第 16期。43絡暴力的監管和治理。這些國家的互聯網企業在政府的積極督促之下構建了行業自律組織,借助制定行業規范制
141、度、處理社會糾紛、加強法治教育等渠道實現了健康、和平網絡空間的維護,實現公民權利的保護。14在法國,“互聯網監護會”和“互聯網用戶協會”“互聯網理事會”等組織依法設立。在德國,“國際性內容自我規范網絡組織”設立初衷在于確保網絡環境的和平,并且對未成年使用者予以高度關注。德國政府還會和主要的互聯網運營商簽訂自律條款,通過條款的簽訂賦予運營商根據政府部門的要求對網絡平臺上的不良內容采取及時的刪除和屏蔽措施的義務。在日本,相較于上述國家,其行業自律體系更為完善,其設立了網絡事業者倫理準則等行業規范以突出行業自律與法治的有機結合。2.我國網絡暴力治理體系的構建2.我國網絡暴力治理體系的構建(1)推進反
142、網絡暴力法的確立隨著互聯網基礎設施的不斷完善和互聯網技術的快速更迭,網絡暴力呈現出多種形態。我國網絡暴力的規制涉及民事、我國網絡暴力的規制涉及民事、刑事、行政等領域的規范文件,現有立法雖有針對性的對其規制,但仍未將網絡暴力的內涵與界定予以明確,僅僅以“捏造事實”、“侮辱”、“誹謗”等詞匯取而代之,立法上針對網絡暴力的法律規范仍處于缺位狀態。刑事、行政等領域的規范文件,現有立法雖有針對性的對其規制,但仍未將網絡暴力的內涵與界定予以明確,僅僅以“捏造事實”、“侮辱”、“誹謗”等詞匯取而代之,立法上針對網絡暴力的法律規范仍處于缺位狀態。1515立足于長遠發展,我國需要適時推動制定統一的反網絡暴力法的
143、立法進程,將預防和懲處網絡暴力等條款精細化、確定化。立足于長遠發展,我國需要適時推動制定統一的反網絡暴力法的立法進程,將預防和懲處網絡暴力等條款精細化、確定化。在反網絡暴力法的規則設計上需要考慮到網絡暴力傷害案件的特殊性和復雜性規則設計上需要考慮到網絡暴力傷害案件的特殊性和復雜性,構建健全的網絡立法規范。其一,應當在反網絡暴力法總則部分率先對立法目的予以明確,在價值層面為保護法益提供基礎。緊接著,網絡暴力的概念、行為類型、認定標準、規制思路、治理原則等內容也需要被立法確定網絡暴力的概念、行為類型、認定標準、規制思路、治理原則等內容也需要被立法確定1616,進而使得參與網絡暴力治理的各個主體在履
144、責、協作時形成整體合力。,進而使得參與網絡暴力治理的各個主體在履責、協作時形成整體合力。其二,在反網絡暴力法中設置全流程各主體治理的具體內容,應當在法律文本內構建風險檢測與識別、侵權預警、動態保護、適時干預、溯源追責、警告曝光、積極引導、維權救濟等章節條款體系,為有效治理網絡暴力、凈化網絡環節提供可能。其三,也需要在反網絡暴力法當中對政府監管責任、網絡平臺責任的權責關也需要在反網絡暴力法當中對政府監管責任、網絡平臺責任的權責關14毛向櫻:網絡語言暴力及國外治理經驗借鑒,載武漢冶金管理干部學院學報2018年第 1 期。15蹇昶、楊宗科:輿論失焦中網絡暴力的法律規制,載傳媒2023年第 9 期。1
145、6劉艷紅:理念、邏輯與路徑:網絡暴力法治化治理研究,載江淮論壇2022年第 6 期。44系予以明晰,通過專門的賦權條款將政府與平臺之間處理網絡暴力信息的權責劃定邊界,能夠為兩主體切實行使權力、履行職責提供指引。系予以明晰,通過專門的賦權條款將政府與平臺之間處理網絡暴力信息的權責劃定邊界,能夠為兩主體切實行使權力、履行職責提供指引。正確理解和處理言論與網絡暴力治理之間的關系,確立積極引導的方向,并設立規范化的舉報和維權救濟渠道,促進對網絡暴力的治理進程。其四,在反網絡暴力法中需要細化實施網絡暴力者的民事責任、刑事責任以及行政責任需要細化實施網絡暴力者的民事責任、刑事責任以及行政責任。例如在民事賠
146、償力度方面,現有的網絡暴力案件中受害者要求侵權人賠償的精神損害數額難以得到法院支持或者即使得到支持但數額較低,17而若對一種行為的金錢懲罰力度弱則會削弱行為規制的效用18,因此在條款設置時可以以網絡語言暴力、人肉搜索、捏造傳播網絡謠言等不同行為類型造成的一定后果(如轉發量、人身損害等)為基礎,使侵權人承擔民事賠償責任,亦可借鑒國外懲罰性賠償措施,進行加重賠償??梢砸跃W絡語言暴力、人肉搜索、捏造傳播網絡謠言等不同行為類型造成的一定后果(如轉發量、人身損害等)為基礎,使侵權人承擔民事賠償責任,亦可借鑒國外懲罰性賠償措施,進行加重賠償。其五,在受害者權利救濟方面,可以增設禁令救濟權利在受害者權利救濟
147、方面,可以增設禁令救濟權利。一方面,可以引入訴訟保全制度中的行為保全參與網絡暴力的治理。也就是說,當尚未對受害者造成實際損害時,可以賦予受害者向法院請求禁止侵權人在一定時間內在網上發布網暴信息、限制相關網站賬號的使用權限等權利,給予受害者的必要保護。另一方面,也可以參照反家庭暴力法中的人身保護令制度19,使受害者免受施暴者的網絡騷擾、網絡跟蹤,保障受害者的人身安全。(2)實現反網絡暴力法與相關規范的有效銜接立法的模糊表述、較輕的懲罰力度、有效銜接的缺失等弊端遏制了網絡暴力的有效治理,未來不僅需要重視網絡暴力法律規則體系的完善,也需要關注專門的反網絡暴力法與行政法規范的合理銜接問題。實現反網絡暴
148、力法與相關規范的有效銜接立法的模糊表述、較輕的懲罰力度、有效銜接的缺失等弊端遏制了網絡暴力的有效治理,未來不僅需要重視網絡暴力法律規則體系的完善,也需要關注專門的反網絡暴力法與行政法規范的合理銜接問題。其一,在施暴者民事責任承擔方面,需要將反網絡暴力法規定的網絡暴力行為與民法典相關條文達成統一,如反網絡暴力法的網絡暴力判斷標準方面可以民法典第 1024 條之規定作為基準。另外,在網絡服務提供者的責任規定上,注重與民法典第 1197 條之規定的吻合,當網絡服務提供者明知或者應當知道施暴者實施網絡暴力行為而未采取積極、必要的措施時,該網絡服務提供者應當與施暴者承擔連帶責任,以促進平臺對網絡暴力監管
149、作用的發揮。其二,促進反網絡暴力法與刑法的有效銜接。當施暴者實施網絡暴力行為已經達到刑法規制的程度時,反網絡暴力法應當明確規定此時需要刑法介17盧蝴蝶:網絡暴力的法律規制,載西部學刊2022年第 14期。18高媛:自媒體網絡暴力行為的法律規制,載太原理工大學學報(社會科學版)2021年第 2 期。19謝永江、袁媛:美國網絡欺凌立法及其啟示,載重慶郵電大學學報(社會科學版)2017年第 3 期。45入并提供必要的規范依據。其三,應當優化反網絡暴力法與治安管理處罰法的協調。當施暴者的網絡暴力行為構成治安管理處罰法規制的情節時,反網絡暴力法需要出于正面引導輿論的立場,規定權威部門對主流媒體、社會公眾
150、的回應流程,以避免消息的封鎖。(3)推動行業規范的確立鑒于網絡治理涉及范圍的廣泛、復雜、動態的特征,行業自律所彰顯的積極功能得到互聯網領域的普遍重視。政府在規制網絡暴力時無法解決的專業技術、知識方面的缺陷能夠被行業組織自律妥善的彌補,在網絡平臺出現網絡暴力問題時行業自律能夠充分運用其專業性和針對性優勢第一時間解決網絡暴力問題。與域外部分國家的行業規范體系相比,我國的行業規范仍有改善空間。我們應當充分考慮到互聯網的特殊性質,使行業道德、行業技術與法律法規實現緊密結合,構建具有約束力的行業規范,為治理網絡暴力、搭建文明的網絡平臺發揮積極作用。在推動行業規范的確立時,也需要對如下三點予以關注。其一,
151、需要將責任明確的問題置于重要地位。完備且明確的互聯網信息泄露追責體系的建立能夠給予網絡行業以推力,使之肩負起相應責任,為用戶提供良好的安全保護體驗。其一,需要將責任明確的問題置于重要地位。完備且明確的互聯網信息泄露追責體系的建立能夠給予網絡行業以推力,使之肩負起相應責任,為用戶提供良好的安全保護體驗。其二,設置行業規范時可考慮建立針對性內容審查機制??v觀域外,美國某公司研發的“網絡巡邏”軟件能夠對諸如宗教歧視、人身攻擊等的網絡暴力內容予以過濾刪除20。在先進科技的支持下,如今利用技術手段自動屏蔽侮辱性詞匯的做法已相對成熟,網絡平臺屏蔽侮辱性話語這一功能可以有效降低網絡暴力發生的可能性,從而促進
152、和諧網絡空間的形成。其三,設置行業規范時也可以適當考慮引入職業禁止規則。21當發生性質惡劣、社會影響嚴重的網絡暴力侵權事件時,對于負有責任的網絡平臺,如不及時刪除施暴網帖,除對之依法追究法律責任以外,還可以根據情節輕重對之暫時或永久的施行職業禁止,以維護健康的網絡環境。(4)網絡暴力的行政及司法治理除為網絡服務提供者治理網絡暴力提供支持、加以鼓勵和創設規則外,政府部門20毛向櫻:網絡語言暴力及國外治理經驗借鑒,載武漢冶金管理干部學院學報2018年第 1 期。21李銘志:網絡暴力的刑法規制淺探,載黑龍江省政法管理干部學院學報2023年第 2 期。46同樣需要承擔通過行政、司法等路徑對網絡暴力加以
153、直接治理的職責。就有關監管部門的責任而言,可建立由網信部門牽頭,搭建跨平臺的網絡暴力治理協作和聯動機制,通過多平臺的協同治理,中斷網絡暴力事件在平臺間的大范圍傳播擴散和烈度的持續提升。其次,有必要建立網絡服務提供者依法依規定期向網信部門、工信部門、公安部門、檢察機關、司法機關等移交移送涉網絡暴力相關線索及證據的機制,有必要建立多個部門與網絡服務提供者之間有關網絡暴力治理的會商協調機制。第三,有必要依托現行的中華人民共和國刑法、中華人民共和國個人信息保護法、中華人民共和國未成年人保護法等法律法規,對涉及違法犯罪的網絡暴力行為人加以懲戒處置并建立長效的司法治理機制,包括通過檢察公益訴訟等能動檢察履
154、職的機制,進一步推動網絡暴力的司法治理。(三)網絡暴力治理的平臺責任(三)網絡暴力治理的平臺責任1.網絡暴力治理中平臺治理責任之證成1.網絡暴力治理中平臺治理責任之證成(1)平臺責任概述近年來,一些網絡暴力事件的發酵引發相對嚴重的后果,其原因之一便是數字平臺中非法有害內容的泛濫。大型數字內容平臺具有守門人地位,因而需要強化以平臺主體責任為核心的治理體制。22國家互聯網信息辦公室 2021 年發布的關于進一步壓實網站平臺信息內容管理主體責任的意見強調要把握主體責任內涵,2022 年印發的關于切實加強網絡暴力治理的通知也要求網絡平臺承擔在網絡暴力治理中的具體責任。隨著數字時代的深入發展和平臺經濟的
155、持續推進,我國逐步形成私主體和行政機關共同負責監管與提供服務的混合“監管體制”。23有學者提出網絡信息內容的治理需要由公私協同構建,內容治理便包括網絡暴力的治理。網絡平臺的“私權力”對于網絡信息內容的治理,對于促進網絡信息共享、維護網絡空間的良好秩序、保障網民的合法權益起到了積極的作用。24這種公私主體混合監管和平臺“私權力”的背后便是平臺責任相關問題。22參見唐要家,唐春暉:網絡信息內容治理的平臺責任配置研究,財經問題研究2023年第 6 期。23參見敬力嘉:網絡暴力公私合作治理模式的反思與調試,江漢論壇2023年第 5 期。24參見吳方程:網絡平臺參與內容治理的局限性及其優化,法治研究20
156、21年第 6 期。47總的來說,應對網絡內容治理中的復雜問題,尤其是解決網絡暴力這一緊迫問題,建立和完善平臺治理體系和治理機制來界定網絡平臺需要承擔的主體責任內容,明確平臺治理的責任分配規則以及具體實現機制。25簡要來說,平臺責任配置的重點是激勵平臺積極采取措施,在合規指引體系的框架下治理網暴等非法有害內容。平臺責任配置應遵循法治原則、促進創新原則、有效激勵原則、比例配置原則和過失責任原則,并建立多元主體合作責任體制。簡要來說,平臺責任配置的重點是激勵平臺積極采取措施,在合規指引體系的框架下治理網暴等非法有害內容。平臺責任配置應遵循法治原則、促進創新原則、有效激勵原則、比例配置原則和過失責任原
157、則,并建立多元主體合作責任體制。2626(2)平臺治理之可行性與必要性在網絡治理中,網絡平臺在事前預警、事中監管和事后處罰與救濟等多方面大有可為。平臺治理在理論與實踐中都具有必要性與可行性。首先,公私對立的觀念正在逐漸被破除,私主體在一定程度上可以行使公權力。隨著平臺經濟的深入推進,網絡內容治理不只是政府的職能,由于網絡空間內私人與公共領域相互交融,邊界日漸模糊,需要各主體協同共治。網絡平臺因其作為“公共話語場域”與“意見自由市場”的角色,成為內容治理的重要主體。而政府則是通過私法權利和責任支持網絡平臺企業,并使其能夠通過技術影響平臺用戶的行為。27由此可見,平臺對網絡暴力進行治理正是數字時代
158、的發展趨勢。其次,平臺擁有網絡暴力治理的能力與水平。平臺自律在有效推動平臺治理的同時,因其在技術、信息等方面擁有的資源優勢而影響并規范網絡活動其他參與者的行為,因此可以說,網絡平臺具備網絡空間的“私權力”。28這種“私權力”表明其在一定程度具有網絡暴力治理的能力與水平。比如,平臺可以在網絡暴力形成和發酵期進行事先預警,在規模擴大期可以切斷暴力傳播途徑防止傷害進一步擴大,在事后可以對實施網絡暴力的失范行為進行平臺內懲處,將違反犯罪行為移送有關機關進行處置。第三,平臺處于網絡暴力治理的前沿陣地,平臺治理較為符合經濟效益。在網絡暴力事件發酵過程中,平臺最先感知,可以最先及時采取相關措施。在網絡暴力規
159、模擴大時期,平臺可以進行判斷并對被暴力者進行保護。在網絡暴力平復期,平臺可以總結事件,完善治理規則,識別并防范有關風險。2.網絡暴力治理中平臺治理的方法路徑2.網絡暴力治理中平臺治理的方法路徑25參見薛茜:網絡平臺責任“權力化”的治理路徑,上海法學研究集刊 2022年第 16卷。26參見唐要家,唐春暉:網絡信息內容治理的平臺責任配置研究,財經問題研究2023年第 6 期。27參見薛茜:網絡平臺責任“權力化”的治理路徑,上海法學研究集刊 2022年第 16卷。28參見吳方程:網絡平臺參與內容治理的局限性及其優化,法治研究2021年第 6 期。48關于網絡暴力治理中平臺治理的方法路徑,可以主要從事
160、前、事中、事后三個階段來梳理網絡暴力治理中平臺實然和應然承擔的義務。(1)平臺治理現狀在開展相關調研的基礎上,可以梳理平臺對于網絡暴力的治理現狀。目前行業內主要有保護模式和應急機制兩條同步開展的路徑。目前行業內主要有保護模式和應急機制兩條同步開展的路徑。保護模式網絡暴力初期發酵階段,平臺會進行攔截;在發酵期,平臺會給認為可能遭遇網暴的用戶打電話,告知其可能發生的大規模網絡暴力并進行防范;在規模擴張階段,平臺的干預力度會進一步加強,并根據具體情節來決定干預方式和力度。另外,多數平臺還為用戶設置了防網暴工具,一鍵開啟后阻擋網暴消息的接觸、傳播和擴散,用戶對私信網暴還可以進行批量舉報。與此同時,平臺
161、更希望用戶自己作為參與者能夠有意識地保護自己。應急機制應急機制覆蓋的范圍較廣,網絡暴力發生時,首先是情況感知,外部輿情的反饋接收和站內用戶聚集、評論氛圍、客訴舉報等都是信號來源。當平臺在公共熱點事件中發現網暴苗頭跡象,會對其進行分類定級,了解網絡暴力的情況,包括具體表現形式、各方當事人的背景等,匹配后續的處置、帳號處罰管控、輿情輿論引導等。針對單點明顯突破底線,如出現明顯人身攻擊、侮辱、暴露隱私信息、造謠等情況,平臺對相關內容會予以刪除,或者限制違規用戶永久禁止發布相關內容、限制其創建群組。平臺也會對受害方加以識別并推送自主保護功能的使用方法,識別風險較高則一對一外呼和關懷,防范和化解潛在風險
162、。另外部分平臺有對被網暴用戶進行心理疏導的機制,如抖音、快手等,構成平臺積極承擔社會責任的體現。(2)平臺應承擔的治理責任結合國內產業發展與域外經驗,可對平臺擬應承擔的治理責任進行梳理。首先,平臺在網絡暴力的治理中應當承擔直接治理的主體責任;其次,這一主體責任應當以治理成本-社會整體收益分析為基礎,為跨平臺的協作以及其他類型責任主體履行責任提供必要條件。其次,這一主體責任應當以治理成本-社會整體收益分析為基礎,為跨平臺的協作以及其他類型責任主體履行責任提供必要條件。具體來說,第一是要設置專門的快捷功能應對網絡暴力,其功能包括但不限于限制私信與評論等切斷網絡暴力信息傳播的途徑。第二,事前提醒,平
163、臺對可能遭受網49絡暴力的人進行預警,建議用戶打開防止網絡暴力的快捷功能。第三,在網絡暴力規模擴大期,增強干預力度,平臺主動切斷網絡暴力信息傳播途徑,關注被網暴人的身心健康并加以引導。第四,在網絡暴力發生中期和后期,對實施網絡暴力情節嚴重的用戶進行處理,包括但不限于禁言、封號等方式,必要時進行曝光公示。第五,加強對用戶的引導教育,引導用戶提升自我保護意識,以減少或避免網絡欺凌等不良行為,營造良好網絡環境。3.網絡暴力治理中平臺責任的邊界與展望3.網絡暴力治理中平臺責任的邊界與展望(1)責任界定與邊界雖然平臺在網絡內容治理中需要承擔主體責任,但是其責任不是無限的。在網絡暴力發酵期,如果平臺提供了
164、防范工具并進行提醒,用戶主動選擇不去防范,則用戶也應當承擔相應的后果。雖然平臺在網絡內容治理中需要承擔主體責任,但是其責任不是無限的。在網絡暴力發酵期,如果平臺提供了防范工具并進行提醒,用戶主動選擇不去防范,則用戶也應當承擔相應的后果。如此規定的原因在于,平臺并不扮演“父權”角色,要引導用戶恰當使用相關功能,最后轉化為其素養的提高。簡言之,用戶自甘風險可以一定程度構成免責事由,但這種免責要區分不同的場景,用戶能力不足等情況應當加以必要的識別。平臺已經盡到提醒義務。中國政法大學教授劉文杰認為,網絡暴力是社會問題在網絡上的映射。網絡平臺的治理責任應當趨向于一種合理注意,即采用可負擔的相對有效措施進
165、行網絡暴力的識別和處置,治理過程中需要兼顧公眾的正當表達權益和社會輿論監督的正常進行。而且在許多場景和語境中,“網暴”與“非網暴”并非總是清晰可辨的。在快速處置與精準處理的雙重訴求下,應賦予平臺一定的試錯空間。而且在許多場景和語境中,“網暴”與“非網暴”并非總是清晰可辨的。在快速處置與精準處理的雙重訴求下,應賦予平臺一定的試錯空間。2929如果將治理網絡暴力的責任完全壓給平臺,一旦出現網絡暴力就對平臺進行處罰,其結果可能是平臺一方的過度刪除。由于網絡言論的海量,平臺只能采取自動化過濾手段,難免導致一些言論遭到“誤傷”,對公眾正常的言論表達和文學藝術發展造成不合比例的傷害。同時,過寬的過濾口徑還
166、會引發“貓捉老鼠”游戲的盛行,即網絡用戶轉而采用諧音字、符號等方式規避機器過濾,難以收到消除網絡暴力的功效。治理網絡暴力,將責任完全壓給網絡平臺難治理網絡暴力,將責任完全壓給網絡平臺難謂明智之舉,多方共治才是更優選擇。謂明智之舉,多方共治才是更優選擇。3030中國政法大學教授趙宏分析,在網暴治理過程中,若平臺要進一步加強事前監管,尤其是要履行更為廣泛的內容審查義務,不僅會增加平臺成本,影響平臺的創新和健康發展,也容易造成審查擴大化趨勢,傷及言論自由。若平臺要進一步加強事前監管,尤其是要履行更為廣泛的內容審查義務,不僅會增加平臺成本,影響平臺的創新和健康發展,也容易造成審查擴大化趨勢,傷及言論自
167、由。313129參見劉文杰:治理網絡暴力,平臺責任為先,載上海法治報2022年 7 月 8日 7版“學者評論”。30參見劉文杰:治理網暴并非“貓捉老鼠”的游戲,載中國青年報2023年 06月 28日 08版。31參見網暴治理難題待解:如何定義?要專門立法嗎?平臺如何擔責?,載搜狐網 2023年 6 月 15日,50中國政法大學刑事司法學院院長劉艷紅指出,我國網絡暴力治理法治化面臨多重現實困境,其中平臺監管權責失衡值得關注。近年來,我國立法上賦予網絡服務提供者的信息網絡安全管理義務越來越多、主體責任越來越重,但缺乏專門的賦權條款,權責配置失當導致網絡平臺在防范和處置網絡暴力輿情方面束手束腳、力不
168、從心。近年來,我國立法上賦予網絡服務提供者的信息網絡安全管理義務越來越多、主體責任越來越重,但缺乏專門的賦權條款,權責配置失當導致網絡平臺在防范和處置網絡暴力輿情方面束手束腳、力不從心。3232中國傳媒大學人類命運共同體研究院發布網絡暴力現象治理報告指出,網絡暴力是一個全社會共同關注和解決的行為,即便平臺做到不失責、不缺位,但僅僅依靠平臺力量也無法解決所有問題,平臺作為空間載體有能力界限,技術能改進但不能涵蓋所有。即便平臺做到不失責、不缺位,但僅僅依靠平臺力量也無法解決所有問題,平臺作為空間載體有能力界限,技術能改進但不能涵蓋所有。3333中國社會科學院研究員支振鋒認為,網絡是語言暴力的新空間
169、和新載體,受限于語言暴力判斷標準的復雜性,平臺很難識別并根治所有網絡暴力。在具體網暴事件中,要考察平臺是否已經采取合理的措施,建立有效的機制,來評估平臺是否已經履行主體責任??偟脑瓌t是既需要平臺積極探索和采取必要措施在具體網暴事件中,要考察平臺是否已經采取合理的措施,建立有效的機制,來評估平臺是否已經履行主體責任??偟脑瓌t是既需要平臺積極探索和采取必要措施,同時也應實事求是、基于當前技術水平和信息內容生產傳播規律來要求平臺承擔合理范圍內的責任。,同時也應實事求是、基于當前技術水平和信息內容生產傳播規律來要求平臺承擔合理范圍內的責任。3434如果平臺責任太多嚴苛,則平臺將面臨較高違法風險和較高治
170、理成本,造成“寒蟬效應”,平臺可能會改變商業模式并由于治理成本上升而提高收費水平。為規避風險,平臺可能會過度過濾并刪除信息內容,從而損害公民自由表達權,其甚至會放棄引入某些新業務和新模式,從而不利于數字經濟創新發展。如果平臺責任太多嚴苛,則平臺將面臨較高違法風險和較高治理成本,造成“寒蟬效應”,平臺可能會改變商業模式并由于治理成本上升而提高收費水平。為規避風險,平臺可能會過度過濾并刪除信息內容,從而損害公民自由表達權,其甚至會放棄引入某些新業務和新模式,從而不利于數字經濟創新發展。3535因此課與平臺過重的責任并不合適,厘清網絡暴力治理中平臺責任邊界的至關重要。因此課與平臺過重的責任并不合適,
171、厘清網絡暴力治理中平臺責任邊界的至關重要。(2)平臺與政府、用戶關系的展望在網絡暴力的治理中,有必要形成平臺治理與政府監管之間的公私合作治理機制。在網絡暴力的治理中,有必要形成平臺治理與政府監管之間的公私合作治理機制。有觀點認為,在網絡暴力治理領域,無論是合作分擔公共行政還是犯罪風險防控任務,公共部門起主導作用更加合適,公共部門起主導作用更加合適,網絡服務提供者落實公共部門相關要求,配合提供運營和技術支持,才能厘清二者的權限邊界,其旨趣更加接近于刑法中的法益保護輔助性原則。以此指導網絡暴力公私合作治理,能更好平衡涉網絡暴力違法信息管控與信https:/ 營造積極健康網絡生態,載法治日報2022
172、年 11月3日。33參見中國傳媒大學人類命運共同體研究院:網絡暴力現象治理報告,載中國人民大學人類命運共同體研究院官網 2022年 7 月 1日,https:/ 6 月9日。35參見唐要家,唐春暉:網絡信息內容治理的平臺責任配置研究,財經問題研究2023年第 6 期。51息流動自由、言論自由、企業經營自由之間的關系。36也有學者指出,平臺行使“私權力”雖然有助于克服政府規制模式下的諸多弊端,但不能因之形成“政府管平臺、平臺管用戶”的極端規制理念。37立法機構和監管部門致力于為平臺有效治理提供相關合規指引,提供具有一定確定性的規則預期,指導平臺在規則框架內積極開展合規舉措,探索創新工具和手段。網
173、絡暴力治理過程中,平臺與用戶的關系比較復雜。對平臺行使“私權力”進行網絡治理,可能對用戶造成的誤傷或損害。有關企業也在調研中表示,防止網絡暴力快捷模式的一鍵開啟一般不是永久開啟,因為擔心用戶忘記關閉而影響軟件使用。另外,由于語言的復雜性和技術的不成熟性,網絡暴力的治理或多或少會對合法合理使用軟件的用戶造成誤傷,此時平臺應當提供異議機制與救濟途徑。在構建網絡暴力治理平臺責任時,需要處理好平臺與政府、用戶之間的關系,政府賦予平臺義務時要建立明確且合理的規則指引體系,平臺限制用戶權利時要遵循正當程序原則,處理好政府與市場、自由與安全的關系。(四)網絡暴力治理的媒體責任(四)網絡暴力治理的媒體責任1.
174、媒體在網暴生成中的責任媒體在網暴治理中的責任不容小覷。2023 年 7 月 7 日,國家互聯網信息辦公室發布網絡暴力信息治理規定(征求意見稿)公開征求意見的通知,其中第十六、十七條指出,互聯網新聞信息服務單位應當堅持正確的輿論導向,加強信息內容真實性、合法性審核,不得渲染炒作網絡暴力事件,新聞信息跟帖評論實行先審后發。任何組織和個人不得借網絡暴力事件實施蹭炒熱度、推廣引流、故意帶偏節奏或者跨平臺搬運拼接虛假信息等惡意營銷炒作行為。網絡信息服務提供者不得為傳播網絡暴力的賬號、機構等提供流量、資金等支持。1.媒體在網暴生成中的責任媒體在網暴治理中的責任不容小覷。2023 年 7 月 7 日,國家互
175、聯網信息辦公室發布網絡暴力信息治理規定(征求意見稿)公開征求意見的通知,其中第十六、十七條指出,互聯網新聞信息服務單位應當堅持正確的輿論導向,加強信息內容真實性、合法性審核,不得渲染炒作網絡暴力事件,新聞信息跟帖評論實行先審后發。任何組織和個人不得借網絡暴力事件實施蹭炒熱度、推廣引流、故意帶偏節奏或者跨平臺搬運拼接虛假信息等惡意營銷炒作行為。網絡信息服務提供者不得為傳播網絡暴力的賬號、機構等提供流量、資金等支持。媒體的道德失范也可能導致網絡暴力的發生,尤其在社交媒體與自媒體蓬勃發展的時代下,由于互聯網和智能手機的普及,網民的表達空間拓展,網絡空間信息的傳播速度加快,自媒體成為重要的社會話語表達
176、空間。傳統媒體具有專業性強、權威度高的特點,具有很強的引導性和影響力;自媒體則有很強的交互性和自主性,相較于傳統媒體來說自由度明顯更高。傳統媒體和自媒體的結合,使得信息傳播更加迅速也更加自由,但信息傳播的過度自由存在著引發網絡暴力的風險。傳統媒體和自媒體的結合,使得信息傳播更加迅速也更加自由,但信息傳播的過度自由存在著引發網絡暴力的風險。36參見敬力嘉:網絡暴力公私合作治理模式的反思與調試,江漢論壇2023年第 5 期。37參見薛茜:網絡平臺責任“權力化”的治理路徑,上海法學研究集刊 2022年第 16卷。52網絡暴力防控與網絡文明專題調查報告調查顯示,七成受訪網民表示在參與網絡熱點討論前會查
177、閱主流媒體的相關報道,但僅四成網民對主流媒體的報道表示信任,有一成多網民明確表態不信任。溯其原因,個別主流媒體過往的失實、片面報道,也影響到部分網民對主流媒體的信任度。在近些年的一些社會熱點中,個別媒體出現報道失實、混淆視聽、涉嫌制造對立、避重就輕等問題,也消解了一部分網民對主流媒體的信任程度。主流媒體應重視公信力建設。面對網絡暴力,主流媒體應該發揮自身優勢來緩解網絡暴力對社會的負面影響,加強輿論引導作用,做好信息傳遞的“把關人”、“領導者”、“教育者”。建議報道秉承全面性、客觀性,幫助受眾更好地判斷事件,引導公眾更加深入了解問題實質,更加理性地看待熱點事件中的問題,減少和避免網絡暴力的發生。
178、新媒體或自媒體在新聞報道中,存在道德失范的現象,其原因有如下幾點。第一,自媒體從業者往往缺乏專業性,責任意識淡薄,易產生片面引導有失偏頗的現象,不少用戶往往未經過證實就對傳言、謠言進行報道,如 2022 年 7 月染粉紅頭發的女孩遭受的網暴即為自媒體用戶的歪曲引導和攻擊。其二,自媒體內容選擇不夠客觀,為了博得讀者眼球而選擇熱點話題蹭熱度或歪曲抹黑事實,在追逐資本利益、迎合受眾而失去了應有的公正和客觀。其三,自媒體往往為了炒作話題熱度進行片面報道,任意增減事實,或者用帶有煽動性的語言添油加醋,導致新聞內容失真,如重慶大巴墜江事故中,部分媒體濫用“女司機”等詞語加深性別刻板印象,或者未經調查就簡單
179、將一件社會熱點事件定性為“網絡暴力”,對部分平臺造成二次傷害,而未引導公眾關注其背后的真相和原因。同時,傳統媒體的不客觀報道對于網暴生成也有相應的責任。傳統媒體具有專業性和權威性,在大眾心中具有較高的可信度,因此傳統媒體進行報道時,對事態發展的影響將會不斷放大。一方面,在自媒體與社交網絡輿論相互交織的時代下,部分傳統媒體未經采訪調查就轉載自媒體的信息,客觀上助推了網暴;另一方面,有些情況下傳統媒體帶有引導性意味的辭措也是引發網暴的誘因之一,尤其是一些帶有很濃的偏見意味的詞語。因此,不論是自媒體還是傳統媒體,都有可能引發網絡暴力的發生或助推網絡暴力。對此,媒體應該承擔起相應的責任,積極提高自身的
180、水平和職業道德,防止因其失范行為助長網絡暴力。2.媒體在網暴治理中的責任2.媒體在網暴治理中的責任傳統媒體、社交媒體和自媒體在互聯網時代下的影響力各不相同。在治理網暴中,53不同類型的媒體應該根據自身特點承擔相應責任,對網民加以引導,增加理性客觀探討的聲音。為加強“自媒體”管理,壓實網站平臺信息內容管理主體責任,健全常態化管理制度機制,推動形成良好網絡輿論生態,2023 年 7 月 10 日,國家網信辦發布加強“自媒體”管理的通知。自媒體是私人化、平民化、普泛化、自主化的傳播者,一方面,自媒體賬號應該提高自身道德素養,減少對流量的追逐和非理性引導,更多關注事實本身,成為更多人了解熱點時事的窗口
181、,而非網絡暴力的助推器;另一方面,官媒下設的自媒體賬號更應該守住媒體的底線,明確新聞來源,報道完整事件,而非掐頭去尾地用片段吸引流量、引起爭議。相關的涉事媒體,本可以利用互聯網多進行正面的報道,卻時常用低俗或奪人眼球的視頻片段來吸引流量,如果媒體減少非理性的逐利行為,多加以自我規范,將在網暴治理中發揮正面作用。一方面,自媒體賬號應該提高自身道德素養,減少對流量的追逐和非理性引導,更多關注事實本身,成為更多人了解熱點時事的窗口,而非網絡暴力的助推器;另一方面,官媒下設的自媒體賬號更應該守住媒體的底線,明確新聞來源,報道完整事件,而非掐頭去尾地用片段吸引流量、引起爭議。相關的涉事媒體,本可以利用互
182、聯網多進行正面的報道,卻時常用低俗或奪人眼球的視頻片段來吸引流量,如果媒體減少非理性的逐利行為,多加以自我規范,將在網暴治理中發揮正面作用。其次,自媒體具有一定規模的影響力,在治理網暴的過程中可以對公眾進行正面引導,使公眾理性思考事件過程,合理討論背后的邏輯,或對一些容易引發歧義以及公眾不滿的言論進行解釋、澄清和科普,從而起到消弭抑制網暴的作用,也能適當減輕社會治理網暴的壓力。在前不久清華大學和東京大學合作研究日火箭發動機的事件中,網民因為不了解大學對外進行技術合作的合理性,基于樸素的民族感情而對相關主體群起攻之。如果此時自媒體能進行正面引導,澄清高校對外合作的合理合法性以及對科技發展的促進作
183、用,帶領公民進行理性探討,將發揮自身正面價值。最后,在互聯網時代下,傳統媒體可以利用互聯網進行輿論監督,而并非在熱點事件結束之后僅僅利用官媒等具有權威性的身份簡單給出定論。傳統媒體參與到網絡暴力的監督和治理過程中,也盡到了媒體的社會責任,有利于推動規范性媒介倫理的構建,堅守媒體客觀公正的基本立場。如今多數傳統媒體在各大平臺擁有官方賬號,有條件也有能力對熱點事件進行監督,對熱點討論背后的事實進行調查,從如今多數傳統媒體在各大平臺擁有官方賬號,有條件也有能力對熱點事件進行監督,對熱點討論背后的事實進行調查,從而發出更加理性客觀中立的聲音,為網絡暴力的治理出一份力。在互聯網背景下,媒體往往是信息的傳
184、播者、觀點的引導者,一旦尺度把握不準,則極有可能對網絡暴力產生推波助瀾的作用。要想盡到網暴治理的責任,媒體應該守住行業規范的底線,堅守新聞真實的底線,提升自身素養,構建規范的媒介倫理,而發出更加理性客觀中立的聲音,為網絡暴力的治理出一份力。在互聯網背景下,媒體往往是信息的傳播者、觀點的引導者,一旦尺度把握不準,則極有可能對網絡暴力產生推波助瀾的作用。要想盡到網暴治理的責任,媒體應該守住行業規范的底線,堅守新聞真實的底線,提升自身素養,構建規范的媒介倫理,更好地發揮作用進行監督和引導,創造更加良好友善的網絡環境,減少網絡暴力悲劇的發生。(五)網絡暴力治理的用戶倫理(五)網絡暴力治理的用戶倫理54
185、網絡暴力治理是全體網民的必修課網絡暴力治理是全體網民的必修課。網絡暴力防控與網絡文明專題調查報告顯示,當遭受網絡暴力攻擊時,網民回擊手段多集中于關閉評論或開啟過濾功能、向網站或有關部門舉報以及不予理會,分別占比為 38.84%、38.58%、35.32%,可以看出在應對網絡暴力的時候,選擇關閉評論或不予理會這樣的“回避式”方式仍占大多數,述諸法律、發帖回擊、求助親朋等“主動式”出擊方式選擇比例均未超過三成,使用度相對有限。根據一般認識規律而言,用戶作為行為主體在網暴治理中發揮的作用,由被動到主動可以分為三個階段。首先是被動接受平臺管理,其次是在規則的制約和引導下培養參與網暴治理的自主意識,最后
186、是對疑似網暴的行為進行主動監管與舉報。根據一般認識規律而言,用戶作為行為主體在網暴治理中發揮的作用,由被動到主動可以分為三個階段。首先是被動接受平臺管理,其次是在規則的制約和引導下培養參與網暴治理的自主意識,最后是對疑似網暴的行為進行主動監管與舉報。第一,遵守用戶公約,接受平臺的管理。幾乎每個平臺都設立了相應的規則和社區公約,當用戶作出違反公約的行為時,平臺會采取相應措施進行管理。如 2021 年小紅書在上線了社區公約,明確提出“真誠分享、友好互動”的社區價值觀,要求社區創作者在分享內容時應遵守避免過度修飾等分享原則;2022 年抖音更新社區自律公約中側重正向引導,倡導用戶建立平等友愛社區,對
187、涉及侵犯人身權益、違法與不良內容、不實信息、違反公序良俗、侵害未成年人權益、虛假與不誠信行為等行為和內容予以限定,并列舉了相應的處罰后果;2023 年 B 站發布社區公約,新增關聯賬號處罰、商譽權侵權、謠言、網暴等四大類內容的處理規則,并且針對在站外存在嚴重違規行為的用戶,即使其在站內未發生違規行為,也將以其自然人主體身份,對站內賬號進行一并處置。在這樣的規范下,如果用戶能嚴格遵守相應的管理公約,能在極大程度上降低網絡暴力發生的可能性。第二,提高自身素養,培養自主意識。多數參與網暴活動的用戶是在未意識到后果及其嚴重性的情況下,成為網暴的助推者。用戶參與網暴治理,應當學習網絡傳播相關法律、法規,
188、不斷加強自身道德建設,倡導從我做起,第二,提高自身素養,培養自主意識。多數參與網暴活動的用戶是在未意識到后果及其嚴重性的情況下,成為網暴的助推者。用戶參與網暴治理,應當學習網絡傳播相關法律、法規,不斷加強自身道德建設,倡導從我做起,樹立網絡發言的法律底線、道德原則與傳播方法,不做網暴的制造者或助推者。用戶素養的提高將會降低網絡暴力治理的難度。一方面,用戶會對自身措辭加以注意,減少惡意評論、私信等不良行為,減少不良信息的發布,從而助推網暴治理進程向前。樹立網絡發言的法律底線、道德原則與傳播方法,不做網暴的制造者或助推者。用戶素養的提高將會降低網絡暴力治理的難度。一方面,用戶會對自身措辭加以注意,
189、減少惡意評論、私信等不良行為,減少不良信息的發布,從而助推網暴治理進程向前。與此同時,用戶素養的提高離不開平臺的規范和社會的積極引導,如 B 站平臺要求用戶完成倫理公約的答題并取得合格線以上的分數才能獲得會員資格,從而享受更多服務的措施,能促進建立數字公民倫理,形成群體共同認可的價值和行為規范,這對于用戶素養的提升有著良好的作用。另一方面,用戶自主意識的提高,也能幫助其在遭遇網絡暴力攻擊時第一時間主張自己的權利,利用平臺提供的屏蔽、舉證等功能進行自我保護,從而避免受到進一步的傷害。另一方面,用戶自主意識的提高,也能幫助其在遭遇網絡暴力攻擊時第一時間主張自己的權利,利用平臺提供的屏蔽、舉證等功能
190、進行自我保護,從而避免受到進一步的傷害。55第三,用戶主動參與網暴治理,積極向平臺反映問題。用戶應當提升網暴辨別能力,積極應對網暴風險。用戶主動參與網暴治理,積極向平臺反映問題。用戶應當提升網暴辨別能力,積極應對網暴風險。目前,不少網絡平臺已經向用戶開放網暴舉報途徑,如微博已針對部分用戶開放“微博協管員”功能,博主可邀請粉絲對其評論、超話、粉絲群場景進行管理;抖音鼓勵用戶對網絡暴力相關違規內容進行舉報,并提供詳細佐證信息,即時對舉報內容及相關賬號進行判定、處置;知乎平臺也搭建了網絡暴力信息舉報專區,暢通私信場景下內容舉報渠道,從而提高投訴舉報速度,優化用戶使用體驗。在這樣的功能設置之下,用戶發
191、揮自身監管的作用,積極反映網絡暴力和不友善的內容,參與網暴治理。綜上所述,用戶從被動到主動,有多種方式參與網暴治理,減少網暴發生的可能性。用戶倫理的構建則從不同角度推動平臺網暴治理機制的構建與完善。綜上所述,用戶從被動到主動,有多種方式參與網暴治理,減少網暴發生的可能性。用戶倫理的構建則從不同角度推動平臺網暴治理機制的構建與完善。四、結論四、結論基于以上分析,本報告分別對網絡暴力的生成機制、網絡服務提供者在網絡暴力防范治理方面應當擔負的平臺責任、整體視角下網絡暴力的多元治理思路三方面形成以下結論。1.網絡暴力的生成機制一方面,網絡暴力是現實物理空間中處在法律懲罰邊際上的微小惡意通過互聯網相聯結
192、、進而發生“涌現”現象的產物;另一方面,網絡暴力有其灰度,即每一次引起嚴重后果的網絡暴力現象背后,往往會有規模大一個量級的、相對微弱的“準網絡暴力”現象,只是由于大量較微弱的“準網絡暴力”現象沒有超出當事人生理心理負擔的極限而未被認定為網絡暴力。這意味著任何僅從具體行為或個案出發描述網絡暴力、而不對行為規模加以限定和討論的定義方式,都將難以捕捉到網絡暴力治理的關鍵和核心。網絡暴力構成要加的界定,對于網絡暴力的治理而言事關重大。一旦網絡服務提供者和監管部門在網絡暴力的生成機制或定義層面陷入“某某行為是否屬于網絡暴力”的概念漩渦,有限的平臺算力、技術資源,以及寶貴的行政監管資源和司法資源,可能將無
193、窮無盡地投入到類網暴行為識別中,1.網絡暴力的生成機制一方面,網絡暴力是現實物理空間中處在法律懲罰邊際上的微小惡意通過互聯網相聯結、進而發生“涌現”現象的產物;另一方面,網絡暴力有其灰度,即每一次引起嚴重后果的網絡暴力現象背后,往往會有規模大一個量級的、相對微弱的“準網絡暴力”現象,只是由于大量較微弱的“準網絡暴力”現象沒有超出當事人生理心理負擔的極限而未被認定為網絡暴力。這意味著任何僅從具體行為或個案出發描述網絡暴力、而不對行為規模加以限定和討論的定義方式,都將難以捕捉到網絡暴力治理的關鍵和核心。網絡暴力構成要加的界定,對于網絡暴力的治理而言事關重大。一旦網絡服務提供者和監管部門在網絡暴力的
194、生成機制或定義層面陷入“某某行為是否屬于網絡暴力”的概念漩渦,有限的平臺算力、技術資源,以及寶貴的行政監管資源和司法資源,可能將無窮無盡地投入到類網暴行為識別中,最終使得政府有關部門不得不在“反網絡暴力的無限擴大”和“無法治理網絡暴力”之間做單選或多選題,并可能抑制互聯網經濟的活力,或導致網絡信息內容生態出現各種亂象。因此有必要明確,網絡暴力的生成機制直接且有力地塑造了網絡服務提供者對網56絡暴力現象作出的回應,也正是網絡暴力的生成機制影響著政府監管部門對網絡暴力的治理方式。要對網絡暴力加以治理,首先應當將重點放在信息規模的控制而不是內容類別的辨析上。網絡暴力的成因非常多元,根植于現代人類社會
195、經濟、政治、文化、技術和社會心理等多方面的現實條件。因此不同于其他由平臺規制不足導致的亂象,網絡暴力現象并非單純的平臺發力即可徹底解決,從治理效能出發,有必要采取多元治理方式加以回應,需要理性界定平臺責任及其邊界。2.網絡暴力防范治理的平臺責任網絡暴力是處在現行民事刑事法律監管治理能力邊界上或邊界之外的內容,是隨著互聯網發展而不斷變化的新情況、新問題,因此對網絡暴力加以治理既是國家法治能力邊界的一種拓展,也是當代人類文明發展在社會建設層面的需求?;诩夹g和平臺規則的網絡治理既是基于法律的網絡暴力治理得以展開的必要條件,也是網絡暴力多元治理機制建構最前沿的探索。在多元治理體系建構的意義要對網絡暴
196、力加以治理,首先應當將重點放在信息規模的控制而不是內容類別的辨析上。網絡暴力的成因非常多元,根植于現代人類社會經濟、政治、文化、技術和社會心理等多方面的現實條件。因此不同于其他由平臺規制不足導致的亂象,網絡暴力現象并非單純的平臺發力即可徹底解決,從治理效能出發,有必要采取多元治理方式加以回應,需要理性界定平臺責任及其邊界。2.網絡暴力防范治理的平臺責任網絡暴力是處在現行民事刑事法律監管治理能力邊界上或邊界之外的內容,是隨著互聯網發展而不斷變化的新情況、新問題,因此對網絡暴力加以治理既是國家法治能力邊界的一種拓展,也是當代人類文明發展在社會建設層面的需求?;诩夹g和平臺規則的網絡治理既是基于法律
197、的網絡暴力治理得以展開的必要條件,也是網絡暴力多元治理機制建構最前沿的探索。在多元治理體系建構的意義上,網絡暴力的平臺治理與謠言的平臺治理、互聯網絡信息內容生態的平臺治理高度相關并保持一致,都需要在前端服務、后端技術、秩序生成和維持等多個方面同時發力、多措并舉?,F階段我國頭部的信息內容型互聯網絡服務提供者基本都已經在平臺層面設置了網絡暴力防治措施、開發了相應的技術工具、明確了相應的平臺規則,進行了大量有益的探索。上,網絡暴力的平臺治理與謠言的平臺治理、互聯網絡信息內容生態的平臺治理高度相關并保持一致,都需要在前端服務、后端技術、秩序生成和維持等多個方面同時發力、多措并舉?,F階段我國頭部的信息內
198、容型互聯網絡服務提供者基本都已經在平臺層面設置了網絡暴力防治措施、開發了相應的技術工具、明確了相應的平臺規則,進行了大量有益的探索。針對這些既有的探索,可以通過建立系統化評價指標的方式,確立行業的一般實踐標準,對網絡服務平臺網絡暴力的治理實效加以考察。此外,通過對主流平臺的測評和評估,能夠促進行業標準和指引的形成,對行業最佳實踐進行倡導和鼓勵,并可將具有代表性的行業實踐和典型案例進行推廣,為網絡暴力防治的專門立法和政策制定提供借鑒思路。在具體的網絡暴力事件處置中,不宜唯結果論,而應綜合考察平臺是否已經采取合理的措施、建立有效的防范治理和攔截保護機制,基于此來評估平臺是否已經履行主體責任,在充分
199、保證用戶權益和互在具體的網絡暴力事件處置中,不宜唯結果論,而應綜合考察平臺是否已經采取合理的措施、建立有效的防范治理和攔截保護機制,基于此來評估平臺是否已經履行主體責任,在充分保證用戶權益和互聯網絡空間信息內容生態秩序的基礎上,最大限度地保護互聯網經濟的活力和創造力。聯網絡空間信息內容生態秩序的基礎上,最大限度地保護互聯網經濟的活力和創造力。在明確網絡暴力平臺治理思路和責任的同時,同樣有必要明確監管部門的職責,明確媒體、用戶等各自在網絡暴力治理過程中的作用、責任義務和價值倫理。3.網絡暴力的多元治理思路3.網絡暴力的多元治理思路總體上說,網絡暴力最重要和最前端的治理主體是網絡服務提供者,但由于
200、網絡57暴力現象的生成機制較為復雜,僅僅依靠平臺難以在現有法律法規體系內實現有效防治,而網絡暴力的治理又涉及到用戶權益和網絡信息內容生態秩序。綜合來看,網絡暴力的防范治理最終要依靠社會各領域各環節各類主體的協作來形成有效的合力,從而在保障互聯網絡空間經濟活力充分活躍、輿論監督作用充分發揮、用戶權益充分實現的基礎上,將處在法律邊際位置但已經影響社會生產乃至社會公共秩序的網絡暴力行為納入有效的治理射程。實現有效的多元治理,需要政府監管部門在推動反網絡暴力專門立法、制定行業標準規范等方面進一步展開工作,需要平臺建立系統化的技術和管理防范措施,需要傳統媒體、社交媒體和自媒體在網絡暴力生成階段、治理階段承擔起更多的媒體責任,需要用戶在遵守平臺規則、培養網絡暴力防治意識、參與網絡暴力防治監管工作等方面進一步強化互聯網空間公民素養。網絡暴力的生成來自于復雜的社會互動,對網絡暴力的治理也無法僅僅靠政府監管和平臺治理措施,最終勢必是要靠將網絡暴力的防范治理推廣為廣大網民的內在倫理,才能得以從根基上實現針對網絡暴力的有效治理。