20世紀，美國人靠計算機讓導彈飛行地更精準，如今我們卻把鍵盤當武器，在互聯網上對我們的同胞發起戰爭。
01 網絡暴力，是一場眾人之罪
近期，網絡暴力事件頻發，并且還在持續不斷發酵，其產生的惡劣影響也在快速擴大。從尋親男孩劉學州，到染頭發女孩鄭靈華，再到前幾天震驚全網的5.25校園交通事故，被撞身亡的六歲小學生母親因網暴而選擇輕生，甚至是近日的“國企高管牽手異性逛街”網絡反腐事件，都已演變成了一場對男女當事人的“網暴狂歡”。
在網絡世界中，施暴者躲在角落，無所顧忌地發表言論，將鍵盤當作“利刃”隨意攻擊著別人。然而，躲在一張張“匿名”面具之后的他們，大多數只是現實中的普通人，他們在網絡上表現出了極度的冷酷、漠然。有心理學家對網暴者的心理進行分析，認為他們多為“兩面人”：現實生活中的“羊”、虛擬世界中的“狼”。
網絡暴力的侵害形式主要包括威脅、騷擾、侮辱和社會性孤立等，行為通常伴有侵犯他人名譽、披露他人隱私等情況。由于違法成本低，社交媒體、網絡集體性地放大了人性陰暗的一面，網暴對公眾人身權利造成的實質性傷害，已經遠遠超出了網絡輿論的邊界。
02 網絡空間，不存在法外之地
網絡空間，不存在法外之地。倘若人人都可以躲在屏幕背后，披著匿名的殼子，或抱著無知者無罪、法不責眾的心態，不帶任何思量就去任意一次次地敲下回車鍵，去傷害一個陌生人，這不僅是道德敗壞行為，更是一種私人執法行為，是對法律威嚴的無視。
網暴頑疾由來已久，這一頑疾的復雜程度、治理難度，確實超乎想象。迄今為止，沒有任何國家、任何企業成功根治網暴。與傳統違法犯罪不同，網絡暴力往往針對素不相識的陌生人實施，被害人在確認侵害人、收集證據等方面存在現實困難，維權成本極高，同時也存在著定性難、監管難的問題。法律定罪需要完成的證據鏈，在落地過程中往往需要耗費巨大的成本和資源。所以世界各國往往會采用政府監管、企業互動、社會自治和教育等“組合拳”形式推動網絡生態的健康發展。
作為最早對網絡作出規范的國家，1997年6月，德國聯邦議院通過了世界上首部全面規范網絡的法律《多媒體法》(德文簡稱IUKDG)，該法實施的目的在于保護用戶公民權利和公共利益，并以專門篇幅對網絡服務商的責任、義務作出具體規定。
在美國，對網絡暴力沒有明確的界定，理論上主要是分為網絡欺凌、網絡跟蹤和網絡騷擾。2009年4月，美國出臺了歷史上第一部針對青少年網絡欺凌的專項法律，將青少年網絡隱私安全作為防治青少年網絡欺凌工作的重心，出臺的法律不僅限制網絡上有害信息的傳播，還保護兒童在網絡世界的隱私安全，從而有效保護青少年免受或少受網絡欺凌的威脅。
這些年，中國始終高度重視互聯網的發展，從來沒有停止過對網絡環境的治理。2022年，國家網信辦就發布《關于切實加強網絡暴力治理的通知》，明確要求禁止針對個人集中發布侮辱謾罵、造謠誹謗、侵犯隱私等違法信息及其他不友善信息;禁止侵害他人合法權益，擾亂正常網絡秩序;要求網站平臺壓實主體責任，健全完善長效工作機制，有效保障廣大網民合法權益。
近日，最高人民法院、最高人民檢察院、公安部三部門起草了《關于依法懲治網絡暴力違法犯罪的指導意見(征求意見稿)》，向社會公開征求意見，對在信息網絡上制造、散布謠言，采取肆意謾罵、惡毒攻擊、披露隱私等方式公然侮辱他人的行為將進行依法嚴懲。此次“兩高一部”的聯合動作，可能迎來史上最嚴厲的網絡暴力懲治法規。
“兩高一部”的《征求意見》將重點針對以下行為和人群：
1.重點打擊行為: 對于網絡誹謗、網絡侮辱、侵擾公民個人信息、線下滋擾以及借網暴事件進行惡意營銷炒作的，將依法進行嚴懲。比如網絡誹謗行為，將以誹謗罪定罪處罰，網絡侮辱行為，將以侮辱罪定罪處罰。
2. 重點打擊對象：對惡意發起者、組織者、推波助瀾以及屢教不改的群體，將堅持嚴格執法，對于網絡暴力違法犯罪，應當依法嚴肅追究，切實矯正“法不責眾”錯誤傾向。
3.重點犯罪情形：(1)針對未成年人、殘疾人實施的;(2)組織“水軍“、“打手”實施的;(3)編造“涉性”話題侵害他人人格尊嚴的;(4)利用“深度合成”技術發布違法或者不良信息，違背公序良俗、倫理道德的;(5)網絡服務提供者發起、組織的。對實施以上的網絡暴力違法犯罪，將從重處罰。
因為網暴而造成被害人精神失常、自 殺等嚴重后果的，將會被認定為刑法第 246 條的「嚴重危害社會秩序」罪。
從《征求意見》中所覆蓋的重點人群和違法行為中可以看出，目前網絡暴力的施加者不僅僅包括普通網民，也包含了網絡暴力團伙、有組織性的網絡黑產等群體。這些群體在利益的驅動下，通常會繞開平臺的相關機制，進行有組織、有手段地實施網絡暴力行為，比如通過注冊運營大量社交賬號，通過社交平臺相互推廣引流，或者通過鼓動網民、水軍造勢等方式使輿論發酵，以此牟利。
對平臺企業來說，平臺生態惡化及社會輿論帶來負面聲譽足以讓企業產生巨大的運營商業風險。當商業與社會現實擺在面前，平臺如何以法律為準繩，并通過技術、平臺規則和機制等手段去解決這些異化現象，重新衡量、規劃和引導平臺空間與用戶的行為關系，讓平臺回歸健康的生態運營是目前無法逃避的一個問題。
03 用 AI 技術，對抗網暴
網易易盾，依托于網易集團20多年的技術沉淀與傳媒行業的深厚積累，在網絡輿論的風險控制和平臺不良內容的監測管理上有豐富的實踐經驗，可以通過輿情預警、建設【人工+AI+舉報】三級審核流程、建立審核員培訓制度維護平臺內容的生態治理和風險管控，有效減少平臺不良言論，控制網絡暴力的影響力和危害性。
其中輿情預警建設是放在首位的，易盾可以幫助平臺打造輿情系統，實時搜索網絡傳播中的熱點問題及有害言論，并將敏感信息錄入形成相應規避詞與輿情工作報告，上報主管部門，直接規避用戶在平臺上發出存有規避詞的信息。
同時，易盾的AI能力在幫助網暴治理方面可發揮出重要作用，其中，對嘲諷、低俗內容的識別以及情感正負面判斷等能力，是AI技術的重要應用之一。
首先，AI可以利用自然語言處理技術識別出帶有嘲諷、低俗成分的言論，并對其進行分類與標記。通過對這些言論進行識別和分類，網絡管理人員可以更快速地發現和處理違規言論，從而減少網暴事件的發生。其次，AI可以通過情感分析技術對言論的情感正負面進行判斷，從而更好地評估言論的影響力和危害程度。例如，對于帶有負面情感的言論，AI可以快速判斷其可能會引起的社會影響，從而更好地采取應對措施，保障公關安全與社會穩定。
在用戶管理方面，易盾還可以幫助平臺進行用戶的實名認證來限制匿名用戶發布的不良言論。對用戶產生的內容方面做分層處理，建立不同層級違規、違法內容數據庫，再用AI技術對違規、違法等內容進行識別算法建模，并不斷完善模型數據庫。當用戶發出內容后， 可以結合內容與數據庫做對照，將違規內容直接篩出。
我們相信人性有向善的本能，但就像向日葵一樣，面對陽光才能生長。網絡暴力的背后，不管人心之惡、技術之惡還是資本之惡，易盾一直希望能成為那道可以驅散黑暗的陽光，給網民一個陽光、向上、溫暖的網絡空間。
申請創業報道，分享創業好點子。點擊此處，共同探討創業新機遇！
