近年來，恐怖組織和極端勢力越來越多地將社交媒體作為工具，傳播暴恐思想、進行招募培訓、相互傳遞訊息、組織恐怖活動等。一些青少年因長期受網絡暴恐內容毒害，導致思想極化，甚至淪為恐怖活動幫兇。各國和地區越來越認識到，社交媒體暴恐內容已經嚴重威脅國家安全，給國際反恐行動帶來巨大挑戰，必須加強治理、重拳打擊。

　　一、社交媒體暴恐內容國際治理的現狀

　　目前，國際社會在社交媒體暴恐內容治理方面沒有統一和權威的國際法。歐洲委員會于 2005 年發布的《防止恐怖主義公約》（European Conventionon the Prevention of Terrorism）要求締約國將“公開煽動恐怖主義行為”（public provocation to commita terrorist offence）定罪懲治。但是，聯合國及其他多邊框架下的 30 多個反恐公約，沒有一項明確要求成員國打擊網絡暴恐內容。聯合國、亞非法協等多邊組織曾就網絡有害內容的國際治理組織過一些討論，但沒有實質的國際立法動作。2019 年新西蘭清真寺槍擊案后，在新西蘭總理阿德恩與法國總統馬克龍共同推動下，英國、加拿大等 18 個國家的政要與臉書、微軟等 8 家社交媒體平臺及科技公司的代表共同簽署《克賴斯特徹奇倡議》（ChristchurchCall），承諾加強協調合作，采取更有力措施及時刪除社交媒體上的暴恐內容，遏制暴力極端主義的網上擴散。2021 年 5 月，阿德恩與馬克龍共同主持召開《克賴斯特徹奇倡議》簽署兩周年峰會，特朗普時期一直拒絕加入的美國政府宣布加入倡議。至此，倡議簽署國達到 60 個，企業達到 10 個，臉書、谷歌、推特、微軟、亞馬遜等均在其中。但總體看，參與倡議的國家和企業數量仍比較有限，倡議本身也不具法律約束力，極大制約了其在社交媒體暴恐內容治理方面的作用。

　　對暴恐內容的治理現階段仍主要依賴平臺自律和各國法律的規制。美國的《通信規范法》（Communication Decency Act）第 230 節使社交媒體得以對用戶發布的內容豁免民事責任，同時將網絡內容的監管和處置權幾乎完全交予社交媒體。社交媒體在新用戶注冊時，會要求用戶接受統一適用的“社區守則”，絕大多數“社區守則”禁止用戶在平臺上散布恐怖主義或仇恨言論。平臺通過網絡內容審核機制，依據“社區守則”對暴恐內容采取屏蔽、刪除等處理措施，甚至直接封禁發布此類內容的用戶賬號，以阻止其傳播擴散。一些大的社交媒體也加強了在處置暴恐內容方面的合作。例如，臉書、推特、谷歌和微軟于 2016 年共同發起成立“全球互聯網反恐論壇”，建立了一個甄別暴恐內容的哈希共享數據庫，并承諾與加入該論壇的各國企業分享該技術。加入論壇的任何一家企業如發現相關暴恐內容，首先自己會刪除，然后還會將該內容的哈希值放入數據庫，其他成員公司可以查看這個哈希值，從自己的平臺查找和刪除相同的內容，這有利于提升企業間的協作，在更廣范圍遏制暴恐內容的傳播。

　　隨著社交媒體上暴恐內容的泛濫，各國也加強了打擊力度。一些國家將在社交媒體傳播暴恐內容的行為規定為網絡犯罪。歐洲傳統上將言論和表達自由作為基本人權，對網絡內容的監管態度寬松，主要依靠社交媒體通過自律處理，政府很少介入。但近年來網絡暴恐內容泛濫使政府的監管變得更加積極主動。例如，德國聯邦議會于 2017 年 6 月通過了《改進社交網絡中的法律執行的法案》（NetzDG Law），明確將建立恐怖組織、煽動族群仇恨的網絡言論規定為“違法內容”，要求平臺對其進行通報并及時刪除，否則將追究法律責任。法國國民議會于 2020 年 5 月通過《打擊網絡仇恨言論法》（Online Hate SpeechLaw），將包含煽動恐怖主義行為、為恐怖主義罪辯護、鼓動仇恨的內容認定為非法，強制平臺在 24 小時內刪除，否則就承擔法律責任。歐盟于 2021 年通過的《防止恐怖主義內容在線傳播條例》（Terrorist ContentOnline：Council Agrees on Regulation）（將于 2022 年5 月生效）規定，歐盟任一成員國均有權向在歐盟境內運營的社交媒體發出指令，命令其在一小時內刪除相關恐怖主義內容，或確保所有歐盟成員國無法訪問該內容，否則將對其處以最高可達全年營業額 4%的罰款。英國 2019 年發布《在線危害白皮書》（OnlineHarms White Paper），提議立法強化社交媒體自我監管，以保護用戶免受恐怖主義等有害內容影響。根據媒體報道，英國議會正擬定《在線危害法案》OnlineHarms Bill），預計于 2021 年內出臺。

　　歐洲之外的其他西方國家在這方面也有很多動作。澳大利亞政府于 2019 年通過刑法修正案，強化打擊網絡暴恐內容，對社交媒體克以嚴格的內容監管責任。新西蘭、馬來西亞、新加坡等國也都紛紛通過立法等手段，加強對社交媒體平臺暴恐等有害內容的監管。加拿大政府正在推進打擊恐怖主義等有害內容的立法。

　　二、社交媒體暴恐內容國際治理的難點

　　一是暴恐內容難界定。國際層面對暴力極端主義和恐怖主義的定義缺乏普遍共識。2001 年提交聯大的《關于國際恐怖主義的全面公約》（ComprehensiveConvention on International Terrorism）草案對恐怖主義進行了定義，但也正因各國對該定義存在分歧，公約談判進程陷入停滯。目前，對暴恐內容的界定很大程度上由各個成員國自主決定，其中難免隱含政治性成分，且受到各國不同文化、風俗、價值觀深度影響。從社交媒體角度而言，一些暴恐內容處于“社區守則”的灰色地帶，作出處理決定常常很困難。例如，社交媒體上不少支持恐怖主義的言論多含有政治宣示、自我表達等成分，在美國受到憲法第一修正案保護，社交媒體采取刪除等措施十分謹慎。

　　二是不同管網治網理念難協調。不同國家對網絡內容的治理理念和模式存在差異。政府管理互聯網上與暴恐相關內容的權力邊界何在，一直都存在爭議。中國和俄羅斯等國家強調依法管理互聯網的主權權力，嚴格規管網絡有害內容，希望營造安全有序的網絡空間。而美國等西方國家則強調所謂“網絡言論自由”，反對政府過度介入網絡內容監管，主張“無為而治”，通過平臺自律處理網絡有害內容。在這一背景下，當一個國家要求刪除它認為的暴恐內容，但這些內容托管在另一個管網治網理念完全不同的國家的服務器上時，這種沖突常會在個案中被擺上桌面。

　　三是平衡內容審核與保障人權難。社交媒體刪除或屏蔽網絡內容主要與用戶的言論和表達自由相關。根據《世界人權宣言》（Universal Declarationof Human Rights）和《公民和政治權利國際公約》（International Covenant on Civil and PoliticalRights），人人享有言論和表達自由，國家應當保護此項人權。《歐洲人權公約》（European Conventionon Human Rights）等其他區域人權條約也有類似條款。這些人權條約的締約國承擔保護言論與表達自由的國際法義務，具體到社交媒體內容治理，則是通過立法監督本國社交媒體在審核用戶內容時不侵犯言論與表達自由。

　　社交媒體平臺也有“尊重人權”的責任。根據聯合國人權理事會的《工商企業與人權：實施聯合國“保護、尊重和補救”框架指導原則》（Guiding Principles on Business and Human Rights:Implementing the United Nations“Protect, Respect andRemedy”Framework），企業應切實尊重人權，將其內化為戰略、愿景或文化，綜合評估其活動對人權的潛在影響，在已造成負面影響后積極補救。行使言論和表達自由也要受到國際人權法的一些限制。例如，出于保障國家安全或公共秩序的需要，或在宣布了“緊急狀態”情況下，國家可以對言論與表達自由進行合法限制。煽動民族、種族或宗教仇恨的言論也不受言論與表達自由的保護。在社交媒體煽動恐怖主義以號召更多人支持暴恐行動，是暴力極端勢力和恐怖組織常用的戰略。而禁止煽動恐怖主義是保護國家安全和公共秩序的應有之義，構成上述限制言論與表達自由的合法理由。

　　更突出的挑戰在于，很多網絡內容游走在“煽動恐怖主義”的邊緣，國家既要審慎處理這些言論，又要確保相關的措施是必要和相稱的。聯合國《互聯網被用于恐怖主義》報告（The Use of the Internetfor Terrorist Purposes）也指出，在評估對網絡內容的干預辦法和水平時，政府需考慮有關言論自由權的憲法或其他保障等多種因素。此外，對暴恐內容的認定往往涉及法律、倫理、價值觀等層面，一些社交媒體用來審核內容的網絡過濾、內容 ID、算法等技術可能導致過度刪除或算法歧視等問題，存在引發人權和倫理問題的風險。

　　四是國際合作難。互聯網的全球聯通使社交媒體內容治理天然就是跨國問題，但完善的國際合作機制卻尚未建立。實體上，各國認定網絡暴恐內容的標準存在差異。經常出現的情況是，同一個涉嫌暴恐的內容在一國可能違法并會被平臺移除，但在另一國可能不違法。為調查網絡暴恐內容，一國經常需要向另一國提出司法協助請求，調取某些重要的數據，但如果相關內容在被請求國不構成暴恐內容，就會被拒絕。程序上，國家對網絡暴恐內容的管轄權需要協調，根據屬地管轄原則，一國只對本國境內的網絡有害內容有管轄權，可以要求平臺采取屏蔽、刪除等活動。2019年，歐盟法院在皮斯澤克（Piesczek）訴臉書一案中開創性地提出了歐盟對網絡內容的域外管轄權。根據這個判決，社交媒體的內容如果被歐盟或其任一成員國認定為非法，則社交媒體不僅應在歐盟境內刪除非法內容，還應在全球范圍內刪除。歐盟法院的這一判決在國際上引起了很多非議，側面反映了各國對“全球刪帖”仍持消極態度。對域外的網絡有害內容如何處理，仍將是各國長期頭疼的難題。社交媒體之間的合作也有局限性，類似“全球互聯網反恐論壇”的信息共享與合作機制只能對各家企業存在共識的有害內容發揮作用，但不同社交媒體認定有害內容的標準常常并不一致。

　　三、社交媒體暴恐內容國際治理的前景展望

　　雖然對社交媒體暴恐內容的國際治理面臨各種挑戰，但各國的合作共識正逐步凝聚。2017 年的 G7峰會呼吁社交媒體平臺加大合作力度，共同治理網絡暴恐內容，提升平臺自動檢測此類內容的能力。2019 年的 G20 峰會發布《關于防止利用互聯網從事恐怖主義和暴力極端主義活動的聲明》（G20 OsakaLeaders' Statement on Preventing Exploitation of theInternet for Terrorism and Violent Extremism Conduciveto Terrorism），強調各國政府有責任加強與網絡平臺的合作，防止恐怖主義勢力利用網絡進行恐怖活動。2005 年 7 月 倫敦恐襲后，聯合國安理會通過第 1642號決議，呼吁各國預防和禁止“煽動恐怖主義”的行為。

　　打擊網絡暴恐內容的國際法雖然發展緩慢，但也并非全無建樹。歐盟正計劃就打擊仇恨言論立法，將有助于進一步明確仇恨言論和暴恐言論的關聯與區別。《克賴斯特徹奇倡議》的簽署國逐年增加，有成為某種程度的國際標準的潛力。正如外交部涉外安全事務專員程國平在《全球網絡反恐格局中的中國力量》一文中所言，在應對網絡恐怖主義問題上，沒有哪個國家能夠獨善其身，也沒有哪個政府或組織能夠單獨應對，需要在全球、區域和國家各層面采取協調一致的行動。由于各國逐漸認識到打擊網絡暴恐內容的緊迫性，在該問題上也有較高的政治共識，未來預計將在不同多邊平臺圍繞暴恐內容的認定標準與國際合作等關鍵問題展開討論，甚至不排除開啟一個國際談判進程。

　　隨著互聯網領域多利益攸關方的治理模式獲得更多認可，社交媒體暴恐內容的國際治理未來也將日益呈現國家、企業、技術社群等不同主體多方共治的特點。國家要承擔主導角色，推進相關政策與立法的出臺和完善，積極參與網絡有害內容治理的國際討論，推動形成打擊網絡有害內容的國際規則。平臺企業要提升內容審核技術和能力，更迅速、精準地識別和處理暴恐內容，加強與其他平臺的信息共享，針對打擊暴恐內容的需要改進內容政策，主動參與行業標準和規則的制定。只有各方共同努力，才能在社交媒體上徹底清除暴恐內容，打贏網絡反恐的一場硬仗。