自年初以來，DeepSeek人工智能大模型在全球范圍內掀起熱潮，引發廣泛關注與應用。DeepSeek的廣泛應用為網絡安全帶來哪些挑戰？網絡安全行業如何利用好DeepSeek工具，共贏發展新機遇？

2025年3月14日，由《網絡安全與數據治理》期刊理事會組織成員單位發起的技術沙龍活動在北京舉行，圍繞“網絡安全+DeepSeek”主題，與會的期刊理事會成員及行業內相關專家、學者、科研市場人員40余人展開熱烈討論。

北京交通大學教授盧云龍、中央民族大學副教授于靜、深圳云天勵飛技術股份有限公司技術負責人余曉填、深圳昂楷科技有限公司董事長劉永波、杭州安恒信息技術股份有限公司技術總監徐立松、北京山石網科信息技術有限公司副總裁賈宇分別帶來精彩的主題報告。本次活動由著名網絡安全專家郭守祥主持。

活動現場

北京交通大學盧云龍教授作了題為“AI Agent智能體：從云端智能到邊緣泛在”的主題報告，從AI Agent智能體的發展背景、核心框架與范式、關鍵技術、行業應用、挑戰與展望等方面詳細解讀了AI Agent技術。他指出，在國家層面，“十四五”規劃明確將人工智能作為核心驅動力，推動智能經濟與實體經濟的深度融合，AI Agent作為新一代生產力工具被納入重點發展領域。DeepSeek的廣泛應用，將加速通用人工智能（AGI）時代到來，AI Agent將成為通往AGI的基石。在強化學習的推動下，DeepSeek展現出了此前未曾預見的推理能力，同時通過工程與算法等深度耦合，大幅降低成本。DeepSeek開源其模型預示著開源社區正以全新的方式推進人工智能技術的發展，加速通用人工智能時代到來并推動AI Agent技術更加成熟。

AI Agent在車聯網、移動通信、智慧交通、智慧醫療、新興大模型、通用Agent、工作服務、安全服務等方面有廣泛應用。盧云龍表示，目前大模型在網絡安全領域的應用，主要是以智能體為表現形式，結合安全的場景、數據、知識、工具、流程等構建完整的應用服務。安全智能體的應用場景包括供應鏈安全、流量檢測、郵件分析、數據安全、樣本分析、安全運營等，全面賦能網絡安全。

北京交通大學教授 盧云龍

中央民族大學于靜副教授帶來“生成式人工智能大模型確權技術與挑戰”的主題報告。當前，人工智能包括大模型技術得到突飛猛進的發展，伴生而來的是，如何發揮數據在其中的核心價值。在數據流通共享的過程中，一個基礎的問題就是如何確定數據的所有權。如果沒有確權作為基礎保障，整個流通交易包括權益分配很難進行。

于靜指出，生成式模型面臨的確權問題可總結為兩個方面：第一，模型確權，涉及到模型盜用，包括模型微調、壓縮等；模型濫用，即用戶使用模型生成惡意內容。第二，數據確權，包括模型訓練階段，訓練數據未授權使用，以及模型使用階段，提示數據未授權使用。

在模型確權關鍵技術方面，對于模型身份，可使用白盒水印、黑盒水印、灰盒水印、無盒水印等方法，直接在模型中嵌入水印，當模型被盜取時，通過驗證水印來驗證模型身份。對于模型用戶身份，可使用模型水印和模型指紋方法，在已知分發用戶的情況下，在分發前向模型中嵌入用戶水印（指紋），通過身份驗證判斷模型的使用者/操作者。

在數據確權方面，關鍵技術包括數據水印、數據歸因和對抗攻擊，分別對應任務數據身份認證、訓練數據溯源和數據訪問控制。

于靜表示，在生成式人工智能模型面臨知識產權保護或惡意信息溯源時，模型水印可以被視為一種重要監管手段。生成式模型水印技術方興未艾，相關技術仍面臨嚴峻挑戰，如模型水印面對多維度攻擊的魯棒性，模型水印分配、存儲、驗證的安全性，開放環境下的訓練數據歸因，提示圖像的有效歸因等。這些有待行業內專家學者的進一步探索。

中央民族大學副教授 于靜

深圳云天勵飛技術股份有限公司技術負責人余曉填作了題為“DeepSeek大模型訓練策略和算法優化技術演進”的主題報告。報告詳細介紹了DeepSeek的發展路徑以及核心技術，結合云天勵飛的落地場景，分享了DeepSeek在政務場景中的賦能應用。余曉填指出，DeepSeek的能力仍存在局限性，AI是助手而非對手。因為DeepSeek大模型落地應用面臨諸多挑戰，這包括性能挑戰：國產化的性能仍有瓶頸，表現為顯存與帶寬不足，并發效率待提升，長文本處理能力有限；性價比挑戰：最佳硬件成本需要優化，R1-671B雖是目前最好的大模型，但具體場景可能通過多尺寸模型協同才經濟；安全挑戰：部署應用安全系統缺失，場景大模型應用目前模型層與應用層之間存在架構脫節，需要基于統一系統接口，實現內容安全審核、分級權限管理和接口對接等；數據安全治理挑戰：閉環數據治理難度大，DeepSeek通用能力無法直接落地應用，需要大量的現有業務流程梳理、本地知識庫治理等工作。所以在應用場景落地中，即使是領先的DeepSeek-R1也會犯常識性錯誤，未來一段時間AI仍是輔助角色，并非取代人的對手。

活動現場

深圳昂楷科技有限公司董事長劉永波作了題為“大模型數據安全防護方案探討”的主題報告。他指出，大模型系統更容易存在嚴重的數據安全問題。不管是公有模型還是私域模型，都面臨數據泄露、竊取、篡改等諸多風險，數據安全治理迫在眉睫。

劉永波指出，為應對大模型系統數據安全挑戰，必須采用數據安全運營理念進行數據安全建設。大模型系統數據安全保護對象、參與主體、訪問方式等眾多，在數據安全防護過程中，需要從頂層規劃開始，明確安全策略方案、規范流程等；再利用安全防護技術對安全風險進行有效控制；同時，還需要持續運營，以保證持續防護效果。

另一方面，大模型也可賦能數據安全。利用大模型的內容生成、自然語言處理、上下文理解、特征深度挖掘等能力，在數據安全產品研發、產品能力、產品交付等方面進行賦能，可顯著提升研發效率、優化用戶體驗、推動產品創新。在進行敏感數據識別過程中調用大模型能力，可大幅提升識別準確率。利用大模型強大的分析與決策能力，基于數據、身份、權限、行為、策略五要素，可對數據安全風險進行智能識別、智能挖掘，以及預判深層次未知風險。

深圳昂楷科技有限公司董事長 劉永波

杭州安恒信息技術股份有限公司技術總監徐立松介紹了DeepSeek安全垂域解決方案——恒腦智能體。安全垂域大模型與滿血R1協同工作，實現安全與擴展性的兼顧。恒腦智能體框架在安全性方面，借助容器隔離技術達成代碼執行隔離，針對租戶的知識庫訪問及服務調用實施嚴格的權限管控，結合內容安全過濾、熔斷回復機制以及價值觀對齊機制，全方位保障系統安全。在功能性方面，通過深度應用推理加速、KV壓縮及上下文緩存等技術，借助任務調度機制，實現復雜邏輯編排、多邊并發執行及長期記憶管理和使用；基于泛節點架構，提供高度自定義體驗。在靈活性方面，支持接入不同廠商、遵循不同規則的大模型，借助網關實現靈活調度，同時能夠實現結構化、非結構化、半結構化知識的靈活接入。在適配性方面，具備廣泛的兼容性，可與英偉達 A、H、L及 4090D全系列算力無縫適配，同時兼容華為昇騰、海光K100_AI系列，并能夠在麒麟、飛騰等國產化操作系統環境下完成部署與應用。

杭州安恒信息技術股份有限公司技術總監 徐立松

北京山石網科信息技術有限公司副總裁賈宇分享了“智領未來，山石網科DeepSeek之路”的主題報告。他指出，大模型雖然具有強大的功能，但也存在巨大的安全風險，包括提示詞攻擊、供應鏈安全、模型無界濫用、數據泄露、模型攻擊、內容合規等。山石網科秉承“開放融合、AI賦能、智慧運維”理念，踐行可持續安全，實現多產品，多業務，多伙伴之間的深度、智能協同防護，其自主研發的大模型應用防火墻輕松開啟大模型安全防護，讓AI更安全。

經過十多年AI能力積累，山石網科已將AI全面賦能產品和公司發展，其DeepSeek大模型一體化安全解決方案具有開箱即用、多部署形態、安全加固、算力開放的特點，實現了提升業務安全性，優化安全運營效率，滿足數據隱私與合規，助力業務創新，全面開啟網安新紀元。

北京山石網科信息技術有限公司副總裁 賈宇

此次沙龍活動為網絡安全發展與DeepSeek大模型搭建了一個融合互通的平臺，與會者普遍認為，在大模型時代下，攻擊形式和網安需求的改變將刺激網絡安全市場，對行業發展有一定積極作用。在自由交流環節，大家暢所欲言、熱烈討論，紛紛表示收獲頗多。

未來，《網絡安全與數據治理》期刊理事會將組織更多主題的沙龍活動，服務于網絡安全與數據治理領域的技術交流、科技創新、產業發展。

《網絡安全與數據治理》期刊理事會于2023年底正式成立，旨在服務于網絡強國和數字中國建設，匯聚“政、產、學、研、用”各領域智庫資源，開展網絡安全和數據治理領域重大問題研究、學術交流，促進優秀工程方案和解決方案的推廣應用。