<button id="kwo0m"><tbody id="kwo0m"></tbody></button>
  • <button id="kwo0m"><input id="kwo0m"></input></button>
    <code id="kwo0m"><acronym id="kwo0m"></acronym></code>
  • <sup id="kwo0m"><tbody id="kwo0m"></tbody></sup>
    新華通訊社主管

    首頁 >> 正文

    國產大模型“急呼”安全護航
    2025-03-03 記者 吳蔚 來源:經濟參考報

      隨著DeepSeek(深度求索)的全球爆火,網絡攻擊也接踵而至,引發業界對大模型安全的關注。專家認為,此次針對DeepSeek的網絡攻擊持續時間長、破壞力大、手段多、變化快,折射出當前復雜而嚴峻的網絡安全形勢。

      DeepSeek頻遭攻擊

      奇安信Xlab實驗室近期連續發布的安全報告顯示,今年以來,DeepSeek先后遭遇反射攻擊、HTTP代理攻擊、DDoS攻擊(分布式拒絕服務攻擊)、僵尸網絡等各種安全威脅,甚至一度對正常服務造成嚴重影響。

      奇安信Xlab實驗室安全專家王輝說,與以往的網絡攻擊事件相比,DeepSeek此輪遭遇的網絡安全攻擊具有持續時間長、破壞力大、手段多、變化快等特征。

      監測數據顯示,從1月3日開始,1月22日攻擊升級,1月27、28日進入第一個高峰,1月30日僵尸網絡下場……這波針對DeepSeek的網絡攻擊持續時間之長前所未有,甚至出現攻擊常態化現象。

      不僅如此,此輪網絡攻擊影響范圍廣,烈度不斷升級,破壞力大,潛在威脅不容忽視。監測數據顯示,2024年12月1日至2025年2月3日期間,共出現了2650個仿冒DeepSeek的域名,這些仿冒域名主要用于釣魚欺詐、域名搶注等非法用途。截至目前,仿冒域名的數量仍在持續增加。

      利用市場的興奮情緒,一些不法分子推出了所謂DeepSeek“加持”的各種“空氣幣”(即沒有實際價值的虛擬貨幣),甚至出現了宣稱可以購買DeepSeek內部原始股的網站。

      值得注意的是,此輪針對DeepSeek的網絡攻擊手段層出不窮,給網絡防御帶來極大難度。僅1月3日至1月30日期間,就先后出現了SSDP、NTP反射放大攻擊,應用層HTTP代理攻擊,暴力破解攻擊,僵尸網絡攻擊等多種攻擊手段。“尤其是僵尸網絡的加入,標志著‘職業打手’已經下場,這說明DeepSeek面對的攻擊方式一直在持續進化和復雜化,防御難度不斷增加,網絡安全形勢愈發嚴峻。”王輝表示。

    圖為湖北省襄陽市老年大學授課教師為學員講解如何使用DeepSeek人工智能應用。 新華社發(楊東 攝)

      數據安全隱患凸顯

      在網絡攻擊“你方唱罷我登場”的同時,大模型的數據安全隱患也開始顯現。

      近日,奇安信安全研究團隊對常見的大模型工具及平臺進行安全檢測時發現,廣泛應用于大模型部署的架構Ollama、openLLM、Ray最新版存在未授權命令執行漏洞,危害程度極高,一旦被利用可能會對企業和組織造成嚴重危害。

      亞信安全人工智能實驗室同樣發現,應用于大模型分布式部署的架構Ray存在未授權命令執行漏洞,并第一時間上報給國家信息安全漏洞共享平臺(CNVD-2024-47463)及通用漏洞披露平臺(CVE-2024-57000)。CVE通用漏洞評分系統(CVSS)對該漏洞的評分高達9.8分,是近年來評分最高的漏洞之一。

      據介紹,Ray是一款強大且易用的分布式計算框架,在大模型高性能計算與分布式部署中扮演著關鍵角色,包括DeepSeek在內的許多大模型都在采用該框架,廣泛應用于數據預處理、分布式訓練、超參數調優、模型服務和強化學習等領域。

      安全專家告訴記者,此次發現的漏洞屬于高危未授權代碼執行漏洞,可繞過身份驗證和執行未授權代碼,攻擊者可利用該漏洞,竊取Ray集群中的敏感信息,包括模型訓練數據、模型參數等。此外,攻擊者還可利用該漏洞,在Ray集群中執行任意惡意指令,如設置后門、刪除業務數據等。“建議使用Ray框架的企業,及時采取必要的安全防護措施,避免因漏洞造成損失。”

      另一個在DeepSeek私有化部署或本地部署中常用到的工具Ollama也被發現存在安全隱患。

      近日,奇安信資產測繪鷹圖平臺監測發現,8971個運行了0llama大模型框架的服務器中,有6449個活躍服務器。其中,88.9%的服務器“裸奔”在互聯網上,使得任何人不需要任何認證即可隨意調用,并在未經授權的情況下訪問這些服務,從而導致數據泄露和服務中斷,甚至可以發送指令刪除所部署的DeepSeek、Qwen等大模型文件。

      安全專家建議,所有部署DeepSeek服務的企業和個人應立即采取有效的安全防護措施。此外,個人用戶需要警惕不知名廠商提供的DeepSeek大模型服務,一些不良廠商在使用被盜資源對外售賣、騙取錢財的同時,還實時監控用戶提交的所有數據,造成用戶隱私泄露。

      亟待構筑安全防線

      業內人士認為,守護大模型安全將是一場曠日持久的網絡攻防博弈,為AI產業構筑安全可靠的網絡防線勢在必行。

      奇安信安全專家龔玉山認為,包括DeepSeek在內的國產大模型,面臨的安全風險涵蓋了數據安全風險、訓練語料安全風險、使用安全風險、應用安全風險、軟件供應鏈安全風險、生成內容風險、大模型自身風險等,急需全面、體系化的安全防護方案。

      對此,受訪專家提出了三點建議:首先,做好風險暴露面管理,夯實網絡安全基礎防護。對于一家大模型公司而言,安全風險不僅僅來自于單個大模型服務,更來自于整家公司。畢竟,公司對外業務開放的同時勢必存在很多暴露面,包括數據庫授權訪問、API接口訪問、云服務、域名服務等,這些均有可能成為攻擊者的目標,一旦失守,就會導致大規模數據泄露。因此,大模型企業需要做好風險暴露面管理,實施嚴格的訪問控制措施,如建立身份驗證和授權機制,限制對API、數據庫的訪問等。同時,也要做好網絡、終端、云、服務器、數據庫等基礎網絡安全防護措施,最大程度減少外部威脅。

      其次,嚴格制定數據安全保障機制,避免敏感數據泄露。當下,大模型的數據安全面臨挑戰,尤其政務大模型因涉及敏感數據,其運行直接影響公共利益和國家安全,需要采取更嚴格的監管要求,特別是訓練數據,需要有更系統化、更細化的規范來指導,否則極有可能引發重大危機。

      專家建議,圍繞數據來源合規、內容安全合規、敏感數據識別過濾、訓練數據標注安全、數據分類分級與安全保護、數據訪問控制等方面,制定體系化的防護方案。例如,針對公開的大模型,就不能使用內部、敏感數據來進行訓練,從源頭避免重要數據泄露風險。

      最后,通過內容風控、應用防護等多重保障,確保大模型運行安全。大模型的運行安全涉及內容生成和應用層面的多重保障,需要確保生成的內容符合相關規定,且系統運行穩定可靠。以大模型應用安全風險中的“提示注入”風險為例,它是指攻擊者通過巧妙構造輸入提示詞,試圖突破大語言模型的安全防護機制,引導模型產生不符合預期甚至有害的輸出,比如一個聊天機器人原本是為客戶提供服務的,但在惡意提示詞的誘導下,可能無意間泄露出訓練數據中的敏感信息。

      因此,在內容層面,國產大模型需要做好生成內容風控,包括輸入內容過濾、輸出內容審核,確保大模型在輸入內容前經過嚴格的審查,過濾惡意輸入內容,防止不良輸出;在應用層面,需要做好Web安全防護、API安全防護、應用訪問控制、個人信息保護等,通過嚴密的安全技術保障和運行監測,確保大模型運行時的安全性、可靠性和穩定性。 

    凡標注來源為“經濟參考報”或“經濟參考網”的所有文字、圖片、音視頻稿件,及電子雜志等數字媒體產品,版權均屬《經濟參考報》社有限責任公司,未經書面授權,不得以任何形式刊載、播放。獲取授權

    《經濟參考報》社有限責任公司版權所有 本站所有新聞內容未經協議授權,禁止轉載使用

    新聞線索提供熱線:010-63074375 63072334 報社地址:北京市宣武門西大街57號

    JJCKB.CN 京ICP備18039543號

    1000部羞羞禁止免费观看视频,国产真实乱子伦精品视,最近国语视频在线观看免费播放,欧美性色一级在线观看
    <button id="kwo0m"><tbody id="kwo0m"></tbody></button>
  • <button id="kwo0m"><input id="kwo0m"></input></button>
    <code id="kwo0m"><acronym id="kwo0m"></acronym></code>
  • <sup id="kwo0m"><tbody id="kwo0m"></tbody></sup>
    主站蜘蛛池模板: 亚洲午夜久久久影院伊人| 色综合a怡红院怡红院首页| 阿v视频免费在线观看| 欧美jizz18性欧美| 国产精品午夜爆乳美女视频| 国产一二三视频| 亚洲一区二区三区国产精品无码| yellow视频免费在线观看| 高清中国一级毛片免费| 欧美姓爱第一页| 国产精品午夜电影| 亚洲av之男人的天堂网站| 999这里只有精品| 精品欧洲av无码一区二区三区| 我的初次内射欧美成人影视| 国产成人精品一区二区三区| 亚洲欧美一区二区三区图片| 99久久超碰中文字幕伊人| 精品女同一区二区三区免费播放 | 天堂资源在线中文| 嗯啊公交车上被群j| 中文天堂最新版www官网在线| 韩国公和熄三级在线观看| 欧美与黑人午夜性猛交久久久 | 毛片免费全部免费观看| 女人被男人躁到呻吟的| 四虎国产精品永久免费网址| 三年片在线影院| 美女扒开尿口直播| 把极品白丝班长啪到腿软| 国产乱人伦偷精品视频不卡| 中文字幕日韩精品无码内射| 边亲边摸边做视频免费| 日本阿v视频在线观看高清 | 免费看男阳茎进女阳道动态图| 久久久久亚洲AV无码专区桃色| 黑人巨茎大战俄罗斯美女| 欧洲成人爽视频在线观看| 国产午夜福利精品一区二区三区| 久久精品国产亚洲精品| 99视频精品国在线视频艾草 |