九九这里有精品,色婷婷久久综合中文久久蜜桃,操比动态图,久草热草,**aaaa毛片免费视频,一级毛片aa**免费观看,成人免费aaaaa毛片

中國(guó)企業(yè)報(bào)集團(tuán)主管主辦

中國(guó)企業(yè)信息交流平臺(tái)

微博 微信

云起無(wú)垠:SecGPT-全球首個(gè)網(wǎng)絡(luò)安全開(kāi)源大模型

2023-12-28 11:35 來(lái)源:商丘網(wǎng) 次閱讀
 
云起無(wú)垠:SecGPT-全球首個(gè)網(wǎng)絡(luò)安全開(kāi)源大模型

  2023年是人工智能的奇跡年,OpenAI的ChatGPT橫空出世,在自然語(yǔ)言的人機(jī)對(duì)話(huà)領(lǐng)域?qū)崿F(xiàn)了突破性的智能表現(xiàn)。人工智能技術(shù)的革命性應(yīng)用已在各行業(yè)引發(fā)了熱潮,醫(yī)療、金融、法律等領(lǐng)域都涌現(xiàn)出了垂類(lèi)開(kāi)源大模型,為行業(yè)應(yīng)用帶來(lái)了無(wú)限可能性。與其他行業(yè)類(lèi)似,網(wǎng)絡(luò)安全從業(yè)者們也一直在積極探索安全垂直大模型的實(shí)際應(yīng)用。這一趨勢(shì)在網(wǎng)絡(luò)安全領(lǐng)域引發(fā)了深刻的變革,為保護(hù)互聯(lián)網(wǎng)生態(tài)系統(tǒng)和應(yīng)對(duì)不斷增長(zhǎng)的威脅提供了新的工具和方法。

  近日,云起無(wú)垠公司發(fā)布了名為「SecGPT」的網(wǎng)絡(luò)安全大模型開(kāi)源項(xiàng)目。該項(xiàng)目是全球首個(gè)開(kāi)源的網(wǎng)絡(luò)安全大模型,截止目前已經(jīng)在GitHub上積累了超過(guò)400個(gè)star,受到了廣泛的業(yè)界關(guān)注。云起無(wú)垠希望貢獻(xiàn)自己的力量,推動(dòng)網(wǎng)絡(luò)安全領(lǐng)域邁向智能化時(shí)代,實(shí)現(xiàn)“讓軟件更安全,讓安全更智能”的企業(yè)使命。

  1.SecGPT

  SecGPT的愿景是將人工智能技術(shù)引入網(wǎng)絡(luò)安全領(lǐng)域,以提高網(wǎng)絡(luò)防御的效率和效果。其使命是推動(dòng)網(wǎng)絡(luò)安全智能化,為社會(huì)提供更安全的數(shù)字生活環(huán)境。

  SecGPT可以作為基座安全模型,用于探索各種網(wǎng)絡(luò)安全任務(wù)。以下是對(duì)SecGPT在網(wǎng)絡(luò)安全任務(wù)中可能應(yīng)用的進(jìn)一步探討:

  1.漏洞分析:SecGPT可以與安全研究人員或開(kāi)發(fā)團(tuán)隊(duì)進(jìn)行多輪對(duì)話(huà),共同分析和審查應(yīng)用程序或系統(tǒng)中的潛在漏洞。它可以幫助識(shí)別和理解漏洞的性質(zhì)、潛在影響以及可能的修復(fù)方法。

  2.溯源分析:在網(wǎng)絡(luò)入侵事件調(diào)查中,SecGPT可以與調(diào)查員合作,協(xié)助分析網(wǎng)絡(luò)流量、日志和事件記錄,以追蹤攻擊者的活動(dòng)路徑,從而支持安全溯源分析。

  3.流量分析:SecGPT可以分析網(wǎng)絡(luò)流量數(shù)據(jù),識(shí)別異常流量模式,幫助檢測(cè)潛在的網(wǎng)絡(luò)攻擊或入侵行為,并提供應(yīng)對(duì)這些行為的建議。

  4.攻擊研判:在面對(duì)未知攻擊時(shí),SecGPT可以與安全團(tuán)隊(duì)一起進(jìn)行多輪對(duì)話(huà),共同分析攻擊的特征、模式和可能的來(lái)源,以便更好地理解和應(yīng)對(duì)威脅。

  5.命令解釋:SecGPT可以解釋和分析安全相關(guān)的命令、腳本或代碼,幫助安全專(zhuān)家理解其功能、潛在風(fēng)險(xiǎn)和執(zhí)行結(jié)果。

  6.網(wǎng)安知識(shí)問(wèn)答:SecGPT可以用于回答網(wǎng)絡(luò)安全領(lǐng)域的問(wèn)題,為安全從業(yè)者提供支持和解釋,包括解釋安全概念、提供最佳實(shí)踐建議和分析最新的威脅趨勢(shì)。

  相較于其他的開(kāi)源模型,SecGPT有以下幾個(gè)重要的特色:

  1.自寫(xiě)訓(xùn)練代碼,節(jié)省顯存: SecGPT提供了自己的訓(xùn)練代碼,包括預(yù)訓(xùn)練、有監(jiān)督學(xué)習(xí)和DPO強(qiáng)化對(duì)齊等功能。這使得即使使用小型顯卡,也能夠訓(xùn)練大規(guī)模的網(wǎng)絡(luò)安全模型,為更多的開(kāi)發(fā)者和研究者提供了參與網(wǎng)絡(luò)安全研究的機(jī)會(huì)。

  2.高質(zhì)量網(wǎng)絡(luò)安全訓(xùn)練集: SecGPT提供了精選的高質(zhì)量網(wǎng)絡(luò)安全類(lèi)無(wú)監(jiān)督訓(xùn)練集,使模型能夠?qū)W習(xí)網(wǎng)絡(luò)安全問(wèn)題。這有助于提高模型對(duì)于網(wǎng)絡(luò)安全領(lǐng)域的理解。

  3.DPO強(qiáng)化學(xué)習(xí): 通過(guò)DPO強(qiáng)化學(xué)習(xí)方法,SecGPT引入了安全專(zhuān)家的見(jiàn)解和答案,與模型原始輸出一起作為數(shù)據(jù)進(jìn)行訓(xùn)練。這種方法有助于模型更好地模擬安全專(zhuān)家的思維方式,提高了模型輸出的實(shí)用性和準(zhǔn)確性,使其更符合安全領(lǐng)域的需求。

  4. 無(wú)道德限制:在網(wǎng)絡(luò)安全領(lǐng)域,無(wú)道德限制的GPT模型具有優(yōu)勢(shì)。比如模型可以深入分析和解釋惡意軟件的代碼、行為和影響,而不受道德限制的束縛。當(dāng)然,需要注意的是,無(wú)道德限制并不意味著可以不受限制地使用這些模型。在執(zhí)行敏感網(wǎng)絡(luò)安全任務(wù)時(shí),仍然需要謹(jǐn)慎考慮法律、道德和隱私問(wèn)題,并遵循適用的法律法規(guī)和道德準(zhǔn)則。

  2. 效果展示

  1) 代碼審計(jì)&解釋&修復(fù)建議

  2)反匯編偽代碼分析

  3)釣魚(yú)郵件編寫(xiě)

  4)命令解釋

  5)日志分析

  3.模型訓(xùn)練

  目前,SecGPT不僅開(kāi)源了基座模型,還開(kāi)源了所有的訓(xùn)練代碼以及數(shù)據(jù)(包括預(yù)訓(xùn)練,有監(jiān)督訓(xùn)練,DPO訓(xùn)練等大模型全流程訓(xùn)練代碼)和網(wǎng)絡(luò)安全訓(xùn)練數(shù)據(jù)。我們鼓勵(lì)任何人都使用這些代碼和數(shù)據(jù)去訓(xùn)練自己的網(wǎng)絡(luò)安全大模型!該模型的訓(xùn)練過(guò)程大致如下圖所示:

  1)基座模型

  (1) 選用Baichuan-13B模型作為基座模型進(jìn)行訓(xùn)練(無(wú)道德限制,較好中文支持,顯存資源占用小)

  (2) 訓(xùn)練環(huán)境與配置:

 ?、?webdemo推理:2*4090(24G)

 ?、?lora訓(xùn)練:3*4090(24G)

  2)微調(diào)技術(shù)

  (1) 基于Lora做預(yù)訓(xùn)練和SFT訓(xùn)練

  (2) 優(yōu)化后的訓(xùn)練代碼可展示訓(xùn)練的底層知識(shí)

  (3) 大幅減少訓(xùn)練的顯存占用,可在3*4090顯卡上訓(xùn)練

  3)訓(xùn)練數(shù)據(jù)

  (1)預(yù)訓(xùn)練數(shù)據(jù)

 ?、?收集安全書(shū)籍,安全知識(shí)庫(kù),安全論文,安全社區(qū)文章,漏洞庫(kù)等等安全內(nèi)容。

  ② 數(shù)據(jù)集開(kāi)源地址:

  中查找。

  (2)有監(jiān)督訓(xùn)練數(shù)據(jù)

 ?、?利用ChatGPT+人工構(gòu)造各類(lèi)有監(jiān)督安全能力數(shù)據(jù)集,讓模型能了解各類(lèi)安全指令。

 ?、?思維鏈:基于思維鏈方式構(gòu)造有監(jiān)督數(shù)據(jù)集讓模型能夠根據(jù)問(wèn)題逐步推理到最終答案,展現(xiàn)推理過(guò)程。

 ?、?知乎回答:加入了部分高質(zhì)量知乎數(shù)據(jù)集,在一些開(kāi)放性問(wèn)題上模型能通過(guò)講故事舉例子等方式回答答案和觀點(diǎn),更易讀懂。

 ?、?為防止災(zāi)難性遺忘,在有監(jiān)督數(shù)據(jù)中,通用能力數(shù)據(jù):安全能力數(shù)據(jù),約為5:1。

  4)模型訓(xùn)練

  (1)超參數(shù)信息配置:

  (2)預(yù)訓(xùn)練配置:

  (3)SFT訓(xùn)練配置:

  (4)RLHF強(qiáng)化學(xué)習(xí)校準(zhǔn):

  為了改善模型的輸出質(zhì)量,有以下兩種策略可供選擇。首先,可以通過(guò)使用更明確的提示詞來(lái)引導(dǎo)模型,使其更專(zhuān)注于用戶(hù)需求,從而生成更有針對(duì)性的回答。其次,可以采用RLHF強(qiáng)化學(xué)習(xí)方法,模型將生成多個(gè)答案,用戶(hù)可以手動(dòng)選擇最優(yōu)的答案,在后面進(jìn)行強(qiáng)化學(xué)習(xí),從而不斷提高模型對(duì)齊的能力。SecGPT模型具備內(nèi)置的RLHF選擇器,每次會(huì)輸出三個(gè)不同的答案。用戶(hù)可以根據(jù)需求選擇最佳答案,同時(shí)這也為后續(xù)的RLHF微調(diào)提供了有價(jià)值的數(shù)據(jù),有助于模型進(jìn)一步提升輸出的質(zhì)量。這些方法共同作用,有助于確保模型輸出滿(mǎn)足用戶(hù)的預(yù)期,并在網(wǎng)絡(luò)安全等領(lǐng)域中發(fā)揮更大的作用。

  關(guān)于SecGPT網(wǎng)絡(luò)安全大模型,這只是我們分享的一部分內(nèi)容。云起無(wú)垠致力于將SecGPT開(kāi)源大模型分享給更多的安全從業(yè)者,我們鼓勵(lì)大家積極參與共同的研討和交流,以不斷改進(jìn)和增強(qiáng)其功能。通過(guò)開(kāi)源的方式,我們也期望加強(qiáng)網(wǎng)絡(luò)安全從業(yè)者對(duì)這一大模型的理解和應(yīng)用。

  如果您有任何關(guān)于該模型的問(wèn)題或建議,請(qǐng)隨時(shí)在GitHub(搜:SecGPT)上提交issue或PR。我們熱切歡迎各位共同參與建設(shè),讓SecGPT網(wǎng)絡(luò)安全大模型能夠惠及網(wǎng)絡(luò)安全領(lǐng)域的每一位需求者!共同的努力將有助于提高網(wǎng)絡(luò)安全的水平,確保數(shù)字生活的安全性。

點(diǎn)贊()
上一條:中廣歐特斯榮獲“中國(guó)清潔能源工程行業(yè)突出貢獻(xiàn)品牌”等榮譽(yù)2023-12-28
下一條:熱立方地暖機(jī)奪冠!第15屆十大牛商廣佛賽區(qū)路演圓滿(mǎn)收官2023-12-28

相關(guān)稿件

我國(guó)網(wǎng)絡(luò)安全工作發(fā)展進(jìn)入快車(chē)道 形成系列生動(dòng)實(shí)踐 2021-10-11
力爭(zhēng)2023年規(guī)模超250億 上海發(fā)力網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展 2022-01-26
深圳福田銀座村鎮(zhèn)銀行多向發(fā)力強(qiáng)宣傳,助推網(wǎng)絡(luò)安全宣傳精準(zhǔn)高效 2023-09-14
關(guān)于調(diào)整網(wǎng)絡(luò)安全專(zhuān)用產(chǎn)品安全管理有關(guān)事項(xiàng)的公告 2023-04-25
全面開(kāi)源 浪潮信息發(fā)布千億參數(shù)基礎(chǔ)大模型“源2.0” 2023-11-28
國(guó)務(wù)院國(guó)有資產(chǎn)管理委員會(huì) 中國(guó)企業(yè)聯(lián)合會(huì) 中國(guó)企業(yè)報(bào) 中國(guó)社會(huì)經(jīng)濟(jì)網(wǎng) 中國(guó)國(guó)際電子商務(wù)網(wǎng) 新浪財(cái)經(jīng) 鳳凰財(cái)經(jīng) 中國(guó)報(bào)告基地 企業(yè)社會(huì)責(zé)任中國(guó)網(wǎng) 杭州網(wǎng) 中國(guó)產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國(guó)網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國(guó)經(jīng)濟(jì)網(wǎng) 中國(guó)企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財(cái)經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財(cái)經(jīng) 誠(chéng)搜網(wǎng) 中國(guó)鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線(xiàn) 2014世界杯 中華魂網(wǎng) 納稅人俱樂(lè)部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國(guó)國(guó)資報(bào)道 金融界 中國(guó)農(nóng)業(yè)新聞網(wǎng) 中國(guó)招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國(guó)數(shù)據(jù)分析行業(yè)網(wǎng) 中國(guó)報(bào)道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠(chéng)信聯(lián)盟網(wǎng) 中國(guó)白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國(guó)石油化工集團(tuán) 中國(guó)保利集團(tuán)公司 東風(fēng)汽車(chē)公司 中國(guó)化工集團(tuán)公司 中國(guó)電信集團(tuán)公司 華為技術(shù)有限公司 廈門(mén)銀鷺食品有限公司 中國(guó)恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國(guó)誠(chéng)通控股集團(tuán)有限公司 喜來(lái)健醫(yī)療器械有限公司 中國(guó)能源建設(shè)股份有限公司 內(nèi)蒙古伊利實(shí)業(yè)集團(tuán)股份有限公司 中國(guó)移動(dòng)通信集團(tuán)公司 中國(guó)化工集團(tuán)公司 貴州茅臺(tái)酒股份有限公司