近日，ISC.AI 2024“尋找明星場景·賦能垂直領(lǐng)域”安全大模型聯(lián)合峰會在北京圓滿召開。本次聯(lián)合峰會由中國計算機(jī)學(xué)會計算機(jī)安全專委會主辦，中國計算機(jī)學(xué)會計算機(jī)安全專委會技術(shù)工作組、360數(shù)字安全集團(tuán)、ISC互聯(lián)網(wǎng)安全大會組委會承辦，特別邀請知名技術(shù)專家、行業(yè)領(lǐng)袖、企業(yè)代表，共話安全大模型的發(fā)展之道，力求促進(jìn)政產(chǎn)學(xué)研用協(xié)同創(chuàng)新，凝聚和擴(kuò)大生態(tài)共識，為構(gòu)建更加安全、可靠的數(shù)字化世界奠定堅實(shí)基礎(chǔ)。
大會致辭環(huán)節(jié)中，公安部第一研究所所領(lǐng)導(dǎo)、中國計算機(jī)學(xué)會計算機(jī)安全專業(yè)委員會常務(wù)副主任于銳指出，安全行業(yè)是大模型應(yīng)用的重要場景，安全大模型需要融合多元化的知識來源，不斷更新和豐富訓(xùn)練數(shù)據(jù)，重視和強(qiáng)化安全大模型的評測優(yōu)化，持續(xù)提升安全大模型的效能和可靠性；同時，數(shù)據(jù)標(biāo)注、模型訓(xùn)練，微調(diào)和評測，推理部署，技術(shù)服務(wù)都需要投入大量的專業(yè)技術(shù)人員，急需加強(qiáng)對人工智能、大模型與數(shù)據(jù)安全跨學(xué)科綜合性人才的培養(yǎng)。
360集團(tuán)創(chuàng)始人，中國計算機(jī)學(xué)會計算機(jī)安全專委會副主任周鴻袆在致辭中指出，要讓大模型在中國得到真正的發(fā)展，就要讓它走下神壇，從原子彈變成茶葉蛋。網(wǎng)絡(luò)安全是現(xiàn)代化進(jìn)程中不可或缺的一部分。借助安全領(lǐng)域產(chǎn)業(yè)和場景優(yōu)勢，發(fā)展垂直化小型化低成本的安全大模型，能夠?yàn)榇竽Ｐ偷膽?yīng)用提供更有針對性的保障，有助于我們走出一條具有中國特色的大模型發(fā)展之路。
主題演講環(huán)節(jié)中，中國工程院院士沈昌祥就《用安全可信網(wǎng)絡(luò)產(chǎn)品筑牢人工智能安全底座》進(jìn)行了分享。他指出，針對AI和大模型的發(fā)展，必須提升產(chǎn)業(yè)韌性和工作水平，確保安全可靠。在大模型對生產(chǎn)力實(shí)現(xiàn)全面滲透的今天，要用主動免疫可信計算筑牢人工智能安全防線，大模型及生成式AI必須首先確保安全。 中國科學(xué)院信息工程研究所正高級工程師、博導(dǎo)劉玉嶺在《大模型驅(qū)動安全威脅感知：進(jìn)展與趨勢》的主題分享中提到，隨著大模型的興起，在高度對抗的網(wǎng)絡(luò)安全攻防中如何用好大模型這一利器成為了各界關(guān)注的焦點(diǎn)。劉玉嶺教授從大模型的發(fā)展現(xiàn)狀，大模型驅(qū)動的威脅情報整編、復(fù)雜程序分析、安全威脅發(fā)現(xiàn)、安全風(fēng)險管控等角度闡述當(dāng)前的進(jìn)展，提出大模型賦能網(wǎng)安的新范式。
國防科技大學(xué)計算機(jī)學(xué)院副研究員喻波在《大語言模型引導(dǎo)的網(wǎng)絡(luò)協(xié)議模糊測試：進(jìn)展與問題》的主題分享中，詳細(xì)說明了近幾年基于大模型進(jìn)行模糊測試的進(jìn)展，指出傳統(tǒng)網(wǎng)絡(luò)協(xié)議存在初始種子選擇依賴性強(qiáng)、非文本類協(xié)議數(shù)據(jù)學(xué)習(xí)困難、協(xié)議實(shí)現(xiàn)自動遷移適配問題等挑戰(zhàn)。
北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授、博導(dǎo)李祺在《基于大語言模型的威脅情報自動化抽取及APT攻擊檢測系統(tǒng)》的分享中表示，大語言模型以其強(qiáng)大的數(shù)據(jù)處理和分析能力，能夠在威脅情報分析、APT攻擊檢測以及攻擊組織溯源方面提供強(qiáng)有力的支持。
業(yè)界有大量大模型基礎(chǔ)能力的評測指標(biāo)和方法，但基于安全大模型，開發(fā)各類安全場景時，這些基礎(chǔ)指標(biāo)過于底層，不足以指導(dǎo)研發(fā)前的技術(shù)決策，和研發(fā)中的質(zhì)量管控。360數(shù)字安全集團(tuán)本地安全大腦主架構(gòu)師萬曉川在《安全大模型產(chǎn)品的持續(xù)評測》的主題分享中，基于本地安全大腦集成360安全大模型的研發(fā)經(jīng)驗(yàn)，總結(jié)了如何設(shè)計場景指標(biāo)，如何持續(xù)以場景指標(biāo)評測，有序推進(jìn)場景研發(fā)，實(shí)現(xiàn)場景價值。
LLMs在如靶場等安全系統(tǒng)中的應(yīng)用能極大地簡化因操作復(fù)雜、數(shù)據(jù)量大帶來的問題，作為安全copliot實(shí)現(xiàn)提質(zhì)增效。但在實(shí)際工作中，因LLMs本身的幻覺問題、數(shù)據(jù)質(zhì)量問題、Prompt Injection等因素，會導(dǎo)致生成式內(nèi)容難以有效匹配工作業(yè)務(wù)語境，不能實(shí)現(xiàn)in-context的安全工作流。對此，南京賽寧信息技術(shù)有限公司技術(shù)方案總監(jiān)楊勁松作出《LLMs可控文本生成在賽寧AI靶場中的實(shí)踐》主題演講。
此外，北京金睛云華科技有限公司聯(lián)合創(chuàng)始人、副總裁胡文友先生，在《【CyberGPT】賦能威脅檢測&安全運(yùn)營》的分享環(huán)節(jié)中，對網(wǎng)絡(luò)安全行業(yè)面臨的問題與挑戰(zhàn)、AI驅(qū)動的擴(kuò)展威脅檢測&響應(yīng)（XDR）解決方案、安全小模型技術(shù)&典型應(yīng)用場景、安全大模型技術(shù)&典型應(yīng)用場景等方面進(jìn)行詳細(xì)介紹。
伴隨數(shù)字經(jīng)濟(jì)的快速發(fā)展，大模型技術(shù)作為全球科技競爭的新高地、未來產(chǎn)業(yè)的新賽道、經(jīng)濟(jì)發(fā)展的新引擎，不斷演進(jìn)催生新質(zhì)生產(chǎn)力的生成。此次ISC.AI 2024“尋找明星場景·賦能垂直領(lǐng)域”安全大模型聯(lián)合峰會的成功舉辦，行之有效地搭建了“政、產(chǎn)、學(xué)、研、用”互通互聯(lián)的平臺，源源不斷地向全行業(yè)輸出安全大模型建設(shè)和運(yùn)營的前瞻觀點(diǎn)，以應(yīng)對AI時代下的新挑戰(zhàn)。