中國消費者報北京訊（記者武曉莉）6月5日，以“AI驅動安全”為主題的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡安全大會戰(zhàn)略峰會（以下簡稱“BCS大會”）在北京國家會議中心開幕。
開幕式現(xiàn)場。資料圖片
“當前，我國新一代人工智能正在與實體經(jīng)濟深度融合，廣泛應用于社會民生領域，激發(fā)創(chuàng)新活力和社會潛能。”中國友誼促進會理事長、國家網(wǎng)信辦原副主任陳智敏在致辭中表示，安全是發(fā)展的前提，發(fā)展是安全的保障?！癆I驅動安全”，具有很強的前瞻性和現(xiàn)實意義。
據(jù)了解，作為具有全球影響力的網(wǎng)絡安全大會，BCS大會已成功舉辦五屆。本次大會歷時兩天，共舉辦2場峰會、20余場分論壇、2場大賽，邀請專家學者和企業(yè)代表，分享人工智能發(fā)展的研究、實踐或建議，并就AI驅動安全在數(shù)據(jù)、能源、金融、交通、制造等領域的情況展開廣泛討論。
AI重塑網(wǎng)絡安全發(fā)展態(tài)勢 “各行各業(yè)網(wǎng)絡化、數(shù)字化、智能化轉型加速，以數(shù)據(jù)為關鍵要素的新產(chǎn)業(yè)，以人工智能為關鍵技術的新場景，面臨的安全挑戰(zhàn)更加復雜，各類攻擊威脅與日俱增?！?北京市政府副秘書長許心超在致辭中說道。
在中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局副局長王營康看來，人工智能帶來的安全挑戰(zhàn)和攻擊威脅尤其值得關注?！半S著人工智能技術的發(fā)展，攻擊者可利用人工智能技術生成網(wǎng)絡攻擊和網(wǎng)絡釣魚工具等，網(wǎng)絡安全從人人對抗、人機對抗逐漸向基于人工智能的攻防對抗演化?！?/p>
據(jù)奇安信發(fā)布的《2024人工智能安全報告》顯示，AI既放大現(xiàn)有網(wǎng)絡安全威脅，又引入了新型威脅，引發(fā)的網(wǎng)絡安全事件指數(shù)級增長。其中，2023年基于AI的深度偽造欺詐事件暴增3000%、基于AI的釣魚郵件數(shù)量增長1000%。另一項對IT行業(yè)領導者進行的關于ChatGPT等大模型的調(diào)查顯示，安全性是受訪者最關心的問題，71％的受訪者認為生成式人工智能會給企業(yè)數(shù)據(jù)安全帶來新的風險。
面對人工智能時代新的網(wǎng)絡安全態(tài)勢，與會嘉賓們呼吁進一步提高對網(wǎng)絡安全態(tài)勢的重視，強化體系化安全能力建設。
“數(shù)據(jù)安全是人工智能安全的前提和基礎。” 陳智敏認為，要從網(wǎng)絡安全保衛(wèi)向數(shù)據(jù)安全保衛(wèi)的工作模式拓展，為構建與數(shù)字生產(chǎn)力相適應的新型生產(chǎn)關系奠定基礎。
王營康建議，要統(tǒng)籌網(wǎng)絡安全各方力量，構建大網(wǎng)絡安全工作格局，推動形成體系化防御能力；要統(tǒng)籌高質(zhì)量發(fā)展與高水平安全，推動形成人工智能綜合治理體系；要堅持網(wǎng)絡安全教育、技術、產(chǎn)業(yè)融合發(fā)展，推動形成人才培養(yǎng)、技術創(chuàng)新、產(chǎn)業(yè)發(fā)展的良性生態(tài)。
AI激發(fā)網(wǎng)安行業(yè)新質(zhì)生產(chǎn)力 “AI驅動安全是大勢所趨，未來網(wǎng)絡攻防就是得AI者得天下。誰能提前抓住AI變革的機遇，誰就能掌握網(wǎng)絡空間安全的主動權。”在主旨演講中，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東指出，當前網(wǎng)絡安全格局正在被顛覆重構，但這種顛覆重構不僅帶來新的安全挑戰(zhàn)，也為網(wǎng)絡安全行業(yè)帶來前所未有的戰(zhàn)略機遇。
對此，巴基斯坦NCERT主席、國際工程技術學會會士、英國計算機學會會士阿巴斯•海德爾深表認同。他在題為《人工智能悖論：加強網(wǎng)絡安全還是加劇威脅》的主旨演講中表示，大型語言模型（LLM）正徹底改變網(wǎng)絡安全形勢，AI在網(wǎng)絡安全領域既帶來挑戰(zhàn)，也帶來機遇。例如，網(wǎng)絡罪犯會使用AI生成具有強欺騙性的網(wǎng)絡仿冒郵件，但企業(yè)也可以用AI完成威脅檢測和事件響應、處置。
那么，如何盡快發(fā)揮AI賦能網(wǎng)絡安全的積極作用，實現(xiàn)“用魔法打敗魔法”？與會專家給出了解決方案。
“人工智能是新質(zhì)生產(chǎn)力，智能化大勢不可阻擋。不發(fā)展是最大的不安全，要發(fā)展AI促安全?！?作為人工智能治理領域的知名專家，先進計算與關鍵軟件（信創(chuàng)）海河實驗室主任、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克呼吁，推進AI與網(wǎng)絡安全融合創(chuàng)新。
在龔克看來，一方面，人工智能的發(fā)展推動了網(wǎng)絡安全技術的創(chuàng)新。例如，基于深度學習的惡意軟件檢測、用戶行為分析等新技術不斷涌現(xiàn)，提高了網(wǎng)絡安全的防護能力。另一方面，人工智能的自動化和智能化特性又可以大大提高網(wǎng)絡安全管理的效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網(wǎng)絡威脅，減少潛在損失。
“既然AI這么好，是不是趕緊裝上一個AI大模型就可以了？”對此，齊向東提醒，AI大模型不是萬能鑰匙。尤其是在當前“百模大戰(zhàn)”的狀態(tài)下，只有高質(zhì)量發(fā)展的大模型，才能真正帶來指數(shù)級能力躍升，激發(fā)網(wǎng)絡安全行業(yè)的新質(zhì)生產(chǎn)力。
在齊向東看來，做好“AI驅動安全”至少需要具備三大條件：其一，高質(zhì)量的訓練數(shù)據(jù)；其二，縱深防御的內(nèi)生安全體系；其三，設備、體系具有統(tǒng)一的輸入輸出標準。
AI驅動安全成效初顯 “依托大數(shù)據(jù)平臺，加強人工智能與網(wǎng)絡安全的融合，研究基于人工智能的風險異常檢測方法，開展網(wǎng)絡安全關聯(lián)分析、事件處置和調(diào)查溯源，強化網(wǎng)絡安全威脅監(jiān)測和應急處置，實現(xiàn)網(wǎng)絡安全事件的智能響應、聯(lián)動防御?！?國家電網(wǎng)有限公司副總信息師、中國電機工程學會會士王繼業(yè)介紹了國家電網(wǎng)探索人工智能在“守護網(wǎng)絡安全，助力能源轉型”中的最新實踐情況。
實際上，不僅局限于電力能源領域，很多機構正快速推進AI在網(wǎng)絡安全領域落地生根，“AI驅動安全”已呈現(xiàn)出百花齊放之勢。據(jù)許心超介紹，北京市已將數(shù)字安全產(chǎn)業(yè)作為全市重點發(fā)展的高精尖產(chǎn)業(yè)，目前已經(jīng)匯聚數(shù)字安全企業(yè)1025家；2023年北京市數(shù)字安全企業(yè)收入達到996億元，產(chǎn)業(yè)帶動作用凸顯。
“人工智能是引領未來的戰(zhàn)略性技術，是新一輪科技革命和產(chǎn)業(yè)變革的重要驅動力量。本次大會以‘AI驅動安全’為主題，旨在將AI作為網(wǎng)絡安全的驅動力，幫助專家快速的識別、追溯和處置安全威脅，提升網(wǎng)絡安全防御的智能化水平?！闭雇磥?，中國電子信息產(chǎn)業(yè)集團有限公司總經(jīng)理李立功對AI驅動安全的進一步落地應用充滿了期待。
