通用人工智能正在開創下一個黃金十年，我國人工智能（AI）產業生機盎然，百余個大模型競相出世，但由此引發的安全問題也越來越多。8月9日，在第十一屆互聯網安全大會上，數字安全與人工智能技術融合發展成為關鍵議題。

數據安全是AI產業發展的前提

(資料圖)

如中國工程院院士鄔江興所言，人工智能是引領新一輪產業變革的核心技術引擎，為各領域提供了信息化、數字化、智能化的解決方案，正在引發經濟結構重大變革、促進社會生產力的整體躍升。

中國互聯網協會理事長尚冰指出，生成式人工智能正在引發新一輪智能化浪潮。生成式人工智能在為互聯網行業注入強勁發展動力的同時，也帶來了數據泄露、虛假信息、算法歧視等網絡和信息安全新挑戰。

面對生成式人工智能發展亟待解決的問題，中央網信辦網絡安全協調局副局長羅鋒盈表示，要提升新技術新應用安全風險防范能力。此外，要善于把數據資源轉化為數據優勢，并構建網絡安全、教育、技術和產業融合發展的良性生態。

“推動人工智能產業快速發展，必須要把保障數據安全放在突出位置。”對此，第十三屆全國政協經濟委員會副主任蘇波提出三點建議。

加快人工智能數據資源的建設。要在發展中解決安全問題，建立適合我國國情的數據流通共享機制，培育并規范數據交易市場，鼓勵不同主體安全地進行數據交換。構建支撐我國人工智能產業發展的優質數據資源，加強對人工智能應用場景下數據安全防護技術的研究，促進人工智能技術在數據安全治理與網絡攻防對抗等領域中的應用。

創新人工智能技術手段，用技術進步解決安全風險難題，加強人工智能數據安全保護基礎理論研究和技術研發。發展負責任、可信任、能受控的通用人工智能。鼓勵企業建設完善人工智能開源學習框架，增強框架內置學習數據和基礎設施，并通過我國巨大的市場優勢，加快培育人工智能開源平臺生態圈和產業鏈。

完善人工智能數據安全監管體系，用規范監管保障安全發展，加快完善人工智能健康發展的監管規則和法律法規，明確人工智能數據安全法律原則，確立不同參與主體在人工智能生命周期各階段所享有的數據權利與所承擔的安全責任。制定人工智能產品應用服務的數據安全服務產品體系，通過檢測驗證提升人工智能產品安全性和成熟度，降低人工智能數據安全風險。

利用AI技術防范數字安全風險

當前網絡威脅不斷升級，“小毛賊”“小黑客”已經成為歷史，有組織的網絡犯罪、高級持續性威脅已經成為當今網絡安全最大的隱患。傳統的安全防護在戰略上缺乏統籌規劃，難以形成協同配合，已經不足以應對持續變化的安全問題。用數字化思維重塑安全，建設體系化、實戰化、智能化的數字安全能力勢在必行。

怎么建設這種數字安全能力？“數字安全需要探索新的模式，以適應復雜的數字化場景。”中國工程院院士鄔賀銓建議，要摒棄硬件式、碎片化、弱協同的傳統安全防護手段，向云化、服務化升級。

數字安全企業是建設數字安全能力的重要一環。人工智能時代下，數字安全企業需要建立體系化的安全運營服務框架和面向各行各業輸出數字安全能力，幫助其他企業構建安全防御體系，保護數據安全與商業秘密。而人工智能恰恰可以協助數字安全企業防范數字風險。正如尚冰所言：“人工智能等技術既是數字安全防御的重點，也是保障數字安全的有力手段。要推動大數據、人工智能等技術的融合，提升網絡安全保障能力。”

360集團創始人周鴻祎透露，目前360集團有全球最大的網絡安全攻擊樣本庫和攻擊整個過程全記錄的知識庫，記錄了數以億計的網絡攻擊知識。他們現在也在做試驗，把這些知識加入到專門的垂直大模型里面去，爭取在下次遇到攻擊的時候，由大模型判斷這是否是一次真實的攻擊。“目前，大模型判斷的準確率已達97%。相比之下，人類判斷一次網絡攻擊的準確率超過80%就不錯了。”他表示，當大模型判斷準確率達99%時就可投入使用。

關鍵詞：