科技日报记者 刘艳

通用人工智能正在开创下一个黄金十年，我国人工智能（AI）产业生机盎然，百余个大模型竞相出世，但由此引发的安全问题也越来越多。8月9日，在第十一届互联网安全大会上，数字安全与人工智能技术融合发展成为关键议题。

数据安全是AI产业发展的前提

(相关资料图)

如中国工程院院士邬江兴所言，人工智能是引领新一轮产业变革的核心技术引擎，为各领域提供了信息化、数字化、智能化的解决方案，正在引发经济结构重大变革、促进社会生产力的整体跃升。

中国互联网协会理事长尚冰指出，生成式人工智能正在引发新一轮智能化浪潮。生成式人工智能在为互联网行业注入强劲发展动力的同时，也带来了数据泄露、虚假信息、算法歧视等网络和信息安全新挑战。

面对生成式人工智能发展亟待解决的问题，中央网信办网络安全协调局副局长罗锋盈表示，要提升新技术新应用安全风险防范能力。此外，要善于把数据资源转化为数据优势，并构建网络安全、教育、技术和产业融合发展的良性生态。

“推动人工智能产业快速发展，必须要把保障数据安全放在突出位置。”对此，第十三届全国政协经济委员会副主任苏波提出三点建议。

加快人工智能数据资源的建设。要在发展中解决安全问题，建立适合我国国情的数据流通共享机制，培育并规范数据交易市场，鼓励不同主体安全地进行数据交换。构建支撑我国人工智能产业发展的优质数据资源，加强对人工智能应用场景下数据安全防护技术的研究，促进人工智能技术在数据安全治理与网络攻防对抗等领域中的应用。

创新人工智能技术手段，用技术进步解决安全风险难题，加强人工智能数据安全保护基础理论研究和技术研发。发展负责任、可信任、能受控的通用人工智能。鼓励企业建设完善人工智能开源学习框架，增强框架内置学习数据和基础设施，并通过我国巨大的市场优势，加快培育人工智能开源平台生态圈和产业链。

完善人工智能数据安全监管体系，用规范监管保障安全发展，加快完善人工智能健康发展的监管规则和法律法规，明确人工智能数据安全法律原则，确立不同参与主体在人工智能生命周期各阶段所享有的数据权利与所承担的安全责任。制定人工智能产品应用服务的数据安全服务产品体系，通过检测验证提升人工智能产品安全性和成熟度，降低人工智能数据安全风险。

利用AI技术防范数字安全风险

当前网络威胁不断升级，“小毛贼”“小黑客”已经成为历史，有组织的网络犯罪、高级持续性威胁已经成为当今网络安全最大的隐患。传统的安全防护在战略上缺乏统筹规划，难以形成协同配合，已经不足以应对持续变化的安全问题。用数字化思维重塑安全，建设体系化、实战化、智能化的数字安全能力势在必行。

怎么建设这种数字安全能力？“数字安全需要探索新的模式，以适应复杂的数字化场景。”中国工程院院士邬贺铨建议，要摒弃硬件式、碎片化、弱协同的传统安全防护手段，向云化、服务化升级。

数字安全企业是建设数字安全能力的重要一环。人工智能时代下，数字安全企业需要建立体系化的安全运营服务框架和面向各行各业输出数字安全能力，帮助其他企业构建安全防御体系，保护数据安全与商业秘密。而人工智能恰恰可以协助数字安全企业防范数字风险。正如尚冰所言：“人工智能等技术既是数字安全防御的重点，也是保障数字安全的有力手段。要推动大数据、人工智能等技术的融合，提升网络安全保障能力。”

360集团创始人周鸿祎透露，目前360集团有全球最大的网络安全攻击样本库和攻击整个过程全记录的知识库，记录了数以亿计的网络攻击知识。他们现在也在做试验，把这些知识加入到专门的垂直大模型里面去，争取在下次遇到攻击的时候，由大模型判断这是否是一次真实的攻击。“目前，大模型判断的准确率已达97%。相比之下，人类判断一次网络攻击的准确率超过80%就不错了。”他表示，当大模型判断准确率达99%时就可投入使用。