“以AI管AI”的理念 推动AI与网络安全深度融合
源 / 新财网    文 / 新财网    2025年02月18日 13时38分

  近年来,人工智能(AI)技术蓬勃发展,尤其是最近以DeepSeek为代表的大模型问世,凭借其强大的推理能力和便捷的操作方式,迅速成为AI领域的“顶流”。2月12日,2025首届AI引领数字安全新浪潮专题论坛在北京召开。与会专家围绕AI技术的快速发展对数字安全带来的挑战与机遇展开深入探讨,提出“以AI管AI”的理念,推动人工智能与网络安全技术的深度融合,为经济社会发展和国家安全提供有力保障。

  AI技术蓬勃发展,数字安全面临新挑战

  中国网络安全协会专家在会上指出,新技术的出现带来了全新的生态环境和产业格局,但相应的配套管理技术措施也需要及时跟上。随着AI技术的广泛应用,数据安全、算法安全、隐私保护等问题日益凸显,传统的安全防护手段已难以应对复杂的数字安全挑战。

  国雄资本有限公司董事长姚尚坤表示,人工智能的飞速发展对数字安全带来了全新的机遇与挑战。他指出,人工智能正从传统模式向生成式跨越,AIGC(生成式人工智能)不断取得突破,多模态大模型快速发展。然而,AI技术的广泛应用也伴随着数据泄露、深度伪造等风险,人工智能安全保障已成为AI可靠可控应用的重要基础。

  以AI管AI:构建数字安全新质生产力

  针对AI技术带来的安全挑战,与会专家提出“以AI管AI”的理念,即利用人工智能技术来管理和应对AI自身可能引发的安全问题。姚尚坤强调,规避AIGC风险不能单纯依赖智能算法,而是需要将人类的创造能力与AI的生成能力有效结合。他建议,通过AIGC合成内容鉴别技术应对AI的恶意应用,利用大模型纠偏提升AI的安全能力,并借助生成式模型水印技术保护AI赋能的系统。

  “我们在拥抱AI的同时,也不能不严防AI可能带来的数据泄露、深度伪造等风险。”姚尚坤表示,人工智能创立之初即是模拟、延伸和扩展人类智能的一门技术学科。相比于过往的AI技术,大模型在理解指令、思维链能力和快速学习能力等维度得到了显著增强,这为数字安全领域提供了新的解决方案。

  DeepSeek:推动AI技术普惠化,激发行业创新

  姚尚坤特别提到,DeepSeek等AI大模型的出现,将AI从“科技贵族”手中解放出来,赋予普通企业和个人参与AI竞争的机会。这种变革让更多创新者和中小企业能够在AI战场上争得一席之地,推动整个行业的多元化发展。然而,随着AI技术的普及,数据安全保护需求也将大幅增加。

  “DeepSeek的普及不仅推动了AI技术的普惠化,也为数字安全领域带来了新的挑战和机遇。”姚尚坤表示,未来还需要进一步加强AI技术的安全能力建设,确保AI在赋能经济社会发展的同时,不会成为安全风险的源头。(刘莉)

网友讨论
还可以输入 200 个字符
热门评论

建议及投诉热线010-85869906

广告刊登热线010-85862238

  • 关注官方微信

  • 关注官方微信

中国人民银行 | 中国银行业监督管理委员会 | 中国保险监督管理委员会 | 中国证券业监督管理委员会 | 路透社 | 华尔街日报 | FT中文网 | 中国互联网金融企业家俱乐部(ECIF) | 工业和信息化部域名信息备案管理系统
Copyright © 2008-2030 北京大白熊网络信息有限公司 京ICP备16038172号-1 all rights reserved本网站所刊部分稿件为网络转载,若有侵权请您及时联系我们,我们会及时删除,本网站对所转载内容不承担任何的责任,请网民对相关内容的真实性自行判断。
账号登录
记住密码
账号注册
账号注册

*昵       称

*输入密码

*确认密码

*姓       名

*电子邮箱

*国家地区

*省       份

*出生年份

*性       别  男          女

*从事职业

*从事行业

请您留下正确的联络方式,以便我们能够及时与您取得联系

*手机号码

填写您要订阅的邮件
  •   我愿意接受有关新财网的新功能或活动的信息
  •   我愿意接受有关其他网站和产品的新功能或活动的信息
  •   我愿意接受第三方服务供应商的特别优惠的信息