点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI安全“内忧外患”亟待破局
首页> 数字化频道> 要闻 > 正文

AI安全“内忧外患”亟待破局

来源:光明网2025-08-07 19:22

  随着大模型技术加速落地与智能体的规模化应用,AI已从实验室全面渗透至千行百业。然而,在技术红利持续释放的背后,AI安全风险正进入“集中爆发期”,呈现出“内忧外患”的复杂态势。

  “AI在落地过程中面临的安全挑战已远超网络与数据安全的原有边界。”在ISC.AI 2025未来峰会上,360数字安全集团总裁胡振泉直击AI安全痛点。

  胡振泉分析到,从内部来看,AI存在与生俱来的“四大基因缺陷”:一切皆可编程、一切皆可模仿、一切皆可生成、一切皆可调度。从外部来看,一方面,针对AI系统的攻击将变成大国博弈的关键;另一方面,黑灰产利用AI批量制造攻击武器,甚至部署“黑客智能体”,传统安全防御体系难以应对。

  “这些风险交织,使得AI安全的复杂程度远超传统范畴”。胡振泉强调,AI安全既涵盖网络、数据等传统安全问题,也涉及AI内容安全、应用安全及未来场景安全。广大政企机构在AI落地过程中面临的安全挑战,已远远超出网络与数据安全的原有边界,亟需一套系统性的创新解决方案。

  当前,传统安全企业因缺乏对AI技术的深度理解,在应对AI安全问题时往往“盲人摸象”;而大模型企业则因安全技术积累与攻防实践经验不足,难以提出有效的解决方案。360大模型安全卫士通过四大安全智能体形成闭环防护体系:内容安全智能体、AI Agent安全智能体、软件安全智能体、安全风险评估智能体。

  “这四大智能体协同发力,形成从内容生成到任务执行、从开发上线到风险评估的全链路防护,真正实现用AI思维解决AI安全问题。”胡振泉说。(李政葳)

[ 责编:曾震宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 南海影像日志丨驰骋蔚蓝 破浪护疆

  • 荷风十里东湖夏 碧水长天入画来

独家策划

推荐阅读
6月15日-6月21日光明图片一周见报作品精选
2026-06-22 15:25
随着小浪底水利枢纽3条排沙洞的闸门徐徐开启,巨大白色"水龙"喷涌而出,以2600立方米每秒的流量向下游奔腾而去。这标志着黄河2026年主汛期前调水调沙正式启动
2026-06-22 15:24
近年来,新疆乌苏市坚持党建引领乡村产业发展,以"避暑+"经济串联观光旅游、休闲娱乐等多元产业,在青山绿水间因地制宜发展"清凉产业",带动村民增收
2026-06-22 15:24
今年以来,如城街道立足本土特色花木资源,融合花木景观与田园营地资源,推动传统苗木产业与乡村文旅休闲业态双向赋能、深度融合,持续丰富乡村游玩场景,擦亮属地生态农旅特色名片
2026-06-22 15:23
连日来,陕西省渭南市合阳县公安局洽川派出所聚焦黄河干流、洽川湿地、沿河滩涂等重点水域,严厉打击网捕、电鱼等非法捕捞行为。同时组织警力深入沿河村庄开展禁渔普法宣传,普及《黄河保护法》,引导群众主动参与生态保护,凝聚全民护河护渔合力,持续筑牢黄河合阳段生态安全屏障
2026-06-22 15:23