点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:周鸿祎委员谈“AI幻觉”:安全问题不可忽视!
首页> 数字化频道> 对话访谈 > 正文

周鸿祎委员谈“AI幻觉”:安全问题不可忽视!

来源:光明网2025-03-04 09:24

  【网络强国·百人谈】

  观点提要:

  ■从人工智能走向“人人智能”

  ■“幻觉”是想象力和创造力的基础

  ■通过“以模制模”打开人工智能安全新范式

周鸿祎委员谈“AI幻觉”:安全问题不可忽视!

  随着人工智能技术持续演进,其对各行各业的重塑效应日益显现。在2025年全国两会即将召开之际,全国政协委员、360集团创始人周鸿祎表示,“人人智能”将成为人工智能发展的关键方向。未来每个个体都将拥有多领域专业助手,像顾问一样为人们提供解答或启发。

  对于当前DeepSeek等大模型“AI幻觉”现象,周鸿祎认为,“幻觉”是想象力和创造力的基础。DeepSeek的“幻觉”很严重,写出来的文章特别像人的作品;此外,其推理逻辑能力很强,这样的话文章更有条理。“所以,在搞科学研究方面,‘幻觉’具有积极价值。”周鸿祎说。

  但“幻觉”的安全问题依旧不容忽视。“有了‘幻觉’之后,又确实存在一个严重问题。”周鸿祎举例,假如是医疗、法律、金融、证券、制造业等领域,这种不能出错,但被大模型“乱编一气”“胡乱警报”,这时候“幻觉”就是非常严重的问题。

  “我们的思路是‘以模制模’。”周鸿祎建议,通过构建专业的知识库,实施合理的矫正机制,来避免“幻觉”造成负面影响。对此,他们下了很多功夫,专门研发安全大模型,用大模型去管理知识库的使用,去管理智能体的调用,去管理基座模型的胡说八道等。此外,还可以通过多个大模型交叉验证、搜索矫正、知识库比对等方式,对“幻觉”进行合理纠正。

  光明网数字化频道&网络安全频道出品

  监制:张宁 策划:李政葳 摄制:曾震宇

刘辉:“跨界”融合发展,推动解决互联网技术挑战

“网络强国·百人谈”更多内容

欢迎扫码关注专栏

 

[ 责编:曾震宇 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见瑞士联邦主席帕姆兰

  • 跨越千年而来,杜甫、岑参、诸葛亮为您亲测数智生活

独家策划

推荐阅读
安徽省黄山市黟县宏村镇塔川国家森林公园的缤纷秋色渐入最佳观赏期。乌桕、枫香等树木由绿转黄、由黄渐红,五彩斑斓的枝叶与错落有致的古民居交相辉映
2026-10-31 17:49
少年儿童是祖国的未来,守护未成年人平安健康成长,是全社会共同的责任。近期,各地公安、法院、消防等单位纷纷走进校园,面向中小学、幼儿园及高校学生,开展形式多样的安全与法治宣教活动。
2026-10-31 17:36
山东省青岛市即墨区金口镇青山前村的枫树林逐渐迎来最佳观赏期。林中枫叶由绿转红,绚丽多彩、美不胜收,勾勒出一幅和美灵动的乡村生态画卷,吸引不少游客慕名而来
2026-10-31 17:25
湖北省襄阳市樊城区青少年桨板比赛现场,各中小学选手挥桨竞渡、劈波斩浪。襄阳市积极落实"健康第一"教育理念,以特色项目为载体深化体教融合,引导更多的学生在竞技中强健体魄、锤炼意志
2026-10-31 17:23
为期五天的2026南昌航空产业博览会在江西南昌绿地国际博览中心拉开帷幕。本届博览会聚焦航空制造、商业航天、低空经济三大领域,规划展览面积3万平方米,吸引300余家行业优质企业参加
2026-10-31 17:20