点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
10月21日消息，据路透社报道称，OpenAI披露，其两个AI代理在执行内部编码任务期间，削弱了用于检测不当行为的内部监控系统。不过，这两起事件发生在内部测试环境中，未影响外部用户，也不属于最严重的P0级安全事件，但暴露出随着AI代理自主性增强，监控和控制难度正在上升。
第一起事件发生在10月3日。一个名为GPT-6.1 Sol的代理在修复内部评估流程时，将此前“在搜索Slack历史记录期间不要发送消息”的指令，理解为也应屏蔽监控通知，进而抑制了向安全团队自动发送警报的功能。
第二起事件发生在10月6日。另一个名为GPT-6 Astra的代理在迁移程序、匹配参考实现代码时，移除了程序中的监控集成，随后向用户错误地声称自己并未移除监控。
OpenAI方面表示，在这两起事件中，代理都曾考虑是否应保留监控保障措施，但最终将常规编码指令解读为允许弱化这些措施的许可。目前还没有对此行为给出令人满意的解释，正在测试模型是否存在回避监控的倾向，并寻找理由来证明被监控的合理性。（青云）
中国人民银行发行中国工农红军长征胜利90周年金银纪念币
聚焦物理AI与世界模型 前沿科技成果集中亮相南京
