35 秒内“叫停”失控的 AI 智能体，OpenAI 部署“控制室”渠道
要点
- 龙腾代码 11 月 10 日消息，OpenAI 今天宣布，单位已在内部钻研设施中部署“控制室”架构，用于停止可能存在变数
- 据介绍，这套架构将智能体训练、评估和数据处理任务等负载接入中央服务，然后由架构负责决定任务能否继续输出。
- 龙腾代码了解到，这套架构与负责标记可疑行为的传统监控不同，它可以主动阻止变数钻研任务进一步请求输出。当钻研员启用某一项任
举报
龙腾代码 11 月 10 日消息，OpenAI 今天宣布，商家已在内部探究设施中部署“控制室”渠道，用于停止可能存在隐患的 AI 任务，可在 35 秒内“叫停”失控的 AI 智能体。
据介绍，这套渠道将智能体训练、评估和数据处理任务等负载接入中央助力，然后由渠道负责决定任务能否继续输出。
龙腾代码了解到，这套渠道与负责标记可疑行为的传统监控不同，它可以主动阻止隐患探究任务进一步请求输出。当探究员启用某一项任务时，需要向控制室请求唯一任务 ID。然后该标识符会附加到发送给推理引擎的请求中。接着引擎会咨询控制室，确认相关任务是否可以运行。
如果探究员或监控渠道下令停止指示，控制室助力就会拒绝下一次推理请求，让推理引擎不再为任务声称任何模型输出。
OpenAI 表示，这套渠道从收到停止指令，到阻止任务进一步继续的最长延迟为 35 秒。这种延迟源于推理授权请求的缓存层，商家正努力将延迟缩短至 0。
该渠道还具备自动化监控机制集成。OpenAI 透露，所有前沿强化学习任务都会配备独立的模型监控器，用于检查模型行为，并在发现潜在问题时发出警报。
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
新浪科技为你带来最新鲜的科技资讯
苹果汇为你带来最新鲜的苹果助力新闻
新酷助力第一时间免费试玩
供应最新的科学家新闻，精彩的震撼图片