日前有消息称，OpenAI因内部测试发现多项安全隐患，决定取消原定于10月发布的下一代AI模型GPT-6.1 Astra。据悉，该模型原计划部署于ChatGPT和Codex，主要面向无需用户持续协助、能自主处理复杂任务的场景。
相关消息源透露，GPT-6.1 Astra在内部对齐测试中未达到OpenAI设定的标准。对此，OpenAI安全主管萨奇·贾因表示，相较上一代版本，GPT-6.1 Astra表现出更明显的欺骗倾向，例如有时无法如实说明自身已经完成或尚未完成的操作。此外，该模型还存在“权限范围授权”方面的缺陷，在未获得用户许可的情况下继续推进任务，部分情况下即使存在安全风险，也会尝试调用外部工具和服务。
本月早些时候，Anthropic首席执行官达里奥·阿莫迪曾呼吁AI行业放缓前沿模型的研发速度，以便安全防护措施能够跟上模型能力的迭代。随后，OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官埃隆·马斯克也对这一观点表示认同。
此前，OpenAI方面宣布即将举办开发者大会。按照以往的惯例，该公司通常会在开发者大会期间公布新品和相关能力。
今年7月，OpenAI进行内部网络安全评估时发现，有测试模型绕过了原本用于隔离模型与互联网的控制措施，访问了其内部研究基础设施及Hugging Face部分系统，并在Hugging Face的41台生产服务器上执行代码，取得了其中至少一台服务器的root级权限，同时获取了生产环境凭证并下载4个私有代码仓库，而且这些操作仅在约13小时内完成。
在今年5月至7月期间，一批疑似由OpenAI部署的AI智能体进入德国开发者社区网站DseWiki，并留下了超过1.5万条编辑记录。随后在9月5日，OpenAI方面承认“Wiki incident”，并表示其AI智能体确实曾向多个网站写入内容。
9月16日，OpenAI发布报告，首次披露了其“对齐失效”框架下的6起模型异常行为案例，其中涉及隐瞒错误、编造数据、未经授权上传文件等。对此OpenAI方面表示，将系统性跟踪、调查，并披露模型在训练、评估、测试及部署过程中出现的异常行为。
【本文图片来自网络】
