AIPress.com.cn报道
美国太平洋时间12月10日,OpenAI 罕见发布安全预警,称公司下一代大模型可能带来“高等级网络安全风险”。随着模型能力的迅速提升,OpenAI认为其新模型在网络攻防领域的潜在威胁已经不容忽视。
据介绍,新模型可能生成能够直接利用的零日远程攻击代码,协助实施复杂的企业级或工业级网络入侵,从而对现实系统造成实际影响。这是大型AI模型首次被官方明确警告“可能具备可操作级攻击能力”。
面对能力跃升带来的不确定性,OpenAI表示正加大安全投入,加强模型在防御领域的应用,包括自动化代码审计、漏洞检测、补丁生成等,同时强化内部的访问控制、基础设施安全和模型输出监测。
OpenAI计划推出“增强能力访问计划”,为符合条件的防御方提供更高权限的模型能力,用于提升网络安全防护效率。
公司还将组建“前沿风险委员会”(Frontier Risk Council),邀请一线网络安全专家与OpenAI团队共同评估风险并制定应对机制。委员会初期将聚焦网络安全风险,未来将覆盖更前沿的AI能力领域。(AI普瑞斯编译)




