OpenAI 阐明了随着AI网络能力的提升所应采取的保障措施

AI资讯 2025-12-15

来源：www.aifind.com.cn

OpenAI称其正优先考虑防御性用例，投资开发能帮助安全团队审计代码、修补漏洞并更有效应对威胁的工具。

根据OpenAI的最新评估，先进AI模型的网络能力正在迅速提升，这为网络防御带来明显益处，同时也引入了需要谨慎管理的新双重用途风险。该公司指出，夺旗测试表现显著提升，成功率从2025年8月的27%上升至11月的76%。

OpenAI表示，未来模型可能达到高水平的网络能力，包括协助实施复杂入侵技术。为此，OpenAI称其正优先考虑防御性用例，投资开发能帮助安全团队审计代码、修补漏洞并更有效应对威胁的工具。目标是在资源往往不足的环境中为防御者创造优势。

OpenAI认为网络安全不能通过单一防护措施来管控，因为防御性和攻击性技术存在重叠。相反，该公司采用深度防御方法，结合访问控制、监控系统、检测系统以及广泛的红队测试来限制滥用。除这些措施外，该公司还计划推出新举措，包括为防御者设立可信访问计划、在私有测试中部署基于代理的安全工具，以及创建前沿风险委员会。OpenAI表示这些努力体现了对网络韧性的长期承诺。