随着 AI 模型能力的提升，OpenAI 正在加大对安全防护和防御能力的投入。公司详细介绍了如何评估风险、限制滥用，并与安全社区合作以增强全球网络韧性。
OpenAI 宣布了一系列旨在增强网络安全防御的措施，包括建立风险评估机制、实施防止模型被用于恶意网络攻击的限制措施，以及启动与安全专家的协作计划。
随着大模型能力的增强，它们可能被黑客利用进行攻击。OpenAI 的这一举措旨在确保 AI 的发展不会削弱网络安全，而是通过技术手段成为防御方的有力工具。
随着 GPT-4 等强力模型的发布，业界对 AI 可能被用于编写恶意代码或自动化网络攻击的担忧日益增加，OpenAI 此前已启动了相关的网络安全资助计划以应对这些挑战。