OpenAI 发布了 GPT-5 系统卡的补充文档,重点介绍了模型在处理敏感对话方面的改进。该更新涵盖了情感依赖、心理健康支持以及防范越狱攻击的新基准测试。
OpenAI 发布了针对 GPT-5 的系统卡补充说明,详细描述了模型在应对敏感话题(如心理健康、情感依赖)时的安全性和鲁棒性提升,并引入了新的评估基准。
随着大模型普及,用户可能产生过度情感依赖或寻求心理建议,提升模型在这些领域的安全边界和应对能力对于降低潜在社会风险至关重要。
系统卡(System Card)是 AI 公司用于记录模型安全性评估、风险缓解措施和性能基准的文档。作为备受期待的下一代模型,GPT-5 的安全性评估是其发布前的关键环节。