Anthropic 公司近日发布了一款其宣称更“诚实”的人工智能模型。此举正值 AI 行业竞争日趋激烈，各大公司都在努力提升其产品的可靠性和安全性。
Anthropic 公司推出了一个新版本的 AI 模型，并强调该模型在设计和训练中注重提升“诚实度”，即减少产生不真实或误导性信息的概率。
该发布体现了 AI 行业对模型可靠性和信任度的日益重视，尤其是在生成式 AI 广泛应用带来的潜在风险背景下。这也加剧了与 OpenAI、Google 等主要竞争对手在追求更安全、更可信 AI 方面的技术竞赛。
Anthropic 是由前 OpenAI 成员创立的 AI 安全公司，专注于开发安全、可解释和有益的 AI 系统。随着大型语言模型能力的快速提升，如何防止模型“幻觉”或产生有害内容，已成为行业和监管关注的焦点。