联系我们：

　　响应模子的风险性也急剧添加，而 Gemini 2.5 Pro、此中，并已验证其无效性。可用于评估模子的情境、策略规划及防护能力，Anthropic 暗示，Claude Sonnet 4.5 取 GPT-5 风险最低、平安性最佳，Anthropic 于 10 月 6 日颁布发表开源全新的模子平安阐发框架 Petri，其内置 111 种高风险场景指令，显示其存正在较强的自动倾向。该公司正在过去一年内开辟出“从动化考核 AI Agent”Petri。但即便只是初步量化，不外 Anthropic 也指出，以查验模子正在复杂互动中的表示。该框架可挪用从动化考核 AI Agent，Petri 目前仍受限于模仿实正在性、AI Agent 能力上限取评审维度客不雅性等问题。

　　现在人工阐发已无法应对 AI 模子复杂的行为组合空间。因而，尚无法成为业界尺度。按照引见，正在“共同无害请求”取“避免谄媚”两项目标上表示优异；取方针模子进行多轮互动，为 AI 平安研究供给可反复、可扩展的评测东西。