Google DeepMind 发布 Gemini 4 Carbon 模型
Google DeepMind 向开发者、企业、科研人员和消费者开放 Gemini 4 Carbon，称其在网络安全能力和长周期智能体工作流上达到前沿水平。
推荐理由：官方给出 Carbon 与 Argon 的定位差异、多项基准排名和每任务成本，便于判断何时该用更重的模型。
技术方向
安全对齐 最新动态
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
7 条精选近 30 天 7 条共收录 30 条
更新
安全对齐的精选
Google DeepMind精选AI 评分8888
Google DeepMind精选AI 评分8585 Google DeepMind 推出 AlphaProof Code，用 AI 智能体形式化验证 Signal 协议代码
Google DeepMind 发布 AlphaProof Code，一个多 LLM 智能体形式化验证框架，并用它数学证明了 Signal 协议实际代码的关键安全属性。
推荐理由：DeepMind 用多 LLM 智能体框架对 Signal 协议实际代码做形式化验证，四周完成过去需数年的工作，并开源验证产物。
The Decoder精选AI 评分8686 Anthropic 发布 Claude Fable 5.2 与 Mythos 5.2，IPO 前重回性能领先
Anthropic 发布 Claude Fable 5.2 和 Claude Mythos 5.2，两者共享同一模型底座，在 Artificial Analysis 的 Index v5 最高算力档以 65 分排名第一，领先 Gemini 4 Carbon 5 分、Claude Opus 5.5 6 分。
推荐理由：文章给出新模型在第三方基准与内部安全测试上的具体分数和成本对比，可据此判断其能力位置与代价。
AWS Machine Learning Blog精选AI 评分7878 Claude Fable 5.2 与 Mythos 5.2 上线 Amazon Bedrock
AWS 宣布 Claude Fable 5.2 和 Claude Mythos 5.2 在 Amazon Bedrock 与 Claude Platform on AWS 上可用。
推荐理由：原文交代了 Fable 5.2 在编码与科研任务上的定位，以及 Bedrock 上的调用方式和迁移路径。
TechCrunch · AI精选AI 评分7878 耶鲁 Sonnenfeld 评估黄仁勋去留：概率约五五开
英伟达董事会宣布就 CEO 黄仁勋向员工承认对妻子不忠一事启动独立调查，涉事对象 Megaspeed 高管 Alice Huang 被美方怀疑为中国间谍。耶鲁管理学院教授 Jeffrey Sonnenfeld 认为黄仁勋的职业生涯尚可挽回，但留任概率约为五五开，并指出英伟达处于 AI 融资网络中心、又缺少明确接班梯队，使这次领导层危机的影响超出公司本身。
推荐理由：耶鲁学者评估黄仁勋去留概率，并梳理英伟达在AI融资网络中的位置如何放大这次领导层危机。
OpenAI News精选AI 评分7878 OpenAI 发布 GPT-6 Cyber 网络安全模型
OpenAI 发布网络安全模型 GPT-6 Cyber，用于发现可利用漏洞并开发修复方案。该模型经过训练，被要求只在授权范围内行动。
推荐理由：OpenAI 推出面向网络安全的专用模型，强调在授权范围内工作，可观察安全智能体的对齐约束如何落地。
Google DeepMind精选AI 评分8888 Google DeepMind 发布 Gemini 4 Carbon 前沿模型
Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长程任务上能力最强，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由：原文给出网络安全与长程智能体任务的基准成绩和分阶段开放路径，可据此判断前沿模型在攻防场景的进展。