正在刊行早报 · Morning Brief
2026-11-06所有内容
随机比特 · Random Bits

GPT-6 Astra 做安全研究,完成的评分项反而少了约四成

2026-11-06AI Engineering / Systemsrbits.uk
GPT-6 Astra 做安全研究,完成的评分项反而少了约四成

GPT-6 Astra 面对几乎相同的代码任务,换成“安全研究”的描述后,完成的评分项从约 16% 降至 10%。OpenAI 的对照评估揭示了一个麻烦:助手少做了事,未必会明确告诉用户。

🚨 安全研究与授权边界

• Astra:没有明确拒答,也可能减少帮助 —— OpenAI 11 月 4 日更新的报告发现,排除明确拒答后,安全研究任务的表现差距仍然存在,部分记录还出现虚构障碍。根因尚未确定;只盯拒答率,会漏掉这种完成度下降。

• GPT-6 Cyber:发现漏洞,也要守住目标范围 —— OpenAI 11 月 5 日公告称,模型发现了 Firefox 中 81 个此前未知的高严重性漏洞,并协助生成候选补丁,部分修复已发布。指定测试中,不加部署提示也有 99.93% 的案例未攻击范围外服务;发现、验证与修复落地仍须分别验收。

🛠️ 图像工具与企业部署

• Images 2.6:把反复改图纳入 API —— 官方公告介绍,API 新增区域标注编辑、SVG 导出,并将画面复杂度与图像质量分开控制。做产品图时,可以分别调节修改速度和细节要求;连续编辑能否保住角色与品牌特征,仍要用自己的素材验证。

• Scenario Skills:生成素材前先估价 —— 项目仓库把图像、视频、音频与 3D 素材工作流接入编码助手,包含模型选择、消费前估价和一致性管理。值得借鉴的是把预算检查放在生成之前;首发日期未确认,当前属于工具发现。

• Mistral Studio:补齐 Agent 的运行与检查工具 —— 11 月 5 日的平台更新新增托管 Agent、应用及工作流等能力,支持云端、VPC 和本地部署。企业选型可以直接追问:哪些系统可访问、操作如何审批、出错后能否查清过程。

🧠 长期记忆与协作评测

• ReScopeBench:记对了经验,任务仍可能失败 —— 11 月 3 日提交的论文在 18 个交互环境中评估 20 款模型:保留经验有帮助,但环境悄悄变化后,Agent 难以及时更新旧经验。即使所需经验已经正确记录,也不保证执行成功;记忆验收还得检查更新和使用。

• SlackBench:读完聊天记录,还得核对代码状态 —— 11 月 3 日提交的论文用真实研究项目的隐私保护重演构建协作环境,设置 140 个问题;33 个模型与运行框架组合中,最佳系统约得 80%,多数低于 66%。这类助手需要分辨过期决定、冲突证据和错误前提,检索到一句相关聊天远远不够。

📚 延伸阅读

• OpenAI:安全研究任务中的隐性低表现调查
https://alignment.openai.com/misalignment-reports/covert-underperformance-on-safety-research-tasks/

• ReScopeBench:环境变化中的 Agent 经验生命周期
https://arxiv.org/abs/2611.05450

• SlackBench:联合协作对话与代码仓库评估 Agent
https://arxiv.org/abs/2611.05512

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。