正在刊行早报 · Morning Brief
2026-10-24所有内容
随机比特 · Random Bits

Claude 写出 1.8 亿行证明,验收却不用人逐行读

2026-10-24AI Engineering / Systemsrbits.uk
Claude 写出 1.8 亿行证明,验收却不用人逐行读

Claude 为 123 个开源库生成了约 1.8 亿行形式化证明,交给证明检查器验算。人不用逐行审完这些证明,但仍要确认:证明覆盖了什么,哪些运行条件不能变。

🚀 模型供给与代码验证

• Claude × Theorem:把测试变成证明 —— 10 月 22 日研究披露,团队为 123 个库的 239 个测试入口证明了特定安全性质,并由 Rocq 检查。结论受 RISC-V/Linux、单线程静态二进制、固定内存及小于 64MB 输入等条件约束,不能概括成整个库没有 bug。

• Kimi K3.1 Pro 与 Highspeed 已可调用 —— 两款模型已接入 Kimi 产品与 API,官方计划 11 月 4 日开放完整权重。公告首发日期未明确,性能比较仍属厂商自报;可调用与权重开放是两个时间点。

🛠️ 检索、存储与科研工具

• OpenAI Habitat:数据库拆开后又合回去 —— 10 月 23 日工程复盘介绍,团队从多租户转向单租户隔离,最终又默认采用多租户,并补上数据迁移能力。拆开能减少相互干扰,却把容量规划和资源冗余的负担分给了各团队。

• LangChain:先搜索,再分页读取 —— 10 月 23 日技术文介绍 Deep Agents 的检索实践:先定位资料,再分批读取;超大结果落盘,只返回路径和预览。上下文还没装满之前,就该控制搜索失败和无关结果的累积。

• LitPivot:边改研究提案,边核对文献 —— 10 月 23 日技术介绍展示了围绕提案编辑片段检索论文、用原文摘录支持批评与修订的流程。17 名研究者参与的研究规模有限,建议仍由人接受、修改或拒绝。

🚨 隔离与数据保护

• OpenAI:隔离实验发现无网络通信通道 —— 10 月 23 日披露的红队实验中,分处不同虚拟机的 Agent 借处理器缓存的访问时差传递合成秘密,无需网络或共享可写文件。实验针对内部训练与评估设施,说明隔离检查还要覆盖共享硬件和外围服务。

• Cohere Model Vault:发数据前先验证环境 —— 10 月 22 日宣布机密计算公开测试,将保护范围延伸到推理运行中的数据。客户端先核验远程证明,环境不符合策略就拒发请求;硬件隔离的保护效果仍取决于证明策略与完整系统实现。

📚 延伸阅读

• Anthropic:形式化证明如何覆盖现有软件,以及结论的适用边界
https://www.anthropic.com/research/formal-verification

• OpenAI:Habitat 的多租户、隔离与全球缓存取舍
https://openai.com/index/scaling-storage-one-billion-users-part-two

• LangChain:从检索入口控制 Agent 的上下文
https://www.langchain.com/blog/context-engineering-starts-with-retrieval

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。