正在刊行早报 · Morning Brief
2026-10-09所有内容
随机比特 · Random Bits

Slack 里的 AI 能替你买东西,却看不到你的信用卡号

2026-10-09AI Engineering / Systemsrbits.uk
Slack 里的 AI 能替你买东西,却看不到你的信用卡号

LangChain 的 Restock 能在 Slack 里挑商品、下单,却拿不到信用卡号。用户先确认采购,再到 Stripe Link 批准付款:代理负责跑流程,花钱的权限仍由人掌握。

🚀 代理进入采购流程

• Restock:从购物建议走到真实订单 —— 支付工具负责保管凭据、检查订单与批准额度,模型无法替用户点击同意。目前仅支持美国配送、美元及支持 MPP 的采购 API,距离全网代购仍有明确限制。工程说明

🛠️ 编码工具与执行验收

• Claude Code v2.1.295:检查失败也能阻断执行 —— 命令与 HTTP Hook 新增 onFailure: "block",检查程序无法启动、超时或异常退出时,可阻止对应动作。维护审批流程的团队,值得核查这个配置,避免检查失灵后请求照常放行。版本说明

• OpenHands v1.26.0:补齐行为验证工具 —— 新增 verify-openhands skill、control-openhands CLI,并补充更多可实际执行的验证步骤。升级收益应看已有工作流能否重复验收,验证工具更新本身不代表模型变强。版本说明

🚨 安全防御与滥用处置

• Anthropic Cyber Mission:把模型和工程师送到防御现场 —— 新计划通过 CIDP 支持电网、水务、交通等关键基础设施防御,并为符合条件的开源项目提供免费定期安全扫描。工业设备往往不能停机打补丁,发现漏洞之后,如何安全修复才是难点。官方公告

• OpenAI 封禁两起“假门面”影响行动 —— 平台披露俄罗斯、伊朗来源的行动利用假智库、假记者及媒体投稿传播信息;俄罗斯行动使用 ChatGPT 最多的任务,竟是撰写内部汇报、夸大自身成效。识别滥用需要看完整工作流,仅盯公开生成内容可能漏掉后台组织活动;归因来自 OpenAI 自身调查。处置报告

📚 延伸阅读

• LangChain:Restock 示例代码、部署步骤与三种运行模式
https://github.com/langchain-samples/restock-agent

• Anthropic:OSS Scanner 的验证结果、漏洞报告与项目准入
https://www.anthropic.com/research/launching-opt-in-vuln-finding-service-for-open-source

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。