正在刊行早报 · Morning Brief
2026-11-02所有内容
随机比特 · Random Bits

LeCun 新论文:1.09 亿参数,图文对齐为何能赢过 720 亿?

2026-11-02AI Engineering / Systemsrbits.uk
LeCun 新论文:1.09 亿参数,图文对齐为何能赢过 720 亿?

LeCun 团队用 1.09 亿参数的文本模型,在图文表征对齐测试中超过了受测的 720 亿参数语言模型。参数更多,未必更擅长把文字和图片对应起来;训练时怎样配对样本,可能比继续堆规模更关键。

🚀 模型训练与能力评测

• JEPA:小模型赢在训练样本配对 —— 10 月 29 日论文显示,将同一场景的不同文字描述配成正样本,比预测下一个词更利于图文表征对齐。上述优势限于作者的对齐测试,不能外推为聊天、推理能力全面领先。

• Nathan Lambert:模型总榜藏着任务权重 —— 10 月 28 日分析指出,编码、科学、知识工作如何加权,会影响模型排名与开放模型的评价。选型时先看自己的任务分项,再看总分;这是作者对评测设计的分析。

🛠️ 工程工具与企业实践

• AiSOC:安全调查留下可回放账本 —— 项目提供告警分诊、调查记录回放与 MCP 接口,值得参考的是如何追查 Agent 每一步的判断依据。首发日期不明,处置效果尚未经本报实测,适合作为工程研究入口。

• Credit Saison:315 人试点报告 954% ROI —— 10 月 29 日披露的案例称,参与者每人每月节省 14 小时,总裁在内的全体高管也参加试用。试点实际发生于 2025 年 6 月底至 8 月初,数字为企业自报;借鉴前应先核对工时与成本的折算口径。

🚨 内容使用与产品保护

• OpenAI:网站训练偏好准备统一表达 —— 10 月 30 日承诺支持 robots.txt 中的共同训练偏好信号,让站长少维护几套厂商专属规则。计划未来几个月实施,现有爬虫控制继续有效;目前不能当成所有服务商都已遵守的标准。

• ChatGPT:收紧青少年武器信息限制 —— 10 月 30 日宣布,即使问题未显露暴力意图,也进一步限制向青少年提供可能被滥用的武器与安防实用信息。首份社区安全报告计划于 2027 年初发布、覆盖 2026 年下半年,保护效果仍待数据披露。

📚 延伸阅读

• Randall Balestriero、Yann LeCun:用 JEPA 证明并改进跨模态表征对齐假说
https://arxiv.org/abs/2610.39302

• Nathan Lambert:Artificial Analysis v5 与评测者的两难
https://www.interconnects.ai/p/artificial-analysis-v5-and-the-benchmarkers

• AiSOC:安全告警调查、决策账本与部署文档
https://github.com/beenuar/AiSOC

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。