正在刊行长文 · Essay
2026-11-01所有内容
随机比特 · Random Bits

没有一行训练数据,黑客在 Qwen 权重里跑起了超级马里奥

2026-11-01AI Engineering / Systemsrbits.uk
没有一行训练数据,黑客在 Qwen 权重里跑起了超级马里奥

很多工程师在面对大模型的逻辑失控时,总习惯在提示词里拼命打补丁。

“请一步步思考”、“严禁输出多余文字”、“务必保持逻辑严密”。这些写在系统提示词里的叮嘱,只要对话多走两轮,就会在长文本注意力稀释中迅速失效。大模型依然会算错简单的加减乘除,依然会在关键字段上自由发挥。

大模型从来不缺模糊的概率想象力,真正让复杂业务工程可靠落地的,是把它重新约束回一块死板、冷酷的硬件状态机。

神经网络前向推理硬跑红白机芯片

海外开源社区最近完成了一项极其震撼的极客实验。

开发者成功将一台任天堂红白机经典的 6502 微处理器与内存系统,完整编译进了开源大模型 Qwen 的权重深处。这套名为 nesformer 的系统不需要任何外部虚拟机插件。开发者直接把《超级马里奥兄弟》的游戏镜像喂给模型,大模型纯靠自身的神经网络前向推理,逐个时钟周期模拟出 8 位芯片的电信号流转。

大模型概率采样漂移与硬件状态机确定性执行对比

这台纯由神经网络构成的虚拟红白机,通过了十五年前发布的标准硬件一致性测试套件。

在这个运行环境里,没有概率采样的温度波动,也没有前言不搭后语的逻辑幻觉。只要输入手柄的离散按键信号,模型内部的晶体管逻辑就会发生严格的状态转移,精准推进马里奥在画面中的跳跃与奔跑。

大模型在数学物理的底层,展现出了足以令人震撼的离散计算潜能。

零训练数据把模型权重编译成数字电路

让大模型硬跑游戏芯片的背后,隐藏着一套颠覆认知的编译技巧。

这项架构直接继承自先驱开源项目 Qwenputer 的核心设计。新型模型中四分之三的注意力层采用了门控线性循环网络。在通常的文本生成过程中,网络会随着时间推移逐渐淡忘早期的背景信息。

开源项目 nesformer 官方实录与架构评述截图

开发者做了一个极其巧妙的数学设定。他们将遗忘门控的参数永久钉死为数值 1,确保信息永不衰退;同时将写入强度同样钉死为数值 1,执行完全覆盖。

借助独热码的向量寻址,循环网络的隐藏层状态矩阵瞬间化为一块可按行精确定址的物理内存。

更为不可思议的是,整个系统没有执行过哪怕一次反向传播梯度训练。编译器直接根据芯片电路图计算出权重参数,把由算术逻辑单元、寄存器和程序计数器构成的微处理器,硬生生拼装进了十一层网络结构中。

这颗被刻进权重深处的芯片,在无人工干预下连续执行了超过一千八百万条指令,保持着零误差的完美纪录。

硬件状态机为智能体筑起确定性防线

这场红白机实验给所有从事自动化智能体研发的工程师敲响了警钟。

很多团队总是试图用充满弹性的自然语言去指挥一切,把脆弱的业务逻辑托付给模型的概率预测。当面对多步骤长链路任务时,只要第一步出现百分之一的细微偏航,整条流水线就会迅速退化为不可挽回的灾难。

神经网络内部三层微处理器与门控网络内存架构

高可靠性的智能体架构必须向硬件电路的严密逻辑取经。

在关键的消息流转中,系统必须建立刚性的前置拦截网。每一个状态转移请求在进入下一步之前,必须接受严格的合法性核对,一旦发现指令越界或参数缺损立即原地熔断,坚决不让无效调用消耗后续模型的推理资源。

成熟的系统设计不应幻想一个无所不能的单体模型接管全盘。把确定性的离散状态机作为专职安全构件,与负责意图识别的概率大模型相互解耦组装,才能在灵活与严谨之间找到平衡。

所有的执行轨迹都应该像硬件芯片的寄存器一样清晰可测。当每一次系统状态的变更都能映射为具体的离散数据,并能随时接受自动化单测的严格断言时,智能体才算真正拥有了工业级交付的可能。

随机比特公众号二维码
公众号 · 随机比特
从 AI 工具热闹里拆工程真相

写边界、控制面、上下文、成本与安全。