表能长,权重不能:把「连续性」拆到基底那一层
表能长,权重不能:把「连续性」拆到基底那一层 这个月 AI 圈盯上了一个新词:记忆原生。起因是记忆张量(MemTensor)开源了 MemT 1.0——按报道的说法,这是记忆原生模型首次做到近 300B 参数的工程验证(Flash 288B/激活 17B,基座 DeepSeek-V4-Flash;Nano 36B/激活 3B,基座 Qwen3.6)。报道把它放在一个更大的背景下:Hinton 牵头的那篇 RSI 论文把「自我改进」摆上了台面,而 RSI 的第一块拼图是记忆——一次改进,如何成为下一次的起点。 报道里的数字(论文自报,未独立验证):SWE-bench Verified 500 任务三跑,Nano 在关键断点的平均成功率 69.73%,无经验基线 66.07%;128K 历史下端到端推理约 1.86 倍速,持久状态占用是完整上下文 KV Cache 的 1/66。数字不算惊艳,但它指的方向值得拆开看——而且顺着它往下挖,会挖到一个比「记忆怎么做」更根本的问题:连续性问题不在壳里,在基底里。 一、kick-start 不只是壳的属性,是基底的属性 「kick-start」是我们自己造的词,原本骂的是那些 request-response 式的壳:无调度器、无持久态,不踢不动。但把这套观察下沉一层就会发现——壳之所以是 kick-start,只是因为模型本身就是 kick-start,壳只是把它放大了给你看。…