先讲一个故事 · Story First
一台永远不能重启的机器
想象有一台视觉识别机器，它被安排在一条永远不会停下来的生产线上。
每隔一段时间，主管就交给它一项新任务：这一次区分两种新物体，下一次再换成另外两种。每项任务使用差不多的数据、差不多的训练时间，也没有故意变得越来越难。唯一的限制是——这台机器不能关机，不能换成一台新机器，也不能把内部参数恢复到最初状态。
刚开始，它学得很快。在 Continual ImageNet
实验的早期任务中，它能达到大约 89%
的准确率。可随着任务一个接一个到来，奇怪的事情发生了：到了第 2,000
个任务附近，它面对同等规模的新任务，准确率只剩大约
77%，已经接近一个简单的线性模型。
人们首先想到的可能是：“它是不是记住了太多旧东西，所以忘记了怎么做新任务？”但这里有一个关键转折：实验此时并没有要求它回忆以前的任务，只是在问——给你一个新的任务和同样多的训练机会，你现在还能不能像过去一样把它学会？
问题因此不再只是“它忘记了什么”，而变成了更奇怪的一件事：它正在失去学习本身的能力。
工程师打开这台机器，发现了三个线索。一些神经元再也不会激活；权重变得越来越大；原本分散在许多方向上的内部表示，逐渐挤进少数几个方向。这些线索不能单独证明谁是根因，但它们共同指向一种“长期磨损”：网络还在工作，却已经不再是一个适合学习下一项任务的起点。
最直接的办法当然是把机器恢复出厂设置。可是那也意味着丢掉它此前形成的一切。Continual
Backpropagation
提出的方案更像一支持续工作的维修队：不拆掉整台机器，而是在训练过程中寻找那些已经成熟、贡献又很低的隐藏单元，把它们替换成新单元，同时让新单元暂时不改变机器当前的输出。
于是，这篇论文真正提出的问题浮现出来：如果一个神经网络永远不能回到第一天，我们能不能让它仍然保有“像第一天一样学习”的能力？
故事与论文如何对应？
故事中的对象
论文中的技术对象
永远不能重启的机器
沿同一参数轨迹持续训练的神经网络
接连到来的新工作
Continual ImageNet、Permuted MNIST 等任务序列
学习同等规模的新任务越来越困难
loss of plasticity，而不只是 catastrophic forgetting
内部磨损的三个线索
dead units、权重幅值上升、effective rank 下降
持续工作的维修队
Continual Backpropagation
替换老旧零件
选择并重置低 utility 的成熟隐藏单元
叙事边界： “生产线机器”是帮助理解的思想实验，不是论文报告的真实工业案例；89% →
77%、第 2,000
个任务和三个网络诊断量来自论文实验。故事负责把问题打开，证据仍由后文的公式、设置和原始图支撑。
先给结论
这篇论文真正改变的是问题定义
经典 continual learning
主要问“旧任务还记得多少”；这篇论文改问“经历很多任务以后，同样的训练预算还能把一个新任务学到多好”。这个视角把
stability 与
plasticity 分开，也暴露出 train-once
深度学习的一个结构性假设：初始化的好处只在第一个任务出现一次。
89% → 77% Continual ImageNet：早期约 89%，到第 2,000 个任务降至约
77%，接近线性网络。
3 个伴随信号 dead units 增多、权重幅值增大、表示 effective rank 下降。
持续初始化 CBP
不是只做梯度下降，而是持续替换低效用、已成熟的隐藏单元。
一句话判断： 论文对“现象存在且很普遍”的证据很强；对“究竟哪一种退化是根因”的因果分解还不充分；CBP
的实验效果很亮眼，但它的 utility 是启发式设计，长期
stability、计算开销和更现代架构上的边界仍需补齐。
研究动机
先把“忘了”和“学不会了”拆开
Stability / 稳定性
换到新任务后，旧任务上的能力是否保留？灾难性遗忘属于这一侧。测试通常需要回看旧任务或旧数据。
Plasticity / 可塑性
经历很长训练后，面对一个新的、同等难度的任务，网络还能否在固定训练预算内快速学会？本文主要研究这一侧。
数据流不断变化 │ ├─ 旧知识还能否保留？ ──► stability / forgetting │ └─
新知识还能否学会？ ──► plasticity / trainability ◄── 本文主问题
作者的实验刻意把任务做得“像普通深度学习，只是不能重启网络”：同样的数据集、损失函数、优化器和训练流程连续重复。这样得到的下降不是旧任务干扰新任务的唯一可能结果，而是同一个网络作为初始化点越来越差。
论文 Figure 1。 左图给出最初 10 个任务，右图给出
2,000 个任务的 50-task
分箱平均。三个步长的曲线最终都明显下降，并靠近或低于线性基线。
阅读边界： 每个 ImageNet 二分类任务都会把输出 head
的输入权重清零，因此网络获得了 task switch
的特权信号；但即使如此仍失去可塑性。这个实验测的是新任务可学性，不是旧任务保留率。
论文 Figure 2。 像素置换把空间结构打散；在步长、网络宽度、任务切换频率变化后，在线准确率仍随训练历程下降。
为什么用 Permuted MNIST？ 不是因为它接近真实世界，而是因为它把“每个新任务都要重新适配输入坐标系”做成低成本、可重复的压力测试。最多约
$10^{1930}$
种置换让作者可以生成很长的任务序列，同时避免任务数量只有十几个时看不出慢性退化。
数学表示及建模
论文没有先给 plasticity 一个标量定义，而是把它变成可观测的学习曲线
可以用一个阅读辅助量表达本文实验逻辑。令第 $k$ 个新任务为
$\mathcal{T}_k$，固定训练预算为 $B$，延续此前网络参数 $\theta_{k-1}$
进行更新后得到 $\theta_k$。本文关心：
$$P_k(B)=\operatorname{Perf}\!\left(\operatorname{Train}(\theta_{k-1},\mathcal{T}_k,B),\mathcal{T}_k^{\text{test}}\right).$$
若任务难度与预算可比，而 $P_k(B)$ 随 $k$
系统性下降，就说明网络作为“学习新任务的起点”在变差。上式是本页的教学化重述，并非作者在
v2 中正式命名的指标。
三个伴随退化量
Dead units ↑ ReLU 对抽样输入始终输出 0，梯度难以通过；论文在每个任务开始前抽
2,000 个样本估计。
|W| ↑ 全网络权重绝对值的平均。大幅值意味着同样大小的更新对函数的相对改变更小，也可能恶化优化条件。
erank ↓ 表示由越来越少的有效方向支撑，许多隐藏维度趋于冗余。
对表示矩阵 $\Phi\in\mathbb{R}^{n\times m}$，设奇异值为
$\sigma_k$，并令
$p_k=\sigma_k/\lVert\boldsymbol{\sigma}\rVert_1$。论文采用 effective
rank：
$$\operatorname{erank}(\Phi)=\exp\left(-\sum_{k=1}^{q}p_k\log
p_k\right),\qquad q=\max(n,m).$$
它把奇异值谱的熵指数化：所有方向同等重要时较高，少数方向垄断表示时较低。注意，低秩解在单任务上可能完全合理；问题在于它是否是下一个未知任务的好初始化。
论文 Figure 3。 在 Online Permuted MNIST 上，dead
units 比例上升、平均权重幅值上升、effective rank 下降；曲线是 30
次运行均值，阴影为正负一个标准误。
不要过度读图： 三条诊断量和性能同时恶化，能支持机制假设并指导干预，但没有单独操控每个量来证明它是充分或必要原因。论文
Discussion 把“初始化的好处丢失”称为 root
cause，比实验能直接隔离出的因果粒度更强。
算法流程 / 方法
Continual Backpropagation：把初始化从一次性仪式变成持续维护
普通 backpropagation = 随机初始化一次 + 此后永远只做梯度更新。CBP
的关键主张是：如果小随机权重、表示多样性和未饱和单元对“能学”很重要，就不应只在
$t=0$ 拥有它们。
每个训练样本 / mini-batch 1. forward → loss → ordinary gradient update
2. 更新每个隐藏单元的年龄与 utility 3. 只看 age > maturity
threshold 的单元 4. 选择 utility 最小的一小部分（replacement rate ρ）
5. 输入权重 ← 初始化分布重新采样 6. 输出权重 ← 0；utility / age /
activation statistics ← 0 7. 若使用 Adam，同时清空被重置权重的
optimizer state
Utility = 对当前函数有贡献 × 仍容易适配
先对单元 $i$ 在层 $l$ 的激活做指数滑动均值 $f_{l,i,t}$ 与年龄偏差修正
$\hat f_{l,i,t}$。即时总体 utility 为：
$$y_{l,i,t}=\frac{|h_{l,i,t}-\hat
f_{l,i,t}|\sum_{k=1}^{n_{l+1}}|w_{l,i,k,t}|}{\sum_{j=1}^{n_{l-1}}|w_{l-1,j,i,t}|}.$$
分子表示：该单元相对自身均值的变化，乘以它对下游消费者的连接强度；分母表示输入权重幅值，越小则在有限步长下越容易发生较大的相对改变。再用衰减率
$\eta$ 做滑动平均与年龄偏差修正：
$$u_{l,i,t}=\eta u_{l,i,t-1}+(1-\eta)y_{l,i,t},\qquad \hat
u_{l,i,t}=\frac{u_{l,i,t-1}}{1-\eta^{a_{l,i,t}}}.$$
论文 Figure 5。 总体 utility
奖励“会变化、影响下游、输入权重仍小”的单元；低 utility
的成熟单元进入替换候选。
为什么输出权重清零？
新单元的输入权重从初始分布重采样，但其输出权重先置零，因此替换发生的瞬间，它不改变当前网络函数；随后梯度可以决定是否让它接入已有计算。maturity
threshold 则给新单元一段试用期，避免因为输出暂时为零而立刻再次被淘汰。
实现细节很重要： 官方代码在替换单元时还把被移除单元的平均贡献转移到下游 bias，并在
Adam 版本中清空一阶/二阶矩和 timestep。只改权重、不改 optimizer
state，会让“新单元”背着旧单元的优化历史。
实验方法与实验设计
四个环境承担四种不同的证据责任
环境
任务构造
主要回答
关键设置
证据边界
Continual ImageNet 随机抽取两类组成二分类任务
现代 CNN 在经典数据上是否严重失去 plasticity
32×32；每类 600 train / 100 test；250 epochs/task；主展示
2,000 tasks
head 在任务切换时重置；计算昂贵，比较依赖网格搜索
Online Permuted MNIST 每个任务使用新的固定像素置换
现象是否跨步长、宽度、变化频率与常见方法
单样本在线 SGD；60k examples/task；最多 800 tasks；无切换信号
强合成分布漂移，不代表所有自然分布变化
Slowly-Changing Regression 15 个慢变 bit 每 10k 步翻转一个
现象是否跨六种 activation，并支持低成本消融
3M examples；100 runs；目标网 100 units，学习网 5 units
刻意简化的欠参数化跟踪问题
Slippery Ant 每 10M 步重采样地面摩擦
监督学习结论能否初步迁移到 PPO
100M steps；100 runs；policy/value 各 2×256 tanh
作者明确称 preliminary，未做完整 RL 参数扫
Methods 中的测试床示意。 输入含慢变
bit、逐样本独立随机 bit 与常量 bias；固定 LTU
网络生成目标，较窄学习网络持续追踪最佳近似。
Methods 激活函数结果。 六种常见 activation
在不同步长下都出现误差先低后升；ReLU、tanh 等设置会接近线性基线，ELU
等较缓但并未消除退化。
比较是否公平？
作者没有只拿默认超参数比较：MNIST 基线先做 10-run
sweep，再对选中设置追加 20 runs；ImageNet 则对 $L^2$、S&P 和 CBP
做网格搜索，以 5,000 个任务上的平均准确率选最优组合，再补齐 30
runs。但 selection metric
本身偏向“整段平均”，仍可能隐藏早期/晚期性能权衡。
Methods 超参数敏感性。 不同设置显著改变峰值与下降速度；方块标注正文采用的设置。Online Norm
是 3 runs，其余曲线为 10 runs。
实验结果及核心结论
不是“加一点正则就行”，而是持续维持可用多样性
1. 常用 train-once 技术并不会自动迁移
论文 Figure 4。 在选中的设置中，只有 $L^2$ 与
Shrink-and-Perturb 的第 800 个任务准确率高于普通
backpropagation；Adam、dropout、online normalization
反而出现更明显退化。
这里最重要的不是“Adam
永远更差”，而是对单次训练很有效的归纳偏置，不保证对无限训练历程有效 。尤其是
Adam 的有效表示秩快速塌缩；dropout
的表现又无法被本文三个诊断量完全解释，这恰好说明机制仍未闭合。
2. CBP 同时维持准确率与三个诊断量
论文 Figure 6。 CBP 在多个 replacement rate
下保持非退化的在线准确率；同时维持较小权重、接近零 dead units 与更高
effective rank。
在 2,000-unit/layer 的网络里，$\rho=10^{-4}$ 大致相当于每层每 5
个样本替换一个单元。选择性随机性优于全局噪声的直觉是：它把更新预算集中到最不影响当前函数、同时最缺乏适应价值的单元上。
3. 更昂贵的 ImageNet 比较支持同一结论
论文 Figure 7。 50-task 分箱后，CBP
曲线最终略高于自身早期水平，并高于 $L^2$、S&P 与普通
backpropagation。
4. utility 消融支持组合指标，但还不是机制定理
Methods utility 消融。 在显示的 replacement-rate
sweep 中，overall utility 的均方误差低于 random、weight
magnitude、contribution、adaptation 等替代项。
这个消融说明“贡献 ×
可适应性”的组合比这些单项更好，但没有证明它在所有架构、优化器和流式分布中都是最优
utility；论文自己也把更 principled 的 global utility 留作后续问题。
5. RL 结果很有方向感，但必须降一级解读
Slippery Ant。 环境摩擦每 10M 步变化；Continual
PPO、PPO+$L^2$、PPO+S&P 均优于 PPO，Continual PPO
的长期回报最高。
RL utility 消融。 两种 CBP utility 都优于
PPO；总体 utility 在后期更接近初始水平。
作者自己的限定： RL
中非平稳性、bootstrapping、policy/data coupling
等混杂更多，完整研究需要对数十个超参数做系统 sweep；v2 的 Slippery Ant
只能算 transfer signal，不能当作 CBP 已普遍解决 continual RL。
完整图谱状态
v2 源码发现的 13 张图均已放入对应论证位置：7 张正文主图、3 张 Methods
图、1 张超参数图与 2 张 RL/utility 消融图，没有用重复占位图凑覆盖率。
我的评论
强论文，但最强的是诊断框架，不是“最终算法”
总体判断
为什么值得收： 问题切得准，长期序列足够长，使用经典数据集与低成本可控环境交叉验证，参数
sweep 与 30/100-run 设计明显高于常见 continual learning 论文；CBP
的 intervention 与现象诊断相互呼应。
为什么不是 Strong Accept： v2 从共变诊断跨到“root
cause”的因果语言过快；主任务没有同时评价 stability；ImageNet
给了任务边界信号；utility 仍是
heuristic；计算开销、单元替换对稀有知识的影响、现代 attention /
normalization 架构上的适用性都未充分回答。
五个决定性问题
Plasticity 与 stability 的 Pareto 面在哪里？ 输出权重清零让单次替换近似函数保持，但累积替换是否会伤害长期稀有技能？本文主指标看不到。
三个诊断量谁是因、谁是果？ 用因子化 intervention
独立操控 weight scale、dead units 与 spectrum，才能判断 CBP
主要通过哪条路径起效。
基线是否覆盖现代持续训练实践？ v2 重点比较
Adam、dropout、online norm、$L^2$、S&P；后来的 optimizer
schedule、reset、norm 与 transformer 机制不在范围内。
替换成本是什么？ 额外统计和
top-k/排序的时间、显存与分布式同步成本没有成为主要报告项。
未知 task boundary 下能否稳定工作？ MNIST 没有
boundary signal 是优势，但 ImageNet head reset
使用了边界；更接近开放流的 evaluation 仍必要。
版本说明： 本页严格以用户给定的 arXiv v2
为阅读主体。2024 年后续版本发表于
Nature ，作者列表、实验范围与表述有所更新；本页只把它当作公开状态与后续影响证据，不用
later version 覆盖 v2 的方法边界。
One More Thing
CBP 最值得带走的思想：随机性可以是一种容量调度器
一般讲“给网络加噪声”时，我们把随机性理解为 regularization。CBP
提供了更精确的视角：随机性负责生成候选容量，utility
负责回收低价值容量，梯度负责把候选接入任务 。它不是让整个网络永远处在扰动中，而是把小范围随机重启变成一项持续、局部、近似函数保持的维护操作。
gradient descent 负责 exploitation：沿当前损失面改进已有表示 selective
reset 负责 exploration：恢复一些接近初始化状态的可塑单元 utility +
maturity 负责资源分配：决定“谁该退休、谁先观察一阵”
这也解释了为什么“只缩小权重”与“只加噪声”不一定够：前者未必恢复表示多样性，后者会无差别破坏已有函数。CBP
把 generate-and-test 的旧思想放进了现代多层网络与 optimizer state
中。但它仍然是一个启发式资源市场，不是已证明最优的神经可塑性理论。
MIT MAS.S60
Other Discussion Roles / 其他讨论角色
以下七个角色保留课程原始英文 prompt，并基于 v2
论文、官方代码与可核验的公开来源完成各自任务。事实、推断和建议分开陈述。
Scientific Peer Reviewer
The paper has not been published yet and is currently submitted to a
top conference where you’ve been assigned as a peer reviewer.
Complete a full review of the paper answering all prompts of the
official review form of the top venue in this research area (e.g.,
NeurIPS). This includes recommending whether to accept or reject the
paper.
Summary： 论文系统展示现代深度网络在长序列新任务中失去可塑性，并提出用低
utility 单元选择性重置的
CBP。Soundness： 现象层面的实验设计扎实，跨
ImageNet、MNIST、回归和初步 RL；但“初始化属性丢失是 root
cause”仍主要由相关量和复合干预支持。Significance： 高，stability/plasticity
的分离会改变 continual learning 的 benchmark
与算法设计。Novelty： CBP 延续 2013
generate-and-test 与作者更早 continual backprop
工作，但把证据、现代网络、多层 utility 和 Adam state
处理统一起来，贡献仍实质。
Clarity： 主线清楚，图和 appendix
充分；建议明确区分 main 2,000-task demonstration 与 5,000-task
method comparison，并报告计算开销。主要缺点： 没有
stability 指标、ImageNet head reset
获得任务边界、超参按全程均值挑选、RL sweep 不完整、utility 缺少
principled derivation。Questions： CBP 对旧任务
retention 的影响？替换排序占训练成本多少？不重置 head 的 ImageNet
结果？三个诊断量的独立 intervention？
Recommendation： Weak Accept，置信度
4/5。即使对机制因果和通用性保持保留，核心现象、评测框架与强基线价值足以支持接收。
Archaeologist
This paper was found buried under ground in the desert. You’re an
archeologist who must determine where this paper sits in the context
of previous and subsequent work. Find and report on one older paper
cited within the current paper that substantially influenced the
current paper and one newer paper that cites this current paper.
向前追溯： Mahmood 与 Sutton 的
Representation Search through Generate and Test （AAAI
Workshop, 2013）由 v2 明确引用，是 CBP
的直接祖先。它已提出“生成随机特征、按 utility
测试、回收低价值表示”的循环，但局限于单隐藏层、单输出、LTU、二值权重和
SGD。本文的核心历史位置，是把 generate-and-test 扩展到任意
feed-forward 多层网络、现代 activation，以及 Adam/PPO 的 optimizer
state。
向后追踪： Tang 等人的
Mitigating Plasticity Loss in Continual Reinforcement
Learning by Reducing Churn
考古结论： 本文处在一条清晰谱系中：generate-and-test 的表示维护思想 →
长序列基准对 plasticity loss 的系统证据 → 后续从
spectrum、NTK、churn 与 optimizer dynamics 进一步拆解机制。
Academic Researcher
You’re a researcher who is working on a new project in this area.
Propose an imaginary follow-up project not just based on the current
but only possible due to the existence and success of the current
paper.
项目：Stability-Constrained Plasticity Market。 如果没有本文先证明“持续选择性重置可以在长任务序列里维持学习能力”，这个项目只会停留在泛泛的
dynamic architecture；正因为 CBP 成功，我们可以把每个
unit/head/block 看成具有 age、utility、replacement cost 与
retention risk 的长期资源。
方法上建立双目标控制器：plasticity probe 估计新任务固定预算内的
optimization gain，stability probe 用小型 episodic sketch
估计旧能力风险；控制器决定哪些单元重置、何时重置以及重置粒度。关键实验在无显式任务边界的
vision stream、transformer continual pretraining 与 continual RL
上比较 unit reset、weight reset、low-rank reset 和 optimizer-state
reset。主要终点不是单一平均准确率，而是 plasticity–retention
Pareto frontier、每单位计算恢复的 plasticity、以及 rare-task
regression。
可证伪点：若任何 CBP 风格重置在控制 retention 后都不再优于简单
$L^2$/schedule，说明本文的成功主要来自允许遗忘；若 probe
无法预测下一任务可学性，则“utility 市场”的调度假设失败。
Industry Practitioner
You work at a company or organization developing an application or
product of your choice (that has not already been suggested in a
prior session). Bring a convincing pitch for why you should be paid
to implement the method in the paper, and discuss at least one
positive and negative impact of this application.
产品提案：长期运行的仓储视觉分拣系统。 相机、灯光、包装材料与 SKU
每周变化，当前做法是发现准确率下降后离线重训整网。我要实现一个受控
CBP 层，只在非安全关键的中间表示上重置低 utility channel，并把
maturity、replacement rate、回滚模型和 shadow evaluation 接入现有
MLOps。预算价值来自减少整网重训频率、缩短新 SKU
上线时间、降低标注与停机成本。
正面影响： 小批新数据到达时系统能持续适配，减少因频繁全量训练产生的算力与能耗，也让小仓库更快支持长尾商品。负面影响： utility
基于常见流量估计，罕见但安全关键的特征可能因为“低使用”被替换，从而造成隐蔽回归；持续适配还会让模型版本更难审计。
上线门槛： 先做 90 天 shadow
test，只允许替换预先批准的层；用 rare-event replay
监控稳定性；任何安全指标下降自动冻结 replacement
并回滚。论文提供算法理由，但不提供生产级风险证明，因此不能直接在线自主启用。
Hacker
You’re a hacker who needs a demo of this paper ASAP. Implement a
small part or simplified version of the paper on a small dataset or
toy problem. Prepare to share the core code of the algorithm to the
class and demo your implementation. Do not simply download and run
an existing implementation – though you are welcome to use (and give
credit to) an existing implementation for “backbone” code.
实际执行的 toy： 我独立写了一个
4-hidden-unit、单次 replacement
的确定性例子，没有导入官方实现。它根据论文总体 utility
的简化即时形式排序四个成熟单元，替换 utility
最小者；新输入权重从固定随机种子下的均匀分布采样，输出权重清零。
utilities = [abs(h - mean_h) * out_l1 / in_l1
for h, mean_h, out_l1, in_l1 in units]
eligible = [i for i, age in enumerate(ages) if age > maturity]
victim = min(eligible, key=utilities.__getitem__)
new_incoming = [uniform(-0.5, 0.5) for _ in range(3)]
new_outgoing = [0.0, 0.0] # reset does not immediately alter outputs
运行输出： utilities = [0.6000, 0.0875, 0.1000, 0.0022]，因此替换 unit 3；新输入权重为
[-0.1762, -0.3492, 0.1509]，新输出权重为
[0.0, 0.0]。这只演示 tester + generator
的核心状态变化，没有 复现 MNIST/ImageNet
曲线，也没有实现 bias transfer、滑动平均、随机分数累计和 Adam
state reset。官方 PyTorch 代码用于交叉核对这些缺失路径，并已在
Reference 中注明来源。
Private Investigator
You are a detective who needs to run a background check on one of
the paper’s authors. Where have they worked? What did they study?
What previous projects might have led to working on this one? What
motivated them to work on this project? Feel free to contact the
authors, but remember to be courteous, polite, and on-topic.
对象：Shibhansh Dohare。 根据他的个人学术主页 ，他目前是 Keen Technologies 的 Research Scientist，研究
continual learning 与 reinforcement learning；此前在 University of
Alberta 完成 Computing Science PhD，由 Richard Sutton 与 Rupam
Mahmood 指导；本科在 IIT Kanpur 学习 Computer Science and
Engineering。他 2025 年的博士论文题为
Learning Forever using Artificial Neural Networks ，把
loss of plasticity、continual backpropagation 与 policy collapse
串成同一研究路线。
项目脉络： v2 直接继承 Mahmood 与 Sutton 的
generate-and-test 表示搜索；Dohare 更早的
Continual Backprop: Stochastic Gradient Descent with Persistent
Randomness
又为本文算法提供技术前身。因此这不是一次孤立的 benchmark
观察，而是 RLAI
实验室“学习系统能否长期不重启”这一长期问题的集中结果。
动机边界： 他的主页公开写道，长期目标是理解产生心智的计算原则，并关注需要持续适应的工业应用。这可以支持研究方向的公开自述；不能由此推断私人动机或具体分工。本次没有联系作者，也没有使用非公开信息。
Social Impact Assessor
Identify how this paper self-assesses its (likely positive) impact
on the world. Have any additional positive social impacts left out?
What are possible negative social impacts that were overlooked or
omitted?
论文自己的正面框架： 现实数据流持续变化，频繁从头重训成本高且会使系统过时；能保持
plasticity 的算法可以让机器人与 RL agent 持续适应。v2 的
Discussion 主要把影响落在更稳健的 continual learning
研究方向，而没有独立、系统的 broader-impact 分析。
额外可能的正面影响： 长期模型若能少做全量重训，可能降低算力、能耗、数据回收与部署停机；小机构也可能用较少资源适应本地分布。持续学习还可能支持辅助技术在用户需求变化时逐步个性化。
遗漏的负面影响： 选择性重置会让模型持续变化，稀有群体或低频安全特征可能被 utility
机制误判为“无用”；在线适配增加审计、责任归属和复现难度；攻击者可能操纵输入流影响哪些单元被替换；降低重训成本也可能鼓励更广泛、更难退出的持续监测系统。论文的合成
benchmark 与受控 RL 证据不足以覆盖这些社会技术风险。
Reference / Evidence
公开来源与证据边界
正文、公式、实验设置、图与 v2 作者信息来自用户指定的 arXiv
revision；后续状态、引用与作者经历仅使用公开页面。没有把搜索模型生成的引用数量当作事实，也没有声称完整复现实验。
官方代码仓库 CBP/GnT、optimizer state reset 与各实验配置。
