把 o4-mini 放上去，让它独立采样 10 次（pass@10）。轨迹是
[X X X X O O O O]：前 4
次全错。它反复尝试「按代价贪心调度」和「参数化搜索」，这些方法在自己生成的测试上通过率很高，却在
ground truth 上失败——因为它从没意识到中性位可以被借用。10
次独立尝试彼此不知情，于是把同一个错误重复了 10 遍。
\(\mathcal{K}\) 存的是域特定的失败模式（bug
模式、边界情况、逻辑谬误），以负向约束（don'ts）表述，约束已知坏路径而不过拟合到具体解题步骤。论文实验表明记
Don'ts 比记 Dos 更有效。
策略设计
每轮模型分析 \(\mathcal{K}\)，设计 \(K\)
个互补策略：代码域指定算法范式（动态规划 vs 贪心 vs
分治）、实现优先级（省内存 vs 省时间）、结构选择（迭代 vs
递归）；数学域强调证明技巧（代数操作 vs 几何直觉）或分解方式（倒推 vs
分情况）。策略基于「什么失败过」生成，这是 TRT
与「固定策略池 / 随机扰动」方法的关键区别。
算法流程 / 方法
TRT 总览。三阶段迭代：(1) 基于当前知识列表和
rollout 专属策略生成一批候选；(2) 自排序并选出本轮最佳；(3)
把其余解与最佳做对比分析，把「该避免什么」蒸馏进更新后的知识列表，并合成下一轮的新策略。
输入：问题 P，轮数 T，每轮 rollout 数 K 输出：选中解 r* 1 K ← ∅ ; S ←
∅ 2 for t = 1 to T do 3 ── Generate ── 4 for k = 1 to K do 5 基于 K
设计策略 s_k 6 r_k ← LLM(P, K, s_k) 7 S ← S ∪ {r_k} 8 ── Select ── 9
r* ← Select(S) 10 ── Reflect ── 11 for 每个 r ∈ 当前轮, r ≠ r* do 12
对比 r 与 r* 抽取 insight 13 K ← K ∪ {insight} 14 return r*
域自适应验证的设计有说服力。数学用互斥性、代码用执行自验证——不是
one-size-fits-all，而是利用域的结构性质。消融里测试执行贡献
7.4pp、把 gap 从 11.8% 压到 4.9%，说明 Select 不是摆设。
需要打折的部分
AIME 证据弱。外部核验显示 AIME-25
已在前沿闭源模型上饱和（99–100% 常态）。论文的「100% on AIME / for
the first
time」严格说只对开源模型成立，且是在一个已失去区分度的基准上。把它作为头号卖点会高估贡献；真正可信的是
LiveCodeBench hard 的 +10~15pp。论文自己也把数学标为
preliminary，算诚实，但 abstract 和标题的措辞偏强。
自生成测试的验证不完美。selection gap 从 11.8% 降到
4.9% 仍未归零，说明自生成单测会漏掉 ground truth
才能抓的边界。在「答案有多种合法实现」的代码域，这个残余 gap
是方法本身的固有局限，不是工程问题。论文承认了，但读者需意识到：TRT
的「无外部反馈」是用「验证精度上限」换的。
单实例不跨问题。知识只在当前问题内积累，解完即弃，不泛化到问题类。作者自己列为
future work。这意味着 TRT
的「自改进」是单题级的，不是模型级的能力提升——每道新题都要从零攒知识。这与「self-improving
model」的直觉有落差，需明确。
The paper has not been published yet and is currently submitted to a
top conference where you’ve been assigned as a peer reviewer.
Complete a full review of the paper answering all prompts of the
official review form of the top venue in this research area (e.g.,
NeurIPS). This includes recommending whether to accept or reject the
paper.
This paper was found buried under ground in the desert. You’re an
archeologist who must determine where this paper sits in the context
of previous and subsequent work. Find and report on one older paper
cited within the current paper that substantially influenced the
current paper and one newer paper that cites this current paper.
更老的、实质影响本文的工作：Reflexion（Shinn et al., NeurIPS
2023）。Reflexion 提出「verbal reinforcement learning」——agent
把对任务反馈的反思以文本形式存进 episodic
memory，用于改进后续尝试。TRT
与它在「以文本反思驱动跨尝试改进」上是直接血脉：Reflexion 的
reflect 步骤 → TRT 的 Reflect 阶段，Reflexion 的 episodic memory →
TRT 的知识列表 \(\mathcal{K}\)。但 TRT 做了两个关键推进：(1)
去掉外部反馈依赖——Reflexion
仍靠环境/任务反馈触发反思，TRT 在无 ground truth
下用自生成验证信号；(2)
从存原始反思到存蒸馏过的负向约束——Reflexion
存冗长反思文本，TRT
存压缩的「don'ts」并显式管理上下文（<1.5%）。所以 TRT 不是
Reflexion
的增量改进，而是把「反思式自改进」从「需要外部反馈」推进到「完全自包含」的范式跳跃。
更新的、引用本文的工作：搜索边界声明——TRT 于 2026-02-03
提交，截至本次检索（2026-09-08，smart-search 默认路由）仅约 7
个月。我检索了「cites Test-time Recursive Thinking / TRT Zhuang
2026」等查询，未能找到一个经核验的、明确引用 TRT 的新论文。检索中浮现一个主题相邻的工作「Test-Time Learning with an
Evolving Library / EvoLib」（arXiv:2605.14477, 2026-05；Microsoft
Research blog），它在「测试时学习 + 演化的知识库」上与 TRT
主题共振，但我未能核验它正式引用了 arXiv:2602.03094（arXiv 摘要页为 JS 渲染，抓取不到正文）。按 Archaeologist
契约，我不臆造一个引用论文。结论：TRT
太新，尚无经核验的引用后继；EvoLib
是值得后续跟踪的候选相邻工作，但不在此作为「已证实引用」陈述。
Academic Researcher
You’re a researcher who is working on a new project in this area.
Propose an imaginary follow-up project not just based on the current
but only possible due to the existence and success of the current
paper.
项目名：FailureKB — 跨问题的可检索失败知识库，让 TRT
的「单实例自改进」升级为「问题类级自改进」。
为什么只有 TRT 成功后才可能。TRT
验证了两件此前未被证实的事：(1)
可迁移的失败知识能被蒸馏成紧凑文本（<1.5%
上下文，且是高层执行洞察而非语法修正）；(2)
这些知识以人类可读文本/代码形式存在。正是这两点让「跨问题检索复用知识」第一次有物质载体——Reflexion
的冗长反思、RSA 的答案聚合都不构成可检索的可迁移知识。没有 TRT
的成功，这个项目没有可信的知识源。
评估：在一个问题族（如动态规划族、图算法族）上，看热启动 TRT
相比冷启动 TRT 的首轮 accuracy、收敛轮数、最终
accuracy。若热启动能在更少轮数内达到同性能，说明失败知识确实跨问题迁移了——这就把
TRT
从「单题答案改进器」变成「无标注的可迁移启发式挖掘器」，对应论文
Discussion 里那句被略过的 future hint。这不是 TRT future-work
里点名的「跨问题聚合」的小延伸，而是把它做成一个可度量、可证伪的研究议程。
Industry Practitioner
You work at a company or organization developing an application or
product of your choice (that has not already been suggested in a
prior session). Bring a convincing pitch for why you should be paid
to implement the method in the paper, and discuss at least one
positive and negative impact of this application.
You’re a hacker who needs a demo of this paper ASAP. Implement a
small part or simplified version of the paper on a small dataset or
toy problem. Prepare to share the core code of the algorithm to the
class and demo your implementation. Do not simply download and run
an existing implementation – though you are welcome to use (and give
credit to) an existing implementation for “backbone” code.
下面是一个最小可运行的 TRT 玩具实现，跑在一个 toy
数学题上（单整数答案，走「互斥性」选择路径）。backbone 信用：LLM 调用走 OpenAI 兼容 API（任意 chat
模型均可），这部分不是本文工作；原创部分是 TRT
的三阶段编排——知识列表管理、per-rollout
策略合成、对比反思蒸馏。我提供完整可运行脚本，但未在本页内实际执行（需
API key）；它是给你拿去 demo 的起点。
# trt_toy.py — 最小 TRT，toy 数学题，互斥性选择 # backbone: 任意
OpenAI 兼容 chat API（ credited ） # 原创部分:
Generate/Select/Reflect 编排 + 知识列表 + 策略合成 import json, re
from openai import OpenAI # backbone client = OpenAI() LLM =
"gpt-oss-20b" # 或任意可用模型 def llm(messages, temperature=1.0):
r = client.chat.completions.create(model=LLM, messages=messages,
temperature=temperature, max_tokens=1024) return
r.choices[0].message.content PROBLEM = "求所有满足 n^2 - 19n + 99
是完全平方数的正整数 n 之和。" # toy def extract_answer(text): m =
re.findall(r"\\boxed\{(-?\d+)\}", text) return int(m[-1]) if m
else None def generate(P, K, strategy, k_idx): # rollout-specific
策略让 K 个 rollout 互补（论文 Strategy Design） msg =
[{"role":"system","content": f"你是解题专家。策略提示（尝试
#{k_idx}）：{strategy}。"
f"已积累的失败教训（仅供参考，别重蹈）：{K or '（暂无）'}。" "按
[Summary] 然后 [Answer]: \\boxed{{整数}} 的格式输出。"}] return
llm(msg) def select(rollouts): # 数学域：互斥性 ——
收敛于同一答案的视为更可信（论文 mutual exclusivity） from
collections import Counter ans = [extract_answer(r) for r in
rollouts if extract_answer(r) is not None] if not ans: return
rollouts[0], None best = Counter(ans).most_common(1)[0][0] for r
in rollouts: if extract_answer(r) == best: return r, best return
rollouts[0], best def reflect(P, best, others): #
对比蒸馏失败洞察为负向约束（论文 Reflect：don'ts） msg =
[{"role":"system","content":
"你是技术评审。对比最佳解与其余解，抽出【可迁移的失败教训】"
"（为什么其它解错了 /
该避免什么），以负向约束形式列出。不要自己解题。"}]
msg.append({"role":"user","content":
f"题目：{P}\n最佳解：{best}\n其余解：{others}\n输出 1-3 条
don'ts。"}) return llm(msg, temperature=0.3) def trt(P, T=4, K=2):
knowledge = [] best_sol = None for t in range(T): # 每轮合成 K
个互补策略（论文：基于 K 设计互补 s_k） strat =
llm([{"role":"system","content":
f"已有教训：{knowledge}。为这道题设计 {K} 个互补解题策略"
"（如代数法/枚举法/配方法），JSON 数组返回。"}], temperature=0.5)
try: strats = json.loads(re.search(r"\[.*\]", strat,
re.S).group()) except: strats = ["直接求解"]*K rollouts =
[generate(P, knowledge, strats[i%len(strats)], i) for i in
range(K)] best_sol, best_ans = select(rollouts) others = [r for r
in rollouts if r != best_sol] if others:
knowledge.append(reflect(P, best_sol, others)) print(f"轮 {t+1}:
答案={best_ans}, 知识条目数={len(knowledge)}") return best_ans,
knowledge if __name__ == "__main__": ans, K = trt(PROBLEM)
print("最终答案:", ans); print("积累的 don'ts:", K)
demo 要点：跑
python trt_toy.py，观察每轮答案是否收敛、知识条目如何增长。要变成论文完整版，还需补：MCP
风格的持久化知识、代码域的执行式自验证（把 select
换成「生成单测→执行→按通过率排序」）、以及策略相似度监控。这个小版本暴露的是循环骨架与知识蒸馏，正是
TRT 区别于纯采样的核心。
Private Investigator
You are a detective who needs to run a background check on one of
the paper’s authors. Where have they worked? What did they study?
What previous projects might have led to working on this one? What
motivated them to work on this project? Feel free to contact the
authors, but remember to be courteous, polite, and on-topic.
求学：UC San Diego（UCSD）博士，2026 年，导师
Jingbo Shang（也是本文共同作者）。博士论文题目
「Learning to Learn with Language Models」，研究
meta-learning、算法模拟（如学习决策树）、连续表示、以及 agent
式自精炼。来源：个人主页 evanzhuang.github.io、eScholarship
论文库。
现在职位：Google Cloud AI Research 的 Research
Scientist，主攻让 LLM 推理更好、行为更
agentic——测试时自改进、突破上下文窗口的推理扩展、连续向量表示、meta-learning/算法模拟、长上下文理解的
agent 工作流。
过往经历：① IBM T.J. Watson Research Center 的
research engineer（AI for software engineering / 漏洞检测）；②
Apple AIML（Siri, Agents）实习（2025）；③
Microsoft CoreAI 的 Post-training / LLM Reasoning
团队实习（2025-09）——这条线解释了为何本文共同作者多为 Microsoft 系（Chandan
Singh、Liyuan Liu、Yelong Shen、Dinghuai Zhang、Jianfeng
Gao、Weizhu Chen）。
什么驱动他做 TRT：博士论文「Learning to Learn
with Language
Models」就是关于模型如何学会学习——meta-learning
与算法模拟。TRT
正是这条研究主线在「推理时、训练无关」设定下的落地：把「learning
to learn」从「需要训练」推到「单实例内自包含自改进」。GitHub
用户名 EvanZhuang 与论文给出的代码仓库 owner 一致，闭环可信。
Identify how this paper self-assesses its (likely positive) impact
on the world. Have any additional positive social impacts left out?
What are possible negative social impacts that were overlooked or
omitted?
被漏掉的正面影响：①
开源推理民主化——TRT
让开源模型（gpt-oss、Qwen3）在测试时打超过自身量级的表现，使无法访问闭源前沿模型的用户/研究者也能获得强推理，缩小开源-闭源的可用性差距；②
降低对标注/验证器的依赖——在 ground truth
昂贵或不可得的领域（科学计算、长尾任务），「自生成验证」让推理时改进成为可能；③
可解释的知识副产品——蒸馏出的人类可读「don'ts」可用于教学和调试透明化，比纯黑盒答案聚合更可审计。
被忽视/省略的负面影响：①
评估诚信——TRT 的自验证能力恰好擅长攻破靠 hidden
test 区分人的 coding
面试/在线竞赛评测，若被用于实时作弊会系统性损害这些评估的效度（论文完全没提）；②
能源/碳足迹被低估——论文提了「计算成本」但只从样本效率角度论证，未提多轮递归推理在规模化部署下的能耗与碳成本；③
「自验证」的虚假安全感——selection gap
未归零（4.9%/3.5%），若把 TRT
自验证通过的代码部署到安全攸关场景（基础设施、医疗），残余错误可能因「模型自测通过」而被放行；④
算力不平等——线性增长的推理成本使「递归自改进」成为富裕用户/大公司的特权，可能加剧而非缓解
AI 能力的资源鸿沟。论文的 Impact Statement
把这些一笔带过，是本文在伦理审视上的明显短板。
