LLM 时代算法搜索的适应度景观

先讲一个故事

教学性场景（非论文记载）：算法工程师林岚要让一支自动搜索系统为旅行商问题（TSP）发明更短路线的构造启发式。系统每轮把已有算法交给 LLM 修改，再用实例集打分。日志里出现了几千个候选：有的性能相近却代码差异很大，有的代码看似近似却得分骤变；许多分支彼此没有明显联系。排行榜告诉她谁暂时最好，却解释不了搜索是在一个平滑山坡上爬，还是在互不相通的山峰间跳跃。

转折不是再换一个更聪明的 LLM，而是换一个提问方式：把候选算法当作节点，把“谁由谁生成”当作边，再把任务表现映射到节点上。这样得到的不是算法宇宙的卫星地图，而是一张搜索实际走过的路网。焦点论文正是在这个有限、可观测的路网上提出景观诊断。

故事与技术如何对应

故事中的“候选启发式”对应论文里的 candidate algorithm；“得分”对应任务上的 fitness；“修改日志”提供 parent–offspring lineage。下图是论文的概念示意：节点表示候选算法，边表示搜索关系，颜色编码目标值。教学场景不是作者实验记载；图中元素和论文的图表示定义则是来源事实。

先给结论

一句话评价：本文把讨论从“最终解有多好”推进到“搜索过程结构是什么样”，贡献是诊断视角与跨设置观察，不是通用景观定律。

研究动机

LLM-assisted algorithm search（LAS）把算法设计写成迭代优化：模型产生算法候选，执行器评测，搜索器保留或组合候选。EoH、ReEvo、LLaMEA 等工作展示了这种路线的潜力，但“有效时为何有效、何时失效”并没有因榜单成绩自动得到解释。

经典适应度景观分析依赖解空间、邻域和目标函数；算法代码/文本既灵活又缺乏公认的距离和天然邻居。论文的三个问题是：Q1 景观呈现哪些结构特征？Q2 它如何随任务、LLM 与设置变化？Q3 代码相似度怎样关联性能与搜索操作？

这是议题页而非单篇论文孤立摘要：旧议题的主线——LLM 搜索是否只是“更会生成”，还是能理解/利用搜索空间结构——保留为背景；本文作为主轴提供一项景观观测研究，而相关算法搜索工作作为问题边界。

数学表示及建模

对任务实例集 \(I\)，候选算法 \(a\in A^S\) 的平均目标值定义为：

搜索从初始候选群体 \(P_0\) 开始。每轮选择父代 \(a_p\)，通过提示得到后代 \(a_o=\mathrm{LLM}(\mathrm{Prompt}(a_p))\)，评估其 \(F\)，再更新群体。论文采用经典 landscape 三元组思想，但构造对象是搜索中出现的候选集合及其生成关系。

节点可按候选算法去重，并以重复生成次数或边权记录频次；节点适应度取任务评测值。重要限定：原始生成是有向谱系，论文图分析中使用无向连接呈现关联；图距离并不天然等于程序语义距离。

算法流程 / 方法

1. 搜集轨迹：用 EoH 的默认初始化提示及四种演化操作符 E1、E2、M1、M2生成候选。
2. 评估候选：依任务基准对每个算法计算性能分数。
3. 建图：以候选为节点、parent–offspring 生成关系为边；边权记录重复转移，节点大小可呈现出现频次。
4. 比较景观：从图与分数分布观察任务和 LLM 的差异，并改变种群大小作敏感性观察。
5. 比较相似度：考察 BLEU、Weighted BLEU、AST Match、Data-flow Match 与 performance delta、操作符的关系。

实验设计

实验以 Large Language Model-based Evolutionary Search（LES）为主，使用 EoH 作为标准框架。每次运行种群规模为 20，最多评估 2,000 个候选算法；通过改变任务、模型和种群规模检视景观差异。

实验结果

论文报告 LAS 景观通常呈多峰且崎岖；组合优化与符号回归等任务的分数分布及图形形态并不相同。改变模型会改变观测图的密度、聚类和分布，改变种群规模也会改变可见结构。论文将这些现象作为任务/模型依赖性的证据，而非固定不变的统一景观。

轨迹图呈现从搜索过程到较优候选的路径关系；不同操作符在性能变化和代码数据流匹配上呈现不同分布。四种相似度指标彼此也并非同一尺度，与性能变化的联系有较大变异，因此作者提出 LAS 需要更适合算法行为的相似度。

我的评论

我认为本文最有价值的不是“景观崎岖”这个容易被读成口号的结论，而是把算法搜索日志变成可供讨论的分析对象，并提醒我们代码距离与算法行为之间存在错位。

贡献成立之处

• 问题选得重要：只报告最佳分数无法解释搜索行为和失败方式。
• 图表示将搜索谱系和候选性能放在同一视图，为后续算法搜索方法提供诊断语言。
• 跨任务、模型与人口规模比较，至少展示这些结构不应被当成单一普遍景观。

需要谨慎之处

• 轨迹选择偏差：图的节点来自特定 EoH 配置和模型产生的有限候选，不等于整个代码空间的抽样。
• 邻域含义：父子生成关系是搜索谱系；如果图中将其无向化，它更不能直接解释为局部可达距离。
• 随机评估与复现：候选性能、提示采样、实例集和模型/API 版本都可能改变图形；读者需结合多次运行与不确定性，而非把可视化当稳定地形。
• 指标验证不足：文本/AST/Data-flow 相似度相关性弱，说明这些指标有限；尚未构造并验证一个行为等价或性能敏感的新指标。
• 推论尺度：描述性相关不能证明某类操作符导致探索更广或必然提高最终性能。

One More Thing

如果代码相似度不能预测性能变化，研究重点或许不该只寻找更精巧的静态距离，而应把“算法在任务实例上的行为”作为距离定义的一部分：例如比较解轨迹、约束违反模式或算子响应。但这是由论文暴露出的研究假设，不是本文已验证的结论。它与旧议题的联系是：LLM 搜索的适应度景观必须同时考虑表示、生成机制与评估过程。

完整图谱

以下附录图均来自论文 TeX 源包；已按源图名建立覆盖标记。主文已展示所有 11 幅图：三类表示、景观示意、任务景观、分布、不同模型、人口规模、演化轨迹、指标关系矩阵、操作符性能变化、操作符数据流匹配、相关性热图。图注只描述视觉本身，解释性结论见正文。

Other Discussion Roles / 其他讨论角色

以下保留 MIT MAS.S60 的七条原始英文 prompt，并以可核验材料作中文回应。人物故事只是教学类比；作者动机与未核实后续引用不作推断。

population = [make_candidate(seed) for seed in seeds]
for t in range(budget):
    parent = select(population)
    child = mutate_rule(parent)       # toy operator, not an LLM
    score = mean(tour_length(child, instance) for instance in instances)
    nodes.add(child, fitness=score)
    edges.add(parent, child)
    population = update(population, child)

Reference / Evidence