← 科研空间 首页
ICLR 2026LLM-AADBehavioral Diversity

BehaveSim:用代码相似性度量行为相似性

Rethinking Code Similarity for Automated Algorithm Design with LLMs — 用 problem-solving trajectory 重新定义算法相似性,并把 exploration 的单位从代码表面改成行为族。

原版 PDF

📄 arXiv 论文页 ⬇️ 原版 PDF 🧾 OpenReview 💻 官方代码

版本注记:依据 arXiv:2603.02787 公开版本(英文原题:Rethinking Code Similarity for Automated Algorithm Design with LLMs);并参考公开代码仓库。检索日期:2026-10-23。本页为中文议题深读,不是逐句翻译。

先讲一个故事

教学性场景(非论文记载):设想一支算法工程团队让两个自动设计系统解决同一批配送路线。系统甲每次都先选最近城市,系统乙先形成一个粗略路线,再反复做局部交换。两份源代码经过重构后看起来很不一样,但每一步都沿着相似的路线逐渐改进;反过来,两个程序最终都找到同一条路线,中间策略却截然不同。团队的障碍不是“谁的最终分数高”,而是无法判断自动搜索究竟找到了新策略,还是只改写了旧代码。

转折点是把镜头从源代码文本移到解题过程:记录从初始解到后续中间解的轨迹,再比较这些轨迹如何前进。BehaveSim 正是围绕这个可测量对象提出度量。

故事与技术如何对应

故事元素 论文中的对应 证据边界
两种配送算法 待比较的算法 A、B 配送故事为教学类比;论文实验任务是 ASP、TSP、CPP。
每一步路线变化 Problem-solving trajectory (PSTraj):中间解序列 这是论文明确建模的对象。
快慢不同但相近的过程 DTW 对齐不同长度或局部速度的轨迹 仍依赖任务定义的解距离。
发现新策略而非重写代码 以 BehaveSim 在搜索中维护行为 niche / 作为辅助目标 实验支持特定任务与设置下的收益,不证明行为距离等同于创新价值。

先给结论

核心判断BehaveSim 真正改变的不是“相似度公式”,而是搜索中的多样性对象:从 code novelty 转向 behavior family。论文在三个 AAD 任务、两种搜索框架和匹配预算下观察到稳定性能改进;但它没有证明何时应切换 exploration/exploitation,也没有给出动态 controller。
14 / 14论文 active graphics 在本页全部覆盖
3 tasksASP、TSP、CPP;每种方法 3 次独立运行
2 integrationsFunSearch niche management 与 EoH helper objective

五句话抓住论文

  1. 代码相似性不等于算法相似性:BFS/DFS、递归/迭代实现、相同输出的不同排序过程都会让现有度量产生概念错位。
  2. 行为可以表示为中间解序列:PSTraj 记录算法从初始解到最终解的 problem-solving trajectory。
  3. BehaveSim 比较“怎么走”:先定义解间距离,再用 DTW 对齐不同长度轨迹,最后对问题实例与起点做双重期望。
  4. 行为多样性可成为搜索算子:FunSearch 按行为分岛,EoH 把与强解的行为差异作为辅助目标;两者在论文协议下均优于原方法。
  5. 这还不是节奏理论:论文支持“探索什么很重要”,尚未回答“何时探索、探索多久、哪条分支该探索”。

研究动机:代码表面会骗你

LLM-AAD 生成的是代码,但我们真正关心的是其中隐含的算法策略。若 archive、去重、聚类或 novelty reward 只看 token、AST、embedding 或最终输出,搜索可能把同一种行为的改写误当作探索,也可能把真正不同的策略合并掉。

代码相似性与算法行为错位的反例
Figure 1 · 反例总览。图中展示静态代码特征与最终输出都可能和求解行为错位。它提供的是代表性反例,不足以推出所有代码指标在所有任务上都失效。
TSP 中 argmin 与 argmax 导致不同轨迹
Figure 2 · 小改动,大行为差异。两个 TSP 实现仅在 `argmin()` / `argmax()` 上不同,却分别选择最近与最远城市;现有指标仍给出高相似度。该图只支持这个受控案例。

八种理论组合,为什么只保留四种?

类型 Text Result Behavior 处理
Type 1 相似 相似 不同 保留
Type 2 相似 不同 不同 保留
Type 3 不同 相似 相似 保留
Type 4 不同 相似 不同 保留
平凡 1 相似 相似 相似 排除:全相似
平凡 2 不同 不同 不同 排除:全不同
不可行 1 相似 不同 相似 排除:相同行为不应给出不同结果
不可行 2 不同 不同 相似 排除:同上

现有指标的平均分:它们到底混淆了什么?

方法 Type 1 Type 2 Type 3 Type 4
ROUGE 0.95 0.96 0.70 0.47
BLEU 0.83 0.94 0.42 0.16
CrystalBLEU 0.97 0.99 0.68 0.51
AST 0.96 1.00 0.76 0.57
CodeBLEU 0.97 0.94 0.91 0.75
CodeBERTScore 0.84 0.97 0.60 0.38
Jina-Code-Embedding 0.99 0.99 0.90 0.84
Qwen3-Embedding-0.6B 0.94 0.93 0.87 0.73
Execution Results 1.00 0.00 1.00 1.00
Exe-Trace + BLEU 0.86 0.95 0.61 0.54
Exe-Trace + Jina 1.00 1.00 0.87 0.77
Exe-Trace + Qwen3 0.99 1.00 0.91 0.78
BehaveSim 0.56 0.73 1.00 0.46
如何读这张表BehaveSim 的目标不是“所有列越高越好”,而是 Type 3 应高、Type 1/2/4 应低。表格支持它与人工定义的行为关系更一致;但数据集规模、案例构造与行为标签的外部有效性仍需更广泛验证。

数学表示及建模

1. 用 PSTraj 表示 problem-solving behavior

对迭代算法 $x_{t+1}=f(x_t)$,把求解时产生的中间解收集为:

$$\mathcal{T}=(x_0,x_1,\ldots,x_T).$$

这里记录的是“问题解如何被逐步更新”,不是全部变量、指令或函数调用。因此它比低层 execution trace 更接近作者想测量的求解逻辑。

2. 先定义单步解间距离

类别 / 序数 / 排列型
$$d(x,y)=\frac{d_{\mathrm{edit}}(x,y)}{d_{\max}}.$$
离散 / 连续型
$$d(x,y)=\frac{\lVert x-y\rVert_2}{D}.$$

3. 用 DTW 对齐不同速度、不同长度的轨迹

$$DTW(X,Y)=\min_{\pi\in\mathcal{A}(m,n)}\sum_{(i,j)\in\pi}d(x_i,y_j),$$
$$\operatorname{Sim}_{\mathrm{PSTraj}}(X,Y)=1-\frac{DTW(X,Y)}{\min\{|X|,|Y|\}}.$$

DTW 的作用是允许局部时间错位:两个算法可能以不同步速经过相似的中间状态。需要注意,归一化方式和解距离都带有问题特定假设。

4. 对实例和起点做双重期望

$$\operatorname{BehaveSim}(A_1,A_2)=\mathbb{E}_{I\sim P^I}\!\left[\mathbb{E}_{s\sim S_I}\!\left[\operatorname{Sim}_{\mathrm{PSTraj}}\big(\mathcal{T}(A_1,I,s),\mathcal{T}(A_2,I,s)\big)\right]\right].$$

这让相似度不只依赖单个实例或单一起点。实际计算只能用有限样本近似;若算法本身含随机状态,还需多次采样行为分布或固定随机种子。

BehaveSim 在 Rosenbrock 与 TSP 上的行为轨迹比较
Figure 3 · 构造效度示例。连续优化与排列解上的可视轨迹大体对应 DTW / mean-distance 相似度。它展示方法直觉,不是覆盖所有算法类型的验证。

轨迹压缩是否破坏结果?

设置 Type 1 Type 2 Type 3 Type 4
完整轨迹 0.56 0.73 1.00 0.46
截断 10% 0.55 0.73 1.00 0.47
截断 20% 0.55 0.73 1.00 0.48
截断 30% 0.57 0.73 1.00 0.52
截断 50% 0.65 0.75 1.00 0.64
每 1 步采样 0.57 0.72 1.00 0.52
每 2 步采样 0.56 0.74 1.00 0.59
每 5 步采样 0.62 0.82 1.00 0.74

中等程度截断/采样较稳定;激进压缩会明显改变 Type 1/2/4 分数。因此“轨迹可以便宜采样”是有条件的工程结论。

算法流程/方法:把 behavior diversity 放进搜索

LLM 生成候选代码
从父代与提示产生算法
执行与评估
得到 fitness 与 PSTraj
计算 BehaveSim
识别行为族与差异
更新 archive
按行为 niche 或辅助目标管理
继续搜索
局部精炼并保留跨族信息流

FunSearch+BehaveSim:行为 niche

FunSearch 加 BehaveSim 的搜索流程
Figure 8 · FunSearch+BehaveSim 流程。图中展示数据库、选择、生成、评估与按行为注册。它解释机制,不单独构成绩效证据。

EoH+BehaveSim:辅助目标

EoH 版本不显式分岛,而是把 behavior dissimilarity 与 dominance 联合起来做父代选择和 population management。它偏向既有 fitness 竞争力、又与其他候选行为不同的个体。

共同抽象两种集成表面不同,但都在做同一件事:不要把代码变得不同本身当成探索,而要让 archive 保留不同的 problem-solving trajectories。

实验设计

ASP

Admissible Set Problem;最大评估 10,000 次。

TSP

5 个实例、每实例 50 城市;最大评估 2,000 次。

CPP

Circle Packing;最大评估 2,000 次。

维度 设置 为什么重要
LLM GPT-5-Nano via API 结论尚未验证跨模型稳健性
候选 timeout 50 秒 限制不可行或过慢程序
重复 3 次独立运行 曲线阴影与主表报告标准差
对照 FunSearch vs +BehaveSim;EoH vs +BehaveSim 同一基础框架内比较
指标 ASP/TSP relative gap 越低越好;CPP radii sum 越高越好 跨任务方向不同,不能直接比较绝对数值
识别边界这是强匹配对照,但不是把“behavior diversity”当作单一可操纵处理的纯因果实验:集成也改变了 archive assignment、parent selection 与 population management。

实验结果

三项任务的收敛曲线

ASP 收敛曲线
ASP。Top-10 相对 gap 的三次运行均值与标准差。
TSP 收敛曲线
TSP。Top-10 相对 gap 的三次运行均值与标准差。
CPP 收敛曲线
CPP。Top-10 半径和的三次运行均值与标准差。

主结果:top-1 与 top-10

方法 ASP Top-1 ↓ ASP Top-10 ↓ TSP Top-1 ↓ TSP Top-10 ↓ CPP Top-1 ↑ CPP Top-10 ↑
FunSearch 5.84 ± 0.55 6.15 ± 0.59 25.22 ± 0.56 27.46 ± 1.21 2.6259 ± 0.0051 2.6127 ± 0.0143
FunSearch+BehaveSim 5.24 ± 1.05 5.28 ± 1.01 17.37 ± 0.23 18.05 ± 0.42 2.6293 ± 0.0026 2.6249 ± 0.0036
EoH 5.99 ± 0.20 6.08 ± 0.31 18.86 ± 0.20 19.68 ± 0.42 2.5724 ± 0.0482 2.5535 ± 0.0562
EoH+BehaveSim 5.33 ± 0.85 5.59 ± 0.91 16.55 ± 2.80 17.20 ± 3.32 2.6263 ± 0.0054 2.6234 ± 0.0066

在论文设置中,两个 +BehaveSim 版本在三项任务的 top-1 与 top-10 均优于各自基础方法。TSP 的差异尤其大;同时 EoH+BehaveSim 的 TSP 标准差也更大,提醒我们不要只看均值。

行为聚类能解释代码聚类看不到的策略

30 个 TSP 算法在 BehaveSim 与 CodeBLEU 下的聚类
Figure 5 · 30 个 TSP 算法的层次聚类。Code 6/8 代码不同但都近似执行最近邻策略;Code 11/12 代码相近但打分逻辑导致行为分歧。结论限于该 checkpoint 样本与定性分析。

对 exploration / exploitation 的真正贡献

论文回答得最好先定义 exploration 的对象。代码 token、AST 或 embedding 距离可能只是 rephrasing;BehaveSim 让“新颖”指向新的 problem-solving trajectory / behavior family。

论文用两个几何量描述多岛搜索:

$$D_{\mathrm{intra}}(P_k)=\frac{1}{\binom{N}{2}}\sum_{i\lt j}\left(1-\operatorname{BehaveSim}(t_i,t_j)\right),$$
$$D_{\mathrm{inter}}(P_k,P_l)=\frac{1}{N^2}\sum_{t_i\in P_k}\sum_{t_j\in P_l}\left(1-\operatorname{BehaveSim}(t_i,t_j)\right).$$

低 intra-distance 表示一个岛内部聚焦于相似行为,可理解为分支内 exploitation;高 inter-distance 表示不同岛保持策略分离,可理解为 archive 级 exploration。

ASP 岛内与岛间行为距离
ASP diversity diagnostic。箱线图与曲线比较两种方法在 checkpoints 上的 intra/inter-island distance。
TSP 岛内与岛间行为距离
TSP diversity diagnostic。显示相同方向的行为 niche 结构;它仍是观测性状态量。

消融:跨岛交流和初始聚类是否有用?

跨岛选择概率与聚类消融
Figure 10 · ASP 消融。改变 $p_{s1}$ 并移除初始化聚类会改变收敛表现,支持这两个设计部件在当前协议下有贡献。
已经支持behavior-aware archive 能同时形成局部一致的分支和彼此分离的策略族;在本文预算和任务上,这种结构与更好的最终表现共同出现,消融也支持关键部件。
尚未支持没有比较“先探索后利用”、周期切换、停滞触发、分支异步触发或 learned controller;因此不能从本文读出最优节奏。

为什么“当前 prompt 是否已经足够优秀”还不能直接回答?

基础 prompt/operator 可能已经隐式学会一定的 exploration/exploitation 调度。BehaveSim 证明的是:即使 prompt 不变,换一个更接近算法行为的 archive / selection 表示仍会改变搜索结果。它没有比较隐式 prompt policy 与显式 controller 的动作价值,所以“prompt 已足够”与“需要显式节奏”都不能仅凭这篇论文定论。

我的评论

强点

  • 概念问题非常准确:algorithmic similarity 的对象不是代码表面。
  • 从度量到搜索再到可解释聚类,形成完整 utility chain。
  • 两种不同集成方式都改善结果,降低“只对某个框架偶然有效”的担忧。
  • 公开代码与 AlgoDisco 入口提供了复现起点。

局限

  • 只覆盖逐步更新中间解的迭代算法,one-shot 方法不适用。
  • 三项任务、单一 LLM、三次运行,外推仍有限。
  • PSTraj 的状态表示和距离函数依赖问题建模。
  • 集成同时改变多项搜索机制,无法把所有增益归因于纯 diversity reward。
最值得复用的研究资产不是再造一个 similarity score,而是把 BehaveSim 轨迹、behavior cluster、island assignment、frontier gain 和停滞事件对齐成可分析数据。这样才能研究“何时哪类探索有价值”。

One More Thing:从“多样性有效”走向“节奏可识别”

更有顶会价值的问题不是给 prompt 加一句“多探索”,而是估计同一搜索状态下 exploration 与 exploitation 的未来 frontier gain。

$$A_E(s_t)=\mathbb{E}[R_{\max}(t+h)-R_{\max}(t)\mid do(\mathrm{explore}),s_t],$$
$$A_X(s_t)=\mathbb{E}[R_{\max}(t+h)-R_{\max}(t)\mid do(\mathrm{exploit}),s_t].$$

BehaveSim 可以提供关键 state features:behavior-family entropy、dominant-family saturation、intra/inter distance、archive turnover、parent cycling 和新 behavior family 的 breakthrough hazard。真正要预测的是 $A_E(s_t)-A_X(s_t)$,而不是事后给轨迹贴“探索/利用”标签。

冻结 anchor
同一 archive 与父代
成对 replay
explore / exploit 动作
预算匹配
calls、tokens、候选数
测未来收益
frontier gain 与 hidden gain
训练 controller
与原 prompt、随机节奏、oracle 比较
边界声明这一节是基于论文资产提出的后续研究设计,不是 BehaveSim 论文已经验证的结论。

Other Discussion Roles / 其他讨论角色

以下角色按要求逐字保留 MIT MAS.S60 原始英文问题;回应区分论文事实、外部证据与尚待验证的推论。

Scientific Peer Reviewer

The paper has not been published yet and is currently submitted to a top conference where you’ve been assigned as a peer reviewer. Complete a full review of the paper answering all prompts of the official review form of the top venue in this research area (e.g., NeurIPS). This includes recommending whether to accept or reject the paper.

摘要与贡献。论文提出以 problem-solving trajectory (PSTraj) 表示迭代算法逐步产生的解,再以解空间距离与 Dynamic Time Warping 对齐轨迹;并用该相似度支持 FunSearch 的行为 niche 管理和 EoH 的辅助目标。三任务结果表明该方法在论文实验设置下提升搜索表现。

优点。问题定义有操作性:代码表面和最终输出均可能漏掉中间策略;方法将解空间相似度与时间轴对齐明确拆开。其验证包含相似性基准、行为聚类分析以及 ASP/TSP/CPP 应用,且在两个搜索框架中测试,证据链比单纯度量相关性更完整。

主要疑虑。BehaveSim 的有效性依赖任务特定状态/解距离,距离归一化与初始点分布会影响分数;论文聚焦可迭代产生解的算法,不能自然推广到一次性生成算法。每种方法仅三次独立运行,关于稳定性的结论有限。轨迹采集和两两 DTW 的额外成本、基于同一测试分布选择距离的偏差、跨任务/跨表示迁移均需要更强证据。搜索性能提高支持“该设置下这个多样性信号有用”,不证明行为距离是探索质量的充分统计量。

维度判断(按 ICLR 常见审稿维度)。技术质量:中上,核心定义清晰但通用性依赖任务。呈现:较好,需突出成本及适用边界。重要性:有意义,尤其算法搜索和生成代码分析。原创性:中上,组合 PSTraj 与 DTW 并落地搜索有明确增量,但底层 DTW/多样性不是新工具。可复现性:有公开代码声明,仍应报告硬件/运行预算与复现实验细节。

建议:Weak Accept(弱接收),置信度 0.68。增量是真实但边界明确;若评审更看重通用相似性理论或统计显著性,可能降为 Weak Reject。以上为基于公开论文的模拟评审,不代表正式会议表单结果。

Archaeologist

This paper was found buried under ground in the desert. You’re an archeologist who must determine where this paper sits in the context of previous and subsequent work. Find and report on one older paper cited within the current paper that substantially influenced the current paper and one newer paper that cites this current paper.

重要前史:MAP-Elites(Mouret & Clune, 2015)。论文在算法多样性讨论中引用 MAP-Elites 的行为特征映射思路。它提供一个有影响力的先例:不只保留单一最优解,也按行为描述空间维护精英解。BehaveSim 的区别是用轨迹距离来刻画候选算法行为,并把差异信号嵌入 LLM-AAD 搜索。公开来源:arXiv:1504.04909。这里称其为重要思想前史,而非声称它是唯一直接来源。

后续引用检查。截至本页检索日 2026-10-23,未能从本次可核验的公开证据确认一篇发表在 2603.02787 之后且明确引用它的论文;因此不虚构“新论文”。焦点论文发布日期为 2026-03-03,检索可见信息可由 arXiv 页面复查。这个“未核实”不等于不存在引用,特别是新近预印本的索引滞后可能造成漏检。

Academic Researcher

You’re a researcher who is working on a new project in this area. Propose an imaginary follow-up project not just based on the current but only possible due to the existence and success of the current paper.

项目提案:跨任务“行为护照”与可迁移搜索策略库(假想研究)。若 BehaveSim 的成功表明多步解轨迹能作为搜索中可用的行为信号,下一步可建立跨任务行为基准:把轨迹映射为由任务声明的状态抽象与不变特征组成的“行为护照”,并研究在新任务上迁移搜索算子是否保留有效的策略差异。项目关键问题不是再添一种距离,而是识别同一行为策略何时能跨实例/任务迁移,何时任务专属几何使得相似度失效。

设计上先在若干有共同状态语义的优化任务上收集匿名轨迹,预注册跨任务迁移划分;比较 PSTraj-DTW、终态质量、代码结构度量和随机多样性控制,衡量目标任务的样本效率、最优质量与跨种子稳定性;评估不确定性和度量成本。只有在多个任务族上复现收益,才能支持“可复用的算法行为类别”。这是由现有工作提供可操作轨迹相似度后才值得测试的后续,不是论文已完成的结果。

Industry Practitioner

You work at a company or organization developing an application or product of your choice (that has not already been suggested in a prior session). Bring a convincing pitch for why you should be paid to implement the method in the paper, and discuss at least one positive and negative impact of this application.

产品提案:运筹优化团队的“启发式策略回归测试台”。为使用 LLM 生成排程、路线规划启发式的团队实现离线评估插件:对候选代码在固定问题实例和起点上记录中间解,计算 BehaveSim 聚类,展示新版本是否只是重写了旧策略、是否引入新的行为族,再与业务目标分数并列供工程师审核。付费理由是减少冗余实验和帮助发现性能退化前的策略覆盖变化;该产品只是辅助诊断,不自动决定上线策略。

正面影响:更透明地审计搜索候选,可能减少重复算力并暴露单一策略依赖。负面影响:行为相似度可能被错误任务距离误导,导致新颖但有价值的候选被过滤;固定实例、日志或轨迹可能泄漏业务数据,且团队可能把“距离更大”误当作“更好”。实施要求包括本地化执行、数据最小化、人工复核、质量目标与行为距离分开呈现,并报告额外计算成本。以上是建议的产品用法,不是论文评估过的部署案例。

Hacker

You’re a hacker who needs a demo of this paper ASAP. Implement a small part or simplified version of the paper on a small dataset or toy problem. Prepare to share the core code of the algorithm to the class and demo your implementation. Do not simply download and run an existing implementation – though you are welcome to use (and give credit to) an existing implementation for “backbone” code.

可展示的最小算法路径(原创伪代码,未声称运行)。用 1D 最小化问题,让两种迭代器输出每步位置;一条轨迹可快步到最优点后停留,另一条缓慢逼近。按绝对距离归一化,并用动态规划求 DTW:

def dtw(A, B, dist):
    m, n = len(A), len(B)
    D = [[float("inf")] * (n + 1) for _ in range(m + 1)]
    D[0][0] = 0.0
    for i in range(1, m + 1):
        for j in range(1, n + 1):
            D[i][j] = dist(A[i-1], B[j-1]) + min(
                D[i-1][j], D[i][j-1], D[i-1][j-1])
    return D[m][n] / min(m, n)

# BehaveSim-style score: 1 - normalized trajectory distance
score = 1.0 - dtw(trace_a, trace_b, lambda x,y: abs(x-y)/scale)

课堂 demo 可打印两条轨迹和分数,再将其中一条反向移动以展示距离增大。代码只呈现 PSTraj + DTW 核心简化版本;未下载或运行官方实现,也未执行该代码,因此不报告任何演示数值。正式复现还需处理解类型、任务距离上界、多个实例/起点的期望和轨迹截断。论文官方实现可作为后续对照:behavesim repository。

Private Investigator

You are a detective who needs to run a background check on one of the paper’s authors. Where have they worked? What did they study? What previous projects might have led to working on this one? What motivated them to work on this project? Feel free to contact the authors, but remember to be courteous, polite, and on-topic.

证据边界与公开履历。作者为 Rui Zhang 与 Zhichao Lu(见 论文元数据)。在本页可核验证据范围内,没有足够可靠的官方个人主页/机构履历来源来确认作者具体任职、学习经历或早期项目;因此不推断“在哪里工作”或“读了什么”。论文引用和研究内容表明团队关注 LLM 自动算法设计、启发式演化与代码分析,这是研究脉络而非个人背景事实。

动机判断:作者在论文中明确提出的研究动机是,LLM-AAD 的算法设计原则隐含于生成代码,因此需要区分真实算法创新与语法变化;这来自论文公开陈述。个人动机无法由论文推知。依任务规则,不联系作者,也不把猜测包装成背景调查结论。

Social Impact Assessor

Identify how this paper self-assesses its (likely positive) impact on the world. Have any additional positive social impacts left out? What are possible negative social impacts that were overlooked or omitted?

论文自身的影响框架。论文把贡献定位为帮助 LLM-AAD 提高行为多样性、改善三个算法设计任务的搜索表现,并支持对 AI 生成算法进行系统分析;它未见专门的社会影响评估或部署影响量化,因此不能称其证明了公共福祉收益。

可能的额外正面影响(推论)。若方法帮助研究者减少重复搜索、理解算法策略差异,可能改善科学计算的可审计性和资源效率,也可让优化系统更容易被人工比较。需要实际部署证据才能确认。

遗漏的潜在负面影响。该技术可加速高影响优化(例如资源分配或基础设施调度),行为多样性并不保证公平、安全或符合公共目标;更强的自动算法发现也可能降低人类审查可见性。轨迹数据可能包含敏感状态,行为度量若训练/筛选偏差会系统性排除少数但有用的策略。缓解措施包括应用领域风险评估、隐私保护、可解释日志和对候选的人工审批。以上为审慎的潜在风险分析,非论文已观察到的实际伤害。

Reference / Evidence

作者
Rui Zhang · Zhichao Lu · City University of Hong Kong