@@ -114,10 +114,107 @@ SakanaAI 的 AI-Scientist-v2 做的是:实验 → 论文(知识提炼)。
114114
115115如果有效,这两个项目的合并就是自然的下一步。
116116
117+ ---
118+
119+ ## 实证验证:kaiwu 峡谷追猎奖励函数进化(2026-04-10~ 11)
120+
121+ ### 实验概述
122+
123+ 在腾讯开悟「峡谷追猎」竞赛中,搭建了双管线系统来优化 PPO 奖励函数,** 实际验证了图书馆假说的一种变体实现** :
124+
125+ ```
126+ 管线 1(大自然+图书馆员) 管线 2(研究员)
127+ ShinkaEvolve@5070 Claude autoresearch@Mac
128+ gpt-5.4-mini 随机变异 Claude Opus 因果推理
129+ ↓ ↓
130+ 每代产出变体代码 读取 evolve/analysis/*.md
131+ ↓ ↓
132+ Claude 自动分析写报告 ──→ 归纳规律 → 设计精准实验
133+ (每 10 分钟 cron) ↓
134+ ↓ Mac 本地 1h 训练验证
135+ evolve/analysis/*.md ↓
136+ (= 图书馆) results.tsv 记录
137+ ```
138+
139+ ### 与原始假说的对比
140+
141+ | 原始假说 | kaiwu 实际实现 | 关键差异 |
142+ | ---------| ---------------| ---------|
143+ | knowledge.txt 注入同一进化器的 prompt | analysis/* .md 被独立的管线 2 读取 | ** 知识消费者和生产者分离** |
144+ | 每次 best 更新时提炼知识 | ** 每代** 都写分析报告(不只 best) | 失败案例也记录,负面知识同等重要 |
145+ | 一句话摘要 | 完整分析:指标表+奖励方案表+有效/有害分析+噪音评估+代码+diff | 信息密度高得多 |
146+ | 注入后续变异 prompt | 管线 2 的 Claude 在上下文中消化后做因果推理 | LLM 推理 > 模板注入 |
147+ | 单一系统内循环 | ** 三角色分工** :大自然(ShinkaEvolve)→观察者(管线1 Claude)→研究员(管线2 Claude) | 角色分离避免知识抑制创造力 |
148+
149+ ### 关键发现
150+
151+ #### 1. 图书馆假说的核心成立——知识积累确实有价值
152+
153+ 100+ 代进化积累的分析文件让管线 2 能够:
154+ - 避免重复已知有害模式(动态系数 8+ 次失败、条件化罚站 9/9 失败等)
155+ - 精准设计消融实验(基于进化发现的有效因子组合)
156+ - 量化评估噪音(gen_60 家族 9 次克隆均值 = 362.7±20.5)
157+
158+ #### 2. 预言的反面发现也出现了
159+
160+ 原始假说预言的三个风险全部应验:
161+
162+ ** 图书馆引入偏见** :管线 1 分析说"闪现 < -0.025 有害"(基于 15 分钟评估),管线 2 的 exp_4 照做改闪现到 -0.03,结果在 1h 长训中反而 -4.8%。** 短期评估得出的"知识"在长训中失效。**
163+
164+ ** 知识抑制创造力** :但因为实现方式是角色分离(进化器不读知识),进化器继续盲搜不受约束——这避免了抑制问题。
165+
166+ ** 错误知识传播** :gen_60 被标记为"新纪录 F=395.1",管线 2 基于此调整策略。后来 9 次克隆验证均值只有 362.7 = 基线。** 噪音产生的"知识"确实误导了后续决策。**
167+
168+ #### 3. 角色分离 > 知识注入
169+
170+ 最大的意外发现:** 不把知识注入进化器,反而更好。** 原因:
171+
172+ - 进化器(gpt-5.4-mini)没有跨代记忆,100 代后仍然重复动态系数等失败模式。如果注入"动态系数有害",LLM 可能完全停止探索这个方向——但实际上 gen_31(小幅动态系数)F=372.3 是有效的。知识注入会杀死这种微妙的发现。
173+ - 让一个** 独立的推理 Agent** (管线 2 的 Claude Opus)来消化知识并做精准实验,比把知识塞进变异 prompt 更有效——因为推理 Agent 能判断"动态系数的 range 大小才是关键,不是动态本身",而模板注入做不到这种细粒度判断。
174+
175+ #### 4. 负面知识 > 正面知识
176+
177+ 100 代进化的图书馆中,** 最有价值的内容是"什么不能做"** :
178+ - 10+ 种有害模式的确定性排除
179+ - 参数敏感区间的精确划定(闪现 ≥ -0.025,罚站基础 = -0.03,递增 -0.004~ -0.010)
180+ - 评估噪音的量化(±5.7% 1σ)
181+
182+ 正面知识("什么是最好的")反而不可靠——所有"新纪录"都是噪音高值。
183+
184+ ### 实验规模
185+
186+ | 指标 | 值 |
187+ | ------| -----|
188+ | 进化代数 | 107 代 |
189+ | 运行时长 | ~ 28 小时 |
190+ | 崩溃率 | ~ 17% |
191+ | 分析文件 | 107 个 md |
192+ | 管线 2 实验 | 9 个(exp_1~ 9) |
193+ | 管线 2 长训 | 2 次 4h 从头训 + 1 次 8h 暖启动 |
194+ | GitLab commits | ~ 80 次(自动 push) |
195+ | gen_60 家族克隆 | 9 次(噪音测量) |
196+
197+ ### 结论
198+
199+ 图书馆假说的核心洞察——** 给进化系统加显式知识积累能提升效率** ——在 kaiwu 实验中得到验证,但最优实现方式不是"注入 prompt"而是"角色分离":
200+
201+ ```
202+ 大自然(进化器)→ 不读知识,保持创造力
203+ 观察者(管线 1)→ 记录一切,提炼规律
204+ 研究员(管线 2)→ 消化知识,精准验证
205+ ```
206+
207+ 这个三角色架构本质上是** 科学方法的自动化** :观测→归纳→假设→实验→修正。只不过"大自然"换成了 LLM 进化器,"实验室"换成了 Docker 训练容器,"论文"换成了 markdown 分析文件。
208+
209+ ---
210+
117211## 关联概念
118212
119213- [[ 知识即结构]] — 进化的记忆以代码结构存储,图书馆将其转为符号
120214- [[ 记忆与图书馆]] — 向量库 vs 关联记忆的对比,进化版本
121- - [[ 适应度幻觉]] — 图书馆可能传播错误知识,类似幻觉传染
215+ - [[ 适应度幻觉]] — 图书馆可能传播错误知识(kaiwu 实验验证:噪音产生假纪录)
122216- [[ 动态适应度]] — 图书馆的知识也需要动态更新,否则过时
123- - [[ 评分即解题]] — 评分 + 知识积累 = 更强的解题系统
217+ - [[ 评分即解题]] — 评分 + 知识积累 = 更强的解题系统(但评分噪音是上限)
218+ - [[ 进化突破人类认知偏见]] — 进化能发现人类排除的方案,但也有系统性盲区(100 代重复同样错误)
219+ - [[ 研究者过拟合]] — 自动化研究系统也会过拟合短期评估结果(exp_5 在暖启动 keep 但从头训失效)
220+ - [[ 万物皆反馈环]] — 双管线系统是反馈环的分布式实例
0 commit comments