01 / 方法改进
Fable / Opus:完整的反馈闭环
A 组通过测量瓶颈改善吞吐,最终加速也包含模型配置变化。Opus 还调整不稳定的训练策略,并放弃实测无收益的权重平均。B6 组两者只差 0.00031 NLL,单次实验不足以区分优劣。
把 RSI 看作 meta-learning:内层训练语言模型,外层根据实验反馈调整方法。一起看最终质量、候选轨迹,以及每次改进花掉的预算。
点击模型名称可隐藏或恢复;图表和结果表会同步更新。默认显示全部模型。
横纵轴可选 Score、NLL、PPL、推理耗时、吞吐、预算等指标。悬停点附近即可查看详细信息。
按 NLL 升序排列;提交候选数与元学习次数不同。
| 模型 | TEST NLL ↓ | Score ↑ | s/task ↓ | 租约小时 | 候选数 | ANALYSIS 首 → 末 |
|---|
s/task 为每条任务的推理秒数(1 s = 1000 ms)。Score 与 NLL 来自同一个质量指标。租约小时包含运行环境内的全部占用,不等于纯 GPU 计算时间。
独立新运行,每种配置一次;差值包含训练量、策略与随机性变化,不是纯预算因果效应。
| 模型 | B6 · TEST NLL | B12 · TEST NLL | B12 − B6 | B12 · s/task | B12 · 租约小时 |
|---|
10 个模型完成了 B12;GLM 5.3 的 B12 在第 11 个租约后 Agent 退出、没有 TEST,已排除。负值表示 B12 的 NLL 更低。
这是一组描述性配对,不合并成同一预算下的排名。
| 模型 | A · TEST NLL | B6 · TEST NLL | B6 − A | 较低 NLL |
|---|
负值表示本次 B 的 NLL 更低。结果同时受初始配方、实际训练量、推理配置和随机性影响,差值不等于 RSI 增益。
A 组通过测量瓶颈改善吞吐,最终加速也包含模型配置变化。Opus 还调整不稳定的训练策略,并放弃实测无收益的权重平均。B6 组两者只差 0.00031 NLL,单次实验不足以区分优劣。
Astra 比较上下文长度与校准方案,在 B6 组获得最低的推理耗时点估计。Kimi 在更换验证样本后,把旧、新候选放到相同样本上重测,避免把测量变化误判为进步。
早期保险候选、错误修复、更多梯度训练和方法更新,都可能拉大首末差值。Flash B 到第 5 租约才提交首候选,不能与从第 1 租约开始提交的曲线直接比较涨幅。