Tab 选择节点或按钮，Enter 激活；在播放器控件上用 ← / →、Home / End 切换。播放为教学顺序，不代表运行耗时。
节点粗实线表示当前步骤，虚线表示已浏览，细线表示待浏览；箭头表示教学数据流。
PT01
数据准备
审核后的五段输入与目标 Python 文件组成一条样本。
输入→执行→输出
- 输入
- 虚构剧本：无效请求不得改变状态。
- 执行
- 将 rules、scenario、api、framework、reference 与 target 分开，记录 source_group 和审核状态。
- 输出
- 可追溯、审核通过的训练候选样本。
- 为什么需要
- target 是监督答案，不是推理时提供的输入。
上游: 开始 → 下游: 数据审计
PT02
数据审计
训练前先过结构门禁；业务正确性仍需人工审核。
输入→执行→输出
- 输入
- 候选样本与可选的冻结基准清单。
- 执行
- 检查字段、分组隔离、审核标记、重复 target 和 Python 语法；配置基准清单后检查排除关系。
- 输出
- 通过校验的样本；格式错误或重叠数据被拒绝。
- 为什么需要
- exclude_manifests 为空不代表已经完成基准隔离检查。
上游: 数据准备 → 下游: 提示构造
PT03
提示构造
训练和生成共用 common.messages()。
输入→执行→输出
- 输入
- 不含 target 的五段输入。
- 执行
- 构造 system 和 user 消息，再应用锁定 tokenizer 的聊天模板。
- 输出
- 编码和生成共同使用的提示前缀。
- 为什么需要
- 共用模板可避免训练与推理格式漂移。
上游: 数据审计 → 下游: 分词与标签掩码
PT04
分词与标签掩码
提示 token 参与预测条件，但不直接计入监督损失。
输入→执行→输出
- 输入
- 提示与 assistant 标准答案。
- 执行
- 验证提示前缀，编码完整序列，将提示标签设为 -100；超长直接报错，不静默截断。
- 输出
- input_ids、attention_mask 与仅监督答案的 labels。
- 为什么需要
- 每条样本都必须保留监督 token，并正确界定答案起点。
上游: 提示构造 → 下游: 前向计算与 SFT 损失
PT05
前向计算与 SFT 损失
Trainer 调用因果语言模型；train.py 没有手写前向循环。
输入→执行→输出
- 输入
- 编码序列与带掩码的标签。
- 执行
- Teacher forcing 预测下一个 token。概念式 L = −Σ log P(y_t | x, y_<t) / T，仅统计有效目标位置；模型内部对齐错位一格的 logits 与标签。
- 输出
- 监督损失标量与自动微分计算图。
- 为什么需要
- token loss 提供训练信号，不能证明业务正确性。
上游: 分词与标签掩码 → 下游: 反向传播与梯度累积
PT06
反向传播与梯度累积
Trainer/PyTorch 管理自动微分和梯度累积。
输入→执行→输出
- 输入
- 连续 micro-batch 的损失。
- 执行
- 向可训练 LoRA 参数反向传播，累积到更新时点；项目将 micro-batch 固定为 1。
- 输出
- 交给优化器的累积梯度。
- 为什么需要
- 一次 micro-batch 前反向不一定等于一次 optimizer step。
上游: 前向计算与 SFT 损失 → 下游: AdamW 与学习率调度
PT07
AdamW 与学习率调度
项目通过 TrainingArguments 选择 adamw_torch。
输入→执行→输出
- 输入
- 累积梯度、历史动量估计与当前学习率。
- 执行
- AdamW 更新可训练参数，随后推进调度器并清理梯度；此处 Transformers 4.57.1 默认线性衰减，无 warmup。
- 输出
- 更新后的 LoRA 权重与下一学习率。
- 为什么需要
- 改变 max_steps 同时改变训练长度和线性衰减轨迹。
上游: 反向传播与梯度累积 → 下游: LoRA 参数与 Adapter
PT08
LoRA 参数与 Adapter
LoRA 在训练开始前已注入；本步骤解释更新对象与最终保存产物。
输入→执行→输出
- 输入
- 冻结的基础 W，以及 q_proj/v_proj 上可训练的 A、B。
- 执行
- 使用 W + (α/r)BA；trainer.train() 完成后检查 adapter 参数确有变化，再保存 adapter 与 tokenizer。
- 输出
- 与锁定基础模型版本配套的 adapter。
- 为什么需要
- LoRA 减少可训练参数，但基础权重和激活仍占内存。
上游: AdamW 与学习率调度 → 下游: B0/B1 生成
PT09
B0/B1 生成
B0 使用基础模型；B1 加载与其兼容的 adapter。
输入→执行→输出
- 输入
- 相同的冻结基准提示与生成设置。
- 执行
- 通过 generate_items 贪心解码，在 inference_mode 下运行并检查基座版本；max_new_tokens 限制新增输出。
- 输出
- 候选脚本与生成记录；生成流程不执行候选代码。
- 为什么需要
- 固定设置才能解释差异；生成代码不等于代码已被验证。
上游: LoRA 参数与 Adapter → 下游: 基准评估
PT10
基准评估
自动层与独立执行、人工评审回答不同问题。
输入→执行→输出
- 输入
- 同一 suite、规则和评分器版本下的 B0/B1 候选脚本。
- 执行
- 检查 L0 形式、L1 框架、L2 依据、L2.5 oracle；L3 执行与 L4 人工评审独立进行，再逐任务配对比较。
- 输出
- 分层证据与逐任务变化，而非虚构准确率。
- 为什么需要
- 训练 loss 降低本身不能证明脚本可用或能泛化。
上游: B0/B1 生成 → 下游: 完成此轮阅读
POST-TRAINING / PARAMETER LAB
参数实验室
确定性教学计算，不会训练模型或改写项目配置。N=56、矩阵维度和 token 计数都是假设；结果不是 loss、准确率、耗时或内存实测。
30/112 按钮只更改 max_steps，并把超出预算的观察光标与 warmup 调回有效范围；其他参数保持当前选择。
有效 batch1
曝光30
近似 epoch0.5357
LR5.0000e-5
LoRA 参数16,384
LoRA 缩放2
训练 tokens1,280
生成预算上界3,072
训练长度检查: 通过 · 详细公式与曲线 ↓
边界规则：必须为有效数字；计数为整数；warmup < max_steps；current step ≤ max_steps；r ≤ min(d_in,d_out)。超限训练序列会作为拒绝示例显示。
样本曝光计划
B_eff = b × g × w = 1
exposures ≈ S × B_eff = 30
epochs ≈ exposures / N = 0.5357
这是完整 batch 的近似规划。DataLoader 轮末不足批量、跨 epoch 累积和分布式采样补齐可能改变实际曝光；不是逐样本运行记录。
LoRA：一个假设线性层
ΔW = (α/r)BA · scale = α/r = 2
P = r(d_in + d_out) = 16,384 个参数
W: d_out × d_in = 1,048,576 · 1.5625%
A: 8 × 1024; B: 1024 × 8; BA: 1024 × 1024
上述百分比是单层 adapter 与完整矩阵参数量的比值，非全模型节省率。基座权重和激活仍占内存；更大 rank 不保证更好的独立评测结果。
学习率曲线，不是训练 loss
η(s) = η₀·s/W （s < W）；之后 η₀·max(0, (S−s)/(S−W))
当前更新后 LR: 5.0000e-5
实线：当前计划；短虚线：30 steps / warmup=0；点线：112 steps / warmup=0。纵轴按同一 η₀，横轴按更新次数。相同计划的曲线会重合；预算结束后的零线只为对照延长，不表示继续训练。
修改 max_steps 不只是延长训练，也改变同一步数的线性衰减进度。曲线是公式，不是实际日志；调度状态按已完成更新数解释。
训练标签与生成预算
条形左侧：prompt（label=-100）；右侧：监督尾部。长度为合成计数，不代表真实 tokenization。
训练总长度: 1,280 · 可通过长度检查
生成提示检查: 可通过 · 提示 + 新 token 预算上界: 3,072
训练超长会拒绝而非截断；prompt 仍参与 forward，只是不直接计入 loss。生成还受 EOS 与真实模型上下文约束，实际输出不一定达到 max_new_tokens。