# Strata 后续研究清单

更新：2026-10-27。当前为计划记录；下一轮从这里继续。本次整理未启动新实验。

## 已量到的提升

| 类别 | 负载与变化 | 结果 | 证据 |
|---|---|---|---|
| 硬件矩阵算力 | 同卡/350W，8192³ FP16、FP32累加，原始未解锁 → 解锁 | 76.65 → 122.34TFLOPS，约+60% | 原始72请求实验的矩阵对照 |
| 同配置 prefill 解锁收益 | 28,667-token合成记录、输出1 token，18432/MMQ | 2543.4 → 2883.2 token/s，+13.4%；TTFT11.311 → 9.983s | 分阶段320请求对照 |
| 同配置 prefill 解锁收益 | 同输入，auto:32768/FP16专家路径 | 2479.6 → 2961.1 token/s，+19.4% | 分阶段320请求对照 |
| 框架调优 | 保持解锁状态，17,352-token抽取任务，原配置 → 峰值候选 | TTFT13.486 → 5.952s，减少55.9% | 240新增请求调优实验 |

解锁端的大分块MMQ最高约3047.5 token/s；FP16路径的相对改善更大、绝对速度仍低于该MMQ配置。17K抽取、28.7K合成prefill、短输入decode分别记录。

## 本轮观察与候选

- 同配置decode及并发对照：差值−6.2%至+6.3%，未观察到稳定解锁收益。
- DMA：两次独立启动、正反顺序合并中位数代码+2.6%、中文+2.0%，范围重叠，保留为候选。
- 交换周期16：冷热取舍明显；resident overlap：主循环外等待下降、verify内等待增加，净收益小。
- 512-token中文node诊断：主线程MTP0.383s、交换线程join1.077s；验证内部GPU搬权重1.198s、纯waitB自旋41.1ms。CPU阶段与GPU活动嵌套。
- 一次1.14s的内容结束至SSE结束等待待定位；四次图级采样未重现，另一条约93.6ms。保持原始失败/异常样本。
- 正常确认组两类输出各12条，按case的内容哈希一致；本轮未新增通用编码质量评分。

## D01：主要 kernel 的资源上限

状态：待测，优先级P0。

要回答：native_gu/down、fetch_blobs、HC混合和通用投影，分别受访存、指令吞吐、occupancy还是依赖等待限制？

现有证据：正常路径Nsight node活动、独立NVTX阶段与辅助verify分段；node采样增加约23%至38%开销，GPU利用率不作为资源饱和的唯一判断。

下一步：先验证硬件计数器采集能力，再选少量主要kernel采集DRAM吞吐、SM指令、warp stall等。用固定输入和实际分组形状构造有界采样，避免同步/回放干扰GPU门铃协议。

完成标准：给出主要kernel的计数器证据与可解释瓶颈；候选实现以无采样的客户端TPOT/E2E、内容与执行测试复验。保留当前原引擎及配置对照。

## D02：缓存交换与请求收尾

状态：待测，优先级P0。

要回答：resident_stage_swaps的D2H读回与同步、热专家H2D、apply_pending驻留表提交和逐层消费，哪段暴露在关键路径？1.14s尾部等待发生在哪个线程、API或服务收尾步骤？

下一步：同步采集CUDA事件、CPU调度/阻塞与客户端最后内容、finish、SSE结束时间。将主线程join与下一窗口prepare分开；扩展NVTX到decode计时之后的收尾。记录交换次数、字节、热点变化与每层完成事件。

完成标准：原异常复现时拿到对应时间线；新捕获长尾按新样本解释。候选让客户端TPOT/E2E和长尾一起改善，保留相同输出或通过相同执行测试。

## D03：DMA收益的重复性

状态：待测，优先级P1。

下一步：kernel/DMA交错顺序，增加独立启动；保持同引擎、寄存器状态、350W、CPU亲和、实际缓存容量与初始画像。区分首次请求和热请求，覆盖512/较长输出，并记录GPU时钟、温度、PCIe与交换活动。

完成标准：逐轮展示中位数及范围，观察收益是否稳定超过本机波动；不按最快单次选择默认配置。

## D04：真实多轮编码与质量

状态：待测，优先级P1；候选方向明确后进行。

下一步：长上下文、多轮修复和较长代码输出。沿用已冻结的对话、评分器与输出预算；记录TTFT、客户端TPOT、E2E、输出长度、截断及执行测试通过率。若重跑公开题集，保存题集/工具版本、总完成时间和原始结果。

完成标准：说明实际任务等待与通过率的取舍。固定长度内容哈希一致记录继续保留，与通用编码评分分别展示。

## 延后项：显存和PCIe平台对照

硬件条件具备后，沿用相同负载检验更多专家缓存、不同PCIe代际的收益。当前只有这张3090的数据，硬件采购结论等相应机器实测。

## 继续研究时的入口

- 分阶段对照：`../strata-prefill-decode-limits-20261027/REPORT.md`。
- Decode完整报告：`../strata-decode-profile-20261027/REPORT.md`。
- 采样与分类协议：`../strata-decode-profile-20261027/PLAN.md`。
- 各目录原始记录保持原样，已有选中/失败结果不覆盖。