Files
deepseek-harness/docs/rfc/proposed/testing/2026-06-11-mutation-testing.zh.md
T
Ziya 2565133af3 docs(i18n): RFC tree batch — 146 bilingual pairs via the committed pipeline
implemented(除 4 篇超长文档随后补)、proposed、rejected 全树配对;
同一流水线 + 二遍校验(paraphrase-back + 仓库上下文一致性)产出。
docs/rfc/implemented/AGENTS.md 与其 CLAUDE.md 符号链接列入排除
(agent 指令文件,与根 AGENTS.md 同策略)。
2026-07-15 23:25:06 -07:00

2.2 KiB
Raw Blame History

RFC:变异测试作为覆盖率的制衡

English | 中文

Status: proposed

问题

逐文件 100% 覆盖率门禁(见质量门禁决策)证明的是每一行都在测试中被执行了,而非任何断言会在该行出错时有所察觉。在 agent 编写测试的场景下,覆盖率压力可能催生「执行但无断言」的测试。变异测试衡量的正是覆盖率无法衡量的:测试套件是否能杀死被刻意注入的缺陷。

提案

在 packages/*/src 上运行 Stryker(@stryker-mutator/vitest-runner):

  • PR 粒度的增量运行(仅变更文件),作为 CI job:调优后足够快,可以作为合并门禁。
  • 每夜全量运行,跟踪变异分数;先记录基线,再将阈值设为观测到的基线值并只升不降(与覆盖率策略一致:阈值只收紧)。
  • 存活的变异体是待办工作项:agent 选取一个存活体、编写杀死它的测试、循环往复——一个形态良好的自主循环。
  • 等价变异体(可证明不改变行为的)加带理由的排除注解,与 /* v8 ignore */ 策略对称。

计划

  1. 添加 Stryker 配置,范围限定在一个包(llm:最小、最具算法性),测量运行时间。
  2. 扩展到所有包;在配置中记录基线分数。
  3. 接入每夜 job;当运行时间可接受后,添加 PR 粒度的增量 job。

验收标准

  • Stryker 配置在 packages/*/src 上以 vitest runner 运行;每夜 job 记录变异分数,且当分数低于记录的基线时,运行失败(阈值只升不降)。
  • PR 粒度的增量运行在运行时间可接受后作为合并门禁;或者明确保持仅每夜运行,并将该结论记录于此。
  • 等价变异体带有附理由的排除注解,与 /* v8 ignore */ 策略对称。

风险

运行时间:变异测试开销大;逐文件 100% 覆盖率有所帮助(每个变异体至少会被执行到)。如果 PR 粒度的运行始终太慢,则保持仅每夜运行,依赖分数只升不降的机制。