2565133af3
implemented(除 4 篇超长文档随后补)、proposed、rejected 全树配对; 同一流水线 + 二遍校验(paraphrase-back + 仓库上下文一致性)产出。 docs/rfc/implemented/AGENTS.md 与其 CLAUDE.md 符号链接列入排除 (agent 指令文件,与根 AGENTS.md 同策略)。
2.2 KiB
2.2 KiB
RFC:变异测试作为覆盖率的制衡
English | 中文
Status: proposed
问题
逐文件 100% 覆盖率门禁(见质量门禁决策)证明的是每一行都在测试中被执行了,而非任何断言会在该行出错时有所察觉。在 agent 编写测试的场景下,覆盖率压力可能催生「执行但无断言」的测试。变异测试衡量的正是覆盖率无法衡量的:测试套件是否能杀死被刻意注入的缺陷。
提案
在 packages/*/src 上运行 Stryker(@stryker-mutator/vitest-runner):
- PR 粒度的增量运行(仅变更文件),作为 CI job:调优后足够快,可以作为合并门禁。
- 每夜全量运行,跟踪变异分数;先记录基线,再将阈值设为观测到的基线值并只升不降(与覆盖率策略一致:阈值只收紧)。
- 存活的变异体是待办工作项:agent 选取一个存活体、编写杀死它的测试、循环往复——一个形态良好的自主循环。
- 等价变异体(可证明不改变行为的)加带理由的排除注解,与
/* v8 ignore */策略对称。
计划
- 添加 Stryker 配置,范围限定在一个包(llm:最小、最具算法性),测量运行时间。
- 扩展到所有包;在配置中记录基线分数。
- 接入每夜 job;当运行时间可接受后,添加 PR 粒度的增量 job。
验收标准
- Stryker 配置在
packages/*/src上以 vitest runner 运行;每夜 job 记录变异分数,且当分数低于记录的基线时,运行失败(阈值只升不降)。 - PR 粒度的增量运行在运行时间可接受后作为合并门禁;或者明确保持仅每夜运行,并将该结论记录于此。
- 等价变异体带有附理由的排除注解,与
/* v8 ignore */策略对称。
风险
运行时间:变异测试开销大;逐文件 100% 覆盖率有所帮助(每个变异体至少会被执行到)。如果 PR 粒度的运行始终太慢,则保持仅每夜运行,依赖分数只升不降的机制。