acceptance-checklist.md 7.3 KB

验收清单

更新日期:2026-06-06

本文档用于确认 @vocmarket/tihao 是否达到客户侧商务可直接使用的交付标准:上传或指定 Brief 后,Claude Code 能按提号 SOP 生成可复核、可解释、可沉淀的博主名单。

1. 自动化验收

在包根目录执行:

npm install
npm run acceptance

该命令会检查:

  • sample Brief 到博主名单流程能生成 Markdown、JSON、CSV;
  • Brief 解析能提取品牌、目标平台、目标数量、粉丝范围等核心字段;
  • 偏好记忆能写入 memory JSON;
  • live 模式未传 token 时返回 needs_token,并保持 errors=[]
  • mock 403 返回 needs_recharge,并保持 errors=[]
  • mock 401 返回 needs_valid_token,并保持 errors=[]
  • mock 200 live 响应能规范化出至少一个候选博主;
  • 产品经理验收能检查报告章节、参考账号锚点、证据卡、CSV/JSON 证据字段,并阻止 token 或临时定价泄露;
  • MCP 协议 smoke 能连接 server、列出工具、调用 sample/token 工具;
  • npm pack --dry-run 只包含预期文件;
  • workspace 安装能写入 .mcp.json.claude/plugins/tihao.claude/skills/tihao

2. 产品经理专项验收

npm run acceptance:pm

该验收会跑一份 DHA 类型 sample,带参考账号基线和多模态证据卡,并检查:

  • Markdown 包含参考锚点、多模态证据卡、商务名单、复核建议、生成文件;
  • JSON 保留 referenceLinksreferenceStyleAnchorsevidenceCardsreferenceSimilarity 和证据信号;
  • CSV 保留 referenceSimilarityevidenceSignalsevidenceRiskHints
  • 报告不泄露 token,也不写入未确认定价。

3. Provider 合同验收

本地 mock 合同验收:

npm run acceptance:providers:mock

它用于验证参考账号补证合同、多模态证据卡合同、豆包视频分析 OpenAI 兼容合同。

有真实 provider 权限时再执行:

$env:SOCIAL_ANALYSIS_BASE_URL="<reference enrichment provider>"
$env:VOC_SOCIAL_TOKEN="<optional reference provider token>"
$env:TIHAO_EVIDENCE_BASE_URL="<multimodal evidence provider>"
$env:TIHAO_EVIDENCE_TOKEN="<optional evidence provider token>"
npm run acceptance:providers

真实 provider gate 通过标准:

  • 参考链接能转成至少一个 referenceBaseline
  • 候选博主能获得 referenceSimilarity
  • 证据 provider 返回至少一个 evidenceCard
  • 候选博主能获得 evidenceSignals
  • 输出结果不包含 Authorization header 或环境变量 token;
  • mock 请求包含 contractVersion=tihao-provider-v1、参考链接/风格锚点、证据候选、请求能力和可选鉴权;
  • mock 豆包视频分析合同校验模型 doubao-seed-2-0-pro、Authorization、视觉能力请求,以及 OpenAI 风格 JSON 证据卡解析。

4. 参考视频 A/B 真实验收

该命令会消耗真实额度,不放进默认 npm run acceptance

$env:TIHAO_SESSION_TOKEN="<Parse sessionToken>"
$env:TIHAO_COMPANY="<Company objectId>"
$env:VOC_SOCIAL_TOKEN="<Parse sessionToken>"
$env:VIDEO_ANALYSIS_BASE_URL="https://api.fmode.cn"
$env:VIDEO_ANALYSIS_MODEL="doubao-seed-2-0-pro"
$env:VIDEO_ANALYSIS_TOKEN="<runtime model token>"
npm run acceptance:video-ab

通过标准:

  • 同一份 Brief 和同一个参考视频能跑 A/B;
  • A 组只使用 live 提号,不使用 VOC social 视频详情;
  • B 组使用 VOC social 视频详情和豆包分析;
  • B 组能加载真实参考视频资源和证据卡;
  • B 组必须拿到真实视频 URL;
  • B 组必须拿到封面、ASR/字幕、帧图资源中的至少一类;
  • B 组证据卡不能只是 pendingfallback 或“待补证据”占位;
  • 参考账号占位提示不能当真实参考命中:需补相似账号证据 等内容只能进入 referenceFallbackHitPointsreferenceEvidenceConcrete=false 时不得单独支撑强推荐;
  • B 组证据卡必须包含 text/ASR/visual/frame 中至少一类可解释信号;
  • 参考视频信号可以改善 live 召回关键词,但婚礼、宴会、布景等跑偏事件词不能污染召回;
  • 证据命中点能影响候选博主评分和重排;
  • B 组不得降低强推荐数量、top 10 平均分或参考风格分;
  • B 组输出证据卡效率指标,例如每张证据卡带来的强推荐提升、分数提升;
  • 输出 video-hit-rate-summary.json 和中文 video-hit-rate-report.md
  • 默认 live A/B 只分析预排序前 6 个候选,除非显式设置 TIHAO_AB_EVIDENCE_CREATORS_LIMIT
  • 输出文件不能泄露 Parse token、模型 token 或 Authorization。

5. 手动 live gate

仅在安全测试账号有足够额度时运行:

$env:TIHAO_SESSION_TOKEN="<Parse sessionToken>"
$env:TIHAO_COMPANY="<Company objectId>"
npm run live:acceptance

该 gate 以最小可用规模验证线上 voc-e-commerce 代理和扣费链路:

  • keywordLimit=1
  • pagesPerKeyword=1
  • 至少产出一个 live 候选;
  • 写出 Markdown、JSON、CSV;
  • 返回结果不包含 token。

6. 长跑质量验收

长跑任务参考:

docs/overnight-quality-runbook.md
docs/ai-overnight-optimization-task.md
docs/overnight-quality-latest-evidence.md
docs/manual-review-handoff.md
docs/tihao-experience-optimization-plan.md

长跑结果只有在 manifest.liveEnabled=true 时才可作为命中率证据。sample 模式只能证明聚合、gate 展示和泄露扫描结构有效,不能证明真实提号质量。

提号经验优化验收重点:

  • 硬性量化指标、产品/人群隐性规则、风格调性证据必须分层说明;
  • 有参考账号时,必须判断它是类型锚点、调性锚点、两者都是,还是只作为弱偏好;
  • 强推荐不能只靠平台标签,必须有至少 2 条 Brief 命中点,并在 JSON 中保留参考风格或主页证据命中点;
  • 命中 封面下沉封面混乱排版混乱 等主页质感风险时,不得标为强推荐,并需在 homepageQualityRisks 和风险提示中保留原因;
  • 软件端交付表必须去重,且排名在每个 brief 内连续;
  • manual-review-sample.csv 必须带 客户选择归因类型反馈原因 列,方便直接统计客户选中率和负样本归因覆盖率;
  • 长期效果以人工复核通过率、负样本率、客户选中率衡量,不能只看接口 200 或证据卡数量。

7. 客户可用标准

客户 demo ready:

  • npm run acceptance 通过;
  • sample Brief 报告展示目标数量、当前候选数、平台覆盖和缺口;
  • 提供参考链接时,报告能展示参考锚点和证据卡;
  • 聊天输出不展示原始 401/403 或上游错误体;
  • 报告和结构化结果不出现 token;
  • 全新临时目录 workspace 安装成功。

production live ready:

  • 客户测试 token 和 company 下,手动 live gate 通过;
  • 线上返回真实候选;
  • 扣费、缓存、报告写出、泄露扫描都通过。

multimodal live ready:

  • npm run acceptance:providers 能连真实参考账号补证/证据 provider;
  • 至少一张真实 ffmpeg/ASR/Vision 证据卡经过人工复核。

reference-video live ready:

  • npm run acceptance:video-ab 使用客户 Parse sessionToken 和运行时模型 token 通过;
  • summary 能展示真实参考资源;
  • top 10 结果有证据支持的提升。