跳到正文
cccskills
免费在 GitHub 公开

compare-trials

Analyze graded `trial_result` JSONL outputs from the eval pipeline, including reliability and custom slicing.

中文简介正在准备中。当前显示原文说明。

查看安装方法

包含的文件(3)

  • SKILL.md1.2 KB
  • references/bootstrap.ts1.8 KB
  • references/compare.ts5.2 KB

SKILL.md(原文)

安装前可以查看交给 AI 代理的指令内容。

Compare Trials

Use this skill for analysis over graded JSONL outputs, typically after:

agent-eval-harness eval '{"mode":"grade",...}' > graded.jsonl

Default path

For normal baseline-vs-challenger comparisons, use:

agent-eval-harness eval '{"mode":"compare",...}'

Use custom scripts only when suite-specific analysis is required.

Custom analysis use cases

  • cost analysis
  • token usage analysis
  • slices by task metadata (category, difficulty, source)
  • custom regression gates
  • per-agent metadata summaries

Script guidance

When writing a custom script:

  1. Parse JSONL rows as trial_result.
  2. Validate graded rows (pass and score non-null).
  3. Group by stable identity fields (taskId, trialIndex, runId).
  4. Separate:
    • standalone run metrics
    • comparable-overlap metrics
  5. Report uncertainty where possible (bootstrap confidence intervals).
  6. Use exactPassAtK naming for combinatorics-based pass@k metrics (do not label exact values as estimatedPassAtK).

Reference helpers remain in references/ for bootstrap/statistics utilities.

评价

还没有评价。欢迎分享你的使用感受。

评论

无需登录即可发表。欢迎分享使用感受、提问,或说明在哪些环境下无法运行。

还没有评论。来写第一条吧。

提交后会立即公开。请勿填写邮箱、电话等个人信息。URL 最多 2 个。

0 / 1000 字

此表单受 reCAPTCHA 保护,适用 Google 的隐私权政策和服务条款。

同一仓库的技能

grill-me

免费

Interview the user relentlessly about a plan or design until reaching shared understanding, resolving each branch of the decision tree. Use when user wants to stress-test a plan, get grilled on their design, or mentions "grill me".

中文简介正在准备中。当前显示原文说明。

behavioral-sh/agent-eval-harness72026年6月18日 更新

tdd

免费

Use test-driven development for behavior-changing feature or fix work, and whenever the user mentions TDD, test-first, red-green-refactor, tracer bullets, integration tests, or public-interface behavior tests. Skip for docs-only, path-only rename, formatting-only, or purely mechanical chores unless explicitly requested.

中文简介正在准备中。当前显示原文说明。

behavioral-sh/agent-eval-harness72026年6月18日 更新

Build command-only adapters for `eval` run mode using strict stdin/stdout JSON contracts.

中文简介正在准备中。当前显示原文说明。

behavioral-sh/agent-eval-harness72026年6月18日 更新

End-to-end eval-suite orchestration with the `eval` command: run -> grade -> compare -> calibrate, using strict JSON contracts and schema discovery.

中文简介正在准备中。当前显示原文说明。

behavioral-sh/agent-eval-harness72026年6月18日 更新

查看 behavioral-sh 的全部技能

报告此技能的问题