← 返回首页

DeCapBench

2025.03 — 2025.11
PythonPyTorch

做了什么

现有图像描述指标只看「词有没有对上」,不区分错误类型。这个基准把失真拆成 4 类、12 个维度,让模型的失败模式可以被定位。

关键设计

标注一致性用双人交叉 + 分歧仲裁,最终 Cohen's κ 达到 0.81。

python -m decapbench.eval --model llava-1.5 --split test