VBVR-EvalKit 是什么?

VBVR-EvalKit(Video-Reason/VBVR-EvalKit)是 Very Big Video Reasoning(VBVR)项目的官方评测仓库,伴随同名论文(ICML 2026)发布,提供一个面向视频生成模型(尤其 Image-to-Video)的「可验证」推理评测框架:用基于规则、对齐人类判断的 scorer 替代纯模型评判,强调可复现与可解释的诊断。基准 VBVR-Bench 覆盖 100 个任务、5 大认知类别(Abstraction、Knowledge、Perception、Spatiality、Transformation),每任务 5 个样本,合计 500 段评测视频,并按 In-Domain/Out-of-Domain 各 50 任务划分。Apache-2.0 许可,约 297 stars,主语言 Python,配套主页 video-reason.com,数据集/模型/榜单挂在 HuggingFace。

⭐ 297 Stars 🍴 13 Forks Python Apache-2.0 作者: Video-Reason 无商业引流
来源:README.md(顶部徽章、Overview);GitHub 仓库元数据(stars=297、language=Python、license=Apache-2.0) 查看 GitHub 仓库 →

为什么值得关注

视频生成与推理需要严谨评测,但目前多依赖大模型作为「裁判」,重复性差、可解释弱。VBVR 用规则化、与人类判断对齐的 scorer 做可验证评测,配 100 任务/500 视频的基准与公开 leaderboard(HF Space),又是 ICML 2026 接收工作,因而受研究者关注。需说明:项目体量与受众主要是视频生成研究社区,stars 数(约 297)反映学术性多于大众热度;评测结果仍依赖视频生成模型的输出与 GT 的结构对照。截至数据采集约 297 stars。

来源:README.md(Overview、徽章 Leaderboard);GitHub 仓库元数据(stars=297、pushed_at 2026-05)

核心功能

规则化人类对齐评测

用基于规则、对齐人类判断的 scorer 替代纯 model-judge,强调可复现与可解释。

来源:README.md(介绍)
5 类认知任务基准

Abstraction / Knowledge / Perception / Spatiality / Transformation 共 100 任务、500 视频。

来源:README.md(Overview 表)
In/Out-of-Domain 划分

各 50 任务,分别测拟合与泛化。

来源:README.md(Overview)
公开 Leaderboard 与数据/模型

HuggingFace 上发布 Bench-Data、VBVR-Dataset、VBVR-Wan2.2 模型与 Leaderboard Space。

来源:README.md(徽章 HF)

技术架构

评测流程:① 从 HuggingFace 拉取 VBVR-Bench-Data(含 prompts、第一帧 base64、目标最终帧、参考 ground truth 视频);② 用你的 Image-to-Video 模型按 prompt + 第一帧生成视频;③ 调用 EvalKit 的 scorer 按规则做评分(与人类判断对齐),按 5 类认知任务输出可解释指标。数据集结构按 In-Domain_50/Out-of-Domain_50 组织,每任务 5 个样本目录(first_frame.png / final_frame.png / ground_truth.mp4 / prompt.txt)。仓库为 Python 包,可 pip install -e 安装;同 GitHub 组织有 Wan2.2 训练代码与 DataFactory。

来源:README.md(Overview、Quick Start、数据集结构、徽章 Wan2.2 / DataFactory)

项目知识图谱

知识图谱:项目核心节点(中心)+ 核心功能(内环六边形)+ 关键技术依赖(外环 chip) HuggingFace Hub(数据/模型/Space)HuggingFace Hu… Image-to-Video 模型(用户自带)Image-to-Video… 规则化 scorer 规则化人类对齐评测 5 类认知任务基准 In/Out-of-Domain 划分In/Out-of-Domain 划… 公开 Leaderboard 与数据/模型公开 Leaderboard 与… VBVR-EvalKit 项目本体 核心功能 关键依赖

中心为项目本体,内环 = 核心功能模块,外环 = 关键技术依赖;按 deep.json 中的 core_features 与 tech_stack.key_deps 自动生成

技术栈

语言Python框架视频生成模型评测框架(VBVR-Bench)
HuggingFace Hub(数据/模型/Space)Image-to-Video 模型(用户自带)规则化 scorer
GitHub 仓库 + HuggingFace 数据/模型/Leaderboard;主页 video-reason.com;Apache-2.0;ICML 2026 接收
来源:README.md(徽章、Quick Start);GitHub 仓库元数据(language=Python)

快速上手

`git clone` 并 `pip install -r requirements.txt`(或 `pip install -e .`)。用 huggingface-cli 下载 VBVR-Bench-Data,按 README 数据结构展开;用你的 Image-to-Video 模型按 prompt + first_frame 生成视频,再调用 EvalKit 对 5 类任务跑评分;可对比 In-Domain/Out-of-Domain 与 Leaderboard 上其他模型成绩。需注意视频生成模型与 GPU 资源由用户自备;结果以仓库内 scorer 与数据为准。
来源:README.md(Quick Start 的 1/2/3、数据集结构)

使用场景

适合视频生成/推理方向的研究者与工程师:复现 VBVR 基准、评估自家 Image-to-Video 模型在抽象/知识/感知/空间/变换 5 类认知任务上的能力、做泛化(Out-of-Domain)研究、向 Leaderboard 提交结果;也适合作为开发评测 pipeline 的参考。它是研究型评测工具,不适合作为生产视频质量评分系统。

来源:README.md(Overview、Quick Start、Leaderboard)

优势与局限

优势

  • 规则化 + 人类对齐评测,可复现、可解释
  • 100 任务 / 5 类 / 500 视频,覆盖系统
  • 数据/模型/Leaderboard 公开在 HuggingFace
  • ICML 2026 接收、Apache-2.0 开源

局限

  • 评测结果仍依赖生成模型输出与 GT 结构对照
  • 需 HuggingFace 下载数据 + 用户自备 I2V 模型与 GPU
  • 受众偏研究社区,star 数量有限
  • 5 类认知划分与 scorer 设计的覆盖度依论文与社区评议
来源:README.md(Overview、Quick Start)

最新版本

本页无版本号;论文为 ICML 2026 接收(arXiv:2602.20159),数据/模型/Leaderboard 见 HuggingFace。仓库最后更新约在 2026 年 5 月。

来源:README.md(介绍、徽章);GitHub pushed_at

总结评价

VBVR-EvalKit 是 ICML 2026 论文 Very Big Video Reasoning 的官方评测仓库:用规则化、人类对齐的 scorer 替代纯 model-judge,为视频生成模型(尤其 I2V)提供 100 任务/5 类认知/500 视频的可验证、可解释基准,并把数据/模型/Leaderboard 都公开在 HuggingFace,对视频生成/推理研究者很对口。要清楚它是研究型评测、需要用户自备 I2V 模型与 GPU、stars 主要反映学术受众。商业引流:无,纯开源研究项目。

来源:综合 README.md 的定位、评测设计、ICML 接收与公开资源

常见问题

VBVR-EvalKit 是什么?

VBVR-EvalKit(Video-Reason/VBVR-EvalKit)是 Very Big Video Reasoning(VBVR)项目的官方评测仓库,伴随同名论文(ICML 2026)发布,提供一个面向视频生成模型(尤其 Image-to-Video)的「可验证」推理评测框架:用基于规则、对齐人类判断的 scorer 替代纯模型评判,强调可复现与可解释的诊断。

VBVR-EvalKit 有哪些核心功能?

VBVR-EvalKit 的核心功能包括:规则化人类对齐评测、5 类认知任务基准、In/Out-of-Domain 划分、公开 Leaderboard 与数据/模型。

VBVR-EvalKit 为什么最近很受关注?

视频生成与推理需要严谨评测,但目前多依赖大模型作为「裁判」,重复性差、可解释弱。VBVR 用规则化、与人类判断对齐的 scorer 做可验证评测,配 100 任务/500 视频的基准与公开 leaderboard(HF Space),又是 ICML 2026 接收工作,因而受研究者关注。需说明:项目体量与受众主要是视频生成研究社区,stars 数(约 297)反映学术性多于大众热度;评测结果仍依赖视频生成模型的输出与 GT 的结构对照。

VBVR-EvalKit 适合哪些使用场景?

适合视频生成/推理方向的研究者与工程师:复现 VBVR 基准、评估自家 Image-to-Video 模型在抽象/知识/感知/空间/变换 5 类认知任务上的能力、做泛化(Out-of-Domain)研究、向 Leaderboard 提交结果;也适合作为开发评测 pipeline 的参考。它是研究型评测工具,不适合作为生产视频质量评分系统。

透明度声明
本页内容由 AI(大语言模型)基于以下公开材料自动生成:GitHub README、代码目录结构、依赖文件、Release 信息。 分析时间: 2026-06-04 11:08. 质量评分: 100/100.

数据来源:README、GitHub API、依赖文件