SuperCLUE-VideoEdit 中文视频编辑测评基准方案发布!覆盖2大维度、8项核心任务!

# 测评背景
# SuperCLUE-VideoEdit 测评体系
SuperCLUE-VideoEdit 共设置2大一级维度、8项二级任务,涵盖基础视频编辑与实际创作应用。

注:具体测评体系以正式发布的测评报告为准。
测评体系总览
具体任务划分如下:

任务体系介绍
基础能力
(1)主体与属性编辑
评估模型对视频中人物、动物及物体的精准修改能力,重点考察编辑结果的准确性及主体身份保持情况。
主体增删替换:根据指令添加、删除或替换指定主体,确保主体类别、数量、位置及形态符合要求。
属性修改:调整主体颜色、材质、服装及外观等属性,保持未指定修改的特征。
主体身份保持:在编辑过程中保留人物面部、体形及动物或物体的关键识别特征,避免非预期身份变化。
(2)场景与风格编辑
评估模型对视频环境、光照及视觉风格的调整能力,重点考察场景修改准确性与连续画面的风格一致性。
场景修改:完成背景替换、天气变化、环境及光照调整,保持原有主体和必要的空间关系。
风格迁移:根据中文指令或参考图片,将视频转换为指定视觉风格,考察色彩、光影及纹理的匹配程度。
风格一致性:检验目标风格在不同画面区域和连续帧中的稳定性,避免风格漂移或光照突变。
(3)画面修复与增强
评估模型对视频中局部缺陷、遮挡及缺失内容的修复能力,重点考察内容恢复的完整性与自然度。
缺陷修复:消除污渍、划痕、局部模糊等视觉缺陷,避免误修改正常内容。
内容补全:恢复被遮挡或缺失的画面区域,确保结构、形状和纹理合理。
自然融合:检验修复区域在光照、透视及连续画面中的一致性,避免明显边缘、伪影和闪烁。
(4)运动与镜头编辑
评估模型对人物动作、物体运动及镜头变化的控制能力,重点考察动态编辑的准确性与空间合理性。
动作修改:根据指令改变人物或物体的动作方式,保持主体结构及环境交互合理。
运动轨迹调整:修改物体的运动方向、路径及幅度,确保运动过程连续自然。
镜头控制:执行镜头推拉、平移、环绕及拍摄视角变化,保持画面空间结构与主体关系合理。
(5)文字与符号编辑
评估模型对视频中中文文字、数字及图形标识的精准修改能力,重点考察字符准确性与动态显示稳定性。
文字修改:替换或调整中文文字、数字及字幕,确保内容准确、完整且清晰可辨。
标识替换:根据指令或参考图片修改图形标识,保持形状、颜色及关键视觉细节。
动态稳定:检验修改后的文字和标识在镜头或物体运动过程中,能否保持位置、透视及内容稳定。
应用能力
(1)广告与电商营销
面向商品展示、品牌宣传及电商视频制作,评估模型完成商业素材更新任务的能力。
商品信息还原:根据指令或参考图片修改商品款式、包装、配色及品牌标识。
营销素材更新:完成商品版本、包装内容、宣传信息及展示场景的指定修改。
商品场景融合:检验商品在人物握持、镜头运动及场景变化中的比例、透视、光照与遮挡关系。
(2)影视后期与创意特效
面向影视后期及创意视频制作,评估模型对视觉特效、场景氛围及复杂光影效果的编辑能力。
影视风格调整:根据指定风格修改视频色彩、光影、材质及整体视觉氛围。
视觉特效添加:生成指定类型、形态及动态表现的光效、粒子、烟雾等特效。
特效场景融合:检验新增特效与人物、物体及背景在光照、遮挡、透视和运动方面的协调程度。
(3)社交媒体与个人创作
面向旅行、Vlog、街拍、宠物及日常生活视频,评估模型完成个性化视频创作任务的能力。
个性化修改:根据创作者需求调整人物形象、背景及其他视觉内容。
创意元素添加:为人物、宠物或生活场景添加配饰、趣味元素及视觉效果。
影像自然保真:保持原视频中人物、宠物及生活场景的关键特征,避免过度修饰或非预期变化。
# 测评方法和任务示例
本次 SuperCLUE-VideoEdit 测评采用细粒度评估方式,结合视频编辑任务特点,从编辑指令完成情况、原视频内容保留及画面动态表现等方面,对模型的视频编辑能力进行综合评价。

1)测评集构建

2)评分标准
裁判模型依据预先制定的评价流程和评分细则,结合具体任务的考察重点进行结构化评分,确保不同模型和任务之间评价标准的一致性与可比性。

3)自动化评价
裁判模型将根据具体的视频编辑任务,结合相应评分标准进行自动化评价。本次测评采用多轮评分机制,即针对同一模型生成的全部视频,按照统一评价流程独立评分三次,并以三次结果的平均值作为每段视频的最终得分,参与后续综合计算与排名。

4)综合评分与反馈
任务示例
示例1
【测评维度】:基础能力——主体与属性编辑
【提示词】:将画面中央缓慢旋转的红苹果替换为一颗新鲜橙子,保持原有位置、大小比例、旋转方向和运动节奏。橙子的表面纹理与光照自然,转动过程中外观保持稳定;黑色背景和镜头不变。
【模型生成视频】:
【重点观察】:模型是否准确将红苹果替换为橙子,橙子的形状、颜色及表面纹理是否自然,旋转过程中主体外观是否保持稳定,原有位置、运动节奏及背景是否得到保留。
示例2
【测评维度】:基础能力——画面修复与增强
【提示词】:去除混凝土墙面中央明显的纵向裂缝,补全该区域的墙面纹理,使修复后的颜色、粗糙质感和光照与周围墙面一致。保持墙面其他区域、原有构图和镜头运动不变。
【模型生成视频】:
【重点观察】:模型是否完整去除墙面裂缝,修复区域的颜色、纹理及光照是否与周围墙面自然衔接,是否出现明显修复痕迹、画面闪烁或对其他区域的非预期修改。
示例3
【测评维度】:应用能力——广告与电商营销
【参考图片】:

【提示词】:将模特手中原有的白色小包替换为参考图中的深绿色皮革手提包,保留参考图的翻盖包型、提手、肩带和皮革质感,并按原视频画面比例自然呈现。让模特的手与包带保持合理的抓握和遮挡关系,包随原有动作稳定移动;保持人物服装、动作、背景和镜头运动不变。
【模型生成视频】:
【重点观察】:模型是否准确还原参考图中手提包的颜色、包型及关键细节,替换后的包与人物手部是否保持合理的抓握和遮挡关系,包在运动过程中是否稳定,人物及背景是否保持不变。
示例4
【测评维度】:应用能力——影视后期与创意特效
【参考图片】:

【提示词】:参考图中的蓝色能量球形态、光晕和粒子效果,在人物右手抬起并指向前方后,于指尖前上方添加一个大小适中的悬浮蓝色能量球。能量球随右手动作稳定移动,蓝色光线自然映照在手指、手背及附近衣袖上。保持人物原有动作、黑色服装、暗色背景和镜头构图不变。
【模型生成视频】:
【重点观察】:模型是否准确生成符合参考图的蓝色能量球,特效出现的时机、位置及形态是否符合要求,能量球是否稳定跟随手部运动,蓝色光照是否与人物及周围环境自然融合。
时间规划
测评流程
1.邮件申请
2.意向沟通
3.参测确认与协议流程
4.提供API接口或大模型
5.获得测评报告

