Token导航 LogoToken导航

AI 资讯 · 科技行者

NVIDIA提出一步修复4K视频方法

更新 2026-10-23科技行者正文 6725字阅读约 22分钟

你有没有想过一件事:为什么手机上那些AI生成视频软件,出图质量总感觉差点意思,要么糊,要么手指头是六根的,要么背景里突然多出一堵墙?

不是模型不够聪明,是分辨率和成本在打架。

想生成一段又高清又流畅的视频,理论上很简单,把模型做大、把分辨率拉满就行了。但代价是什么呢?视频生成的计算量是跟着像素点数量走的,分辨率翻倍,计算量往往是几倍地涨。想要4K高清、24帧、几秒钟的视频,直接用大模型跑满分辨率,可能要等上两三分钟甚至更久。这在实际产品里是不可接受的,没人愿意为了一段五秒钟的视频等待两分半钟。

于是行业里摸索出一条折中路线:先用小模型、低分辨率快速生成一版内容和运动都对的"草稿",再用一个专门的精修模型把它放大、补细节,变成高清成品。这就是所谓的两阶段生成。听起来很合理,但问题出在第二阶段身上:现有的精修模型,往往自己也要走好几步去噪,跑一趟精修可能要花几十秒甚至上百秒。第一阶段省下来的时间,又被第二阶段吃掉了大半。

这就是NVIDIA这篇论文要解决的事。他们做了一个叫SoL-Refiner的精修模型,核心卖点就一句话:只用一步去噪,就能把低分辨率的视频修成4K高清。

精修这件事,到底难在哪

在往下讲之前,得先弄清楚"精修"具体是要干什么活。

低分辨率视频生成器*:先用较小算力、较低分辨率生成视频初稿的模型,比如WAN、Cosmos-Nano这类小模型,出图快但细节糙。

它跑出来的视频通常有两类毛病。一类是分辨率太低,画面本身就模糊,需要放大加细节。另一类是即便分辨率够了,画面里也可能有生成模型特有的瑕疵,比如皮肤纹理诡异、物体边缘扭曲、纹理前后帧对不上。精修模型要同时干两件事:分辨率提升和瑕疵修复,这两件事经常是绑在一起出现的。

传统的精修方案,比如LTX-2.3自带的Refiner要走三步去噪,LingBot的精修器要走八步。每一步都得把目标分辨率下动辄几万甚至几十万个视觉token(可以理解成把画面切成的小方块)重新算一遍注意力,这个开销一点都不小。

这里就出现了一个很拧巴的局面:第一阶段为了省时间牺牲了分辨率,第二阶段又为了补回分辨率牺牲了时间。相当于你为了赶时间抄近路,结果近路上堵车堵得比正路还久。

SoL-Refiner想干的事,就是把这第二阶段的堵车问题彻底解决掉:把精修从三步、八步压缩到一步。

三阶段训练:先学会修,再学会修得好看,最后学会修得快

SoL-Refiner不是凭空冒出来的,它是从LTX-2.3这个预训练模型开始,经过三个训练阶段逐步打磨出来的。这个思路本身就很有意思,值得掰开讲讲。

**第一阶段:持续训练,先学会"修"这件事本身**

这一阶段的任务很朴素:给模型看大量"低质量视频和对应高质量视频"的配对数据,让它学会从低质量到高质量的映射关系。

这里有个巧妙的设计,叫做截断-σ流匹配。

流匹配*:一种训练生成模型的方法,核心思路是让模型学会一条从"纯噪声"到"真实数据"的运动轨迹,模型学的就是这条轨迹上每一点该往哪个方向走。

普通的视频生成模型,训练时是从纯噪声开始学习一路走到清晰画面的完整轨迹。但SoL-Refiner的任务不是从无到有生成视频,而是修复一个已经存在、但质量较差的视频。如果还按标准流程从纯噪声起步,那就是在浪费信息,因为低质量视频里其实已经包含了内容和运动的关键信息,只是细节不够好。

于是研究者们做了个调整:不从纯噪声开始,而是从"低质量视频混入少量噪声"这个点开始起步,噪声比例被限制在一个截断值以内(论文里设为0.91)。这样一来,模型学的这条路径,起点就带着原视频的骨架信息,终点是清晰的高质量画面,走的是一条"精修路线"而不是"从头再来路线"。

如果没有这个设计会怎样?

就像你想给一份文件校对错别字,正常做法是拿着原文件逐字核对、改错的地方,效率很高。但如果非要把原文件扔掉,让人凭记忆重新打一份新的,那新文件固然可能没有错别字,但内容走样的风险会大很多,而且这个过程根本没必要那么麻烦。截断噪声的设计,本质上就是让模型"对着原稿校对",而不是"凭空重写"。

**第二阶段:强化学习后训练,让模型学会什么叫"好看"**

第一阶段训练完之后,模型确实会修图了,但它优化的目标只是让输出在数学上接近训练数据,这跟"人类觉得这张图好看"不是一回事。这就好比一个学生做数学题只追求算法步骤正确,但从来没人告诉过他答案要写得工整、老师看着才顺眼。

于是第二阶段引入了强化学习后训练,用的方法叫做奖励反馈学习(Reward Feedback Learning,简称ReFL)。

奖励反馈学习(ReFL)*:一种让生成模型直接根据"打分模型"的反馈来调整自己的训练方法。生成模型输出的画面会被专门的评分模型打分,分数高的方向就是模型要努力的方向。

具体怎么做的呢?模型在去噪过程中,会在时间线较靠后的几步里随机抽一个点,在这个点上做一次可以计算梯度的预测,直接估算出最终的清晰画面大概长什么样,然后把这个画面送去两个评分模型打分。

这两个评分模型一个叫HPSv3++,专门衡量画面是否符合人类审美偏好和文字描述;另一个叫DeQA,专门评估画面本身有没有明显的画质缺陷。

HPSv3++和DeQA*:两个用于视频/图像质量打分的奖励模型,前者侧重人类主观偏好和美感,后者侧重技术性的画质缺陷检测。

打分之后,再从画面上均匀抽取三帧(开头、中间、结尾各一帧),把三帧的得分汇总成一个总奖励,反向传播回去,指导模型往"分数更高"的方向调整。

这里有个细节很值得说一下:为什么要限定"较靠后的几步"才做奖励监督,而不是任意一步都行?因为在去噪过程刚开始的时候,画面几乎全是噪声,此时预测出来的"清晰画面"根本不可靠,拿这种半成品去打分,评分模型给出的反馈是没有意义的,甚至可能把模型带偏。这就像是你还没写完文章草稿,就急着让编辑来审稿,编辑给的意见十有八九是不准的,白白浪费了一次反馈机会。

实验结果也证实了这一步很关键。表格数据显示,经过强化学习后训练的模型,VBench平均分从第一阶段的0.80888涨到了0.81691,UniPercept平均分更是从56.6620跳到了61.3170,涨幅相当可观。

**第三阶段:一步蒸馏,把多步压缩成一步**

前两个阶段打磨出来的模型质量已经不错了,但它仍然是个多步模型(论文里最终版本走了23步)。第三阶段要做的事,是把这个走23步才能出图的模型,蒸馏成只走一步的版本。

分布匹配蒸馏(DMD)*:一种模型压缩技术,核心思路是训练一个"学生模型",让它一步到位生成的结果,和"教师模型"走多步生成的结果在整体分布上尽可能接近,而不是逐像素模仿。

这个过程分成两小步。先蒸馏出一个三步的中间版本,再以这个三步版本为起点,进一步蒸馏成一步版本。为什么不直接从23步蒸馏到1步?大概率是因为跨度太大,中间损失的信息太多,模型很难一次学到位。加一个三步的过渡站,相当于先从高速公路下到省道,再从省道拐进小区,每一段落差都小一点,更容易稳住。

一步蒸馏阶段还加了一个判别器,用来做对抗训练。

投影式DiT判别器*:一个专门判断"这段视频是真实高质量的,还是模型生成的"的小型网络,通过让生成器不断骗过判别器,倒逼生成器输出更逼真的细节。

这个判别器复用了教师模型的特征提取能力,只在几个关键层上接了一个轻量级的打分头,用来直接监督生成结果是否足够逼真。同时论文还专门用了一种叫做近似R1正则化的技巧,防止判别器"进步"得太快,反过来把生成器带乱。

三个阶段跑下来,最终的一步模型VBench平均分是0.81048,虽然比23步版本的0.81691略低,但已经超过了所有拿来对比的其他精修方案,而且只要一步。

Refiner-Bench:一个公平的擂台

做了这么好的模型,怎么证明它真的强?这就涉及到论文的第二个重要贡献,一个叫Refiner-Bench的评测基准。

这个基准设计得挺讲究的一点是:它专门收集了来自不同视频生成模型的输出作为测试样本,包括WAN 2.1、SANA-Video、LTX-2 Stage 1,一共150段视频,覆盖了12种内容类型(人物、动物、自然风光、建筑、产品特写等)、三种运动强度、六种运镜方式。

为什么要这么麻烦地凑不同来源的数据?

因为市面上很多精修模型是绑定某一个特定生成器开发的,只在自家生成器的输出上表现好,一换到别的生成器输出就露馅。这就好比一个裁缝只给固定的几位老主顾量体裁衣,衣服合身得很,但你要是拿别人的身材尺寸让他做衣服,他可能就手生了。Refiner-Bench刻意用了三个不同来源的低质量视频,就是要看精修模型是不是真的具备"通用修复能力",而不是只在自家生态里表现良好。

评测用了两套指标体系。

VBench*:一套视频生成质量评测标准,从主体一致性、背景一致性、动作流畅度、动态程度、美学质量、成像质量六个维度打分。

UniPercept*:另一套评测标准,从图像美学评估(IAA)、图像质量评估(IQA)、图像结构纹理评估(ISTA)三个维度打分。

在这套"共享输入"的公平擂台上,SoL-Refiner只用一步,就在VBench的美学质量、成像质量、总均分以及UniPercept总均分上超过了所有参与对比的外部精修模型,包括同样只走一步的SEEDVR2。具体数字是,SoL-Refiner的VBench均分0.81048,UniPercept均分60.4150,都是所有一步或多步方案里的第一名(除了它自己的23步版本)。

从720p到4K,速度提升是怎么一点点抠出来的

光有质量还不够,这篇论文的核心卖点毕竟是速度。这部分数据也挺扎实的,值得细看。

先说和自家老前辈LTX-2.3自带的三步精修器的对比。SoL-Refiner是从LTX-2.3检查点训练来的,拿它们俩直接对比很公平。结果显示,在720p、2K、4K三个分辨率上,SoL-Refiner的VBench和UniPercept均分都全面超过LTX-2.3的三步精修器,而且分辨率越高,优势越明显:在4K分辨率下,VBench均分提升3.86%,UniPercept均分提升幅度达到22.79%。

这个"分辨率越高优势越大"的现象其实很好理解。多步精修在高分辨率下,每一步的计算量都会随着分辨率平方级增长,步数越多,高分辨率下的负担就越重,画质和效率的矛盾也就越尖锐。一步模型天生就没有这个"步数累加"的负担,分辨率越高,它相对多步方案的优势就越明显。

速度方面,论文给出了一个很细致的拆解。三步的LTX-2.3精修器完整跑一次要57.461秒,SoL-Refiner的一步模型先把这个时间压到31.57秒(1.82倍加速),再引入一个叫TAE的轻量级视频编解码器:

TAE(Tiny AutoEncoder)*:一个体积更小、速度更快的视频编码解码模型,用来替代传统的完整VAE(视频变分自编码器),专门负责把视频从像素空间压缩到隐空间,以及反过来解压。

用了TAE之后进一步压到13.30秒(2.37倍加速),最后再叠加一个叫Sol-Engine的推理加速引擎:

Sol-Engine*:NVIDIA自研的视频推理加速引擎,通过核函数融合和一种叫Sol-Attn的稀疏注意力机制,减少去噪计算量。

最终压到6.447秒,相当于对原始三步方案实现了8.91倍的加速。这是在2K分辨率、241帧、24fps的设定下测出来的数字。

这个"一路砍时间"的过程,让我想到装修房子省钱的思路:先是把工程量本身砍掉(多步变一步),再是换更便宜的材料(TAE替代重型VAE),最后还找了个效率更高的施工队(Sol-Engine)。每一步单独看可能就省个几成,但三步叠加起来,效果是指数级的。如果只做其中一步,比如只做一步蒸馏不用Sol-Engine,加速倍数会掉到只有个位数的一小截,远达不到8.91倍这个最终成绩。

跨生成器的实测:不只是纸面数据

论文还做了一组挺实际的实验,拿WAN-5B、WAN-1.3B、Cosmos-Nano三个不同的低分辨率视频生成器,先各自跑出低分辨率草稿,再用SoL-Refiner去精修放大,跟这些生成器直接跑满分辨率做对比。

结果是,在WAN-5B上,两阶段流程比直接跑满分辨率快了54.7%,质量还略有提升(VBench从80.15涨到81.22);WAN-1.3B上快了71.1%;Cosmos-Nano上快了64.4%。三组实验都指向同一个结论:两阶段流程不仅没有牺牲质量,反而因为精修阶段带来的细节增强,质量分数还比直接高分辨率生成更高一些。

这也解答了一个自然而然会冒出来的疑问:低分辨率生成再精修,会不会比直接高分辨率生成"差一点",只是拿速度换质量?数据给出的答案是不会,甚至可能更好。原因也不难理解,低分辨率生成阶段的任务变简单了(内容和运动这种"大结构"问题,在低分辨率下更容易判断对错),精修阶段再专注补细节,术业有专攻,两边都做得更好,比一个模型同时兼顾内容正确性和细节精细度要更划算。

论文里还有一个更贴近实际部署场景的实验:在单张NVIDIA DGX Spark(一款小型AI工作站芯片GB10)上,跑一个叫SoL-H3的两阶段方案,先用MiniMax H3模型生成384p草稿,再精修到768p。用上SoL-Refiner之后,端到端延迟从56.17秒降到39.67秒,相比直接跑满分辨率四步H3生成的374秒,加速比达到9.43倍。这说明这套方案不只是在大型GPU集群上好看,在消费级或边缘设备上同样能落地。

消融实验:每一块拼图都不能少

论文还做了一系列拆解实验,用来验证三阶段训练里每个环节是不是都必要。这部分数据挺诚实的,没有回避一些"看起来不完美"的地方。

比如奖励学习的消融实验显示,如果去掉正则化技巧,或者只用HPSv3++一个奖励模型而不是两个搭配使用,VBench均分都会往下掉。这说明两个奖励模型各管一摊,缺一个都不行,HPSv3++管审美偏好,DeQA管技术性画质,两者互补。

还有一个蒸馏策略的对比实验挺有意思。研究者比较了两种做法:一种是把强化学习目标和蒸馏目标混在一起同时优化(叫DMD-R),另一种是先做完强化学习,再单独做蒸馏(叫RL then DMD)。结果是分步走的方案明显更好,VBench均分0.81048对上0.80098,差了将近一个百分点。这说明"一步到位"不总是最优解,有时候把复杂任务拆开、按顺序解决,反而比一锅炖更靠谱。这也跟很多工程实践的经验一致:把多个优化目标硬塞进同一次训练里,经常会互相干扰,谁也没优化透。

写在后面

读完这篇论文,有一个地方让我反复琢磨:整篇论文最难的技术活,其实不是"怎么做一步生成",而是"怎么在一步里,既要保真又要变美"。这两个目标天然是有点冲突的,保真要求你不能瞎改原视频的内容和运动轨迹,变美又要求你大幅调整局部纹理细节,这个分寸感几乎是靠三阶段训练一点一点拿捏出来的,不是靠单一的巧妙设计就能一步到位。

还有一个细节我印象很深,论文里提到23步的完整版模型在指标上依然稳定超过一步蒸馏版本,作者也大方承认了这一点,没有藏着掖着。这提醒我们,蒸馏压缩这件事从来不是免费的午餐,永远是拿一部分理论上限去换实际可用性,只是这次换得很划算,从57秒换到6.4秒,画质损失几乎可以忽略。

论文里限制条件那一节也提了一句很实在的话:这套奖励反馈机制只抽样三帧来打分,不直接衡量长时间跨度的时序一致性。换句话说,如果一个视频前几秒和后几秒风格慢慢跑偏,这套机制未必能第一时间抓出来。这算是留给后续研究的一个明确缺口。

一步生成高清视频,会不会很快变成视频生成产品的标配能力?如果真的普及开,我们对"生成一段视频要等多久"这件事的心理预期,可能也要重新校准了。

Q&A

Q1:SoL-Refiner是什么?

A:SoL-Refiner是NVIDIA推出的一步视频精修模型,能把低分辨率的AI生成视频,只用一次去噪计算就修复成4K高清视频,同时修复画面里的生成瑕疵。

Q2:SoL-Refiner比传统三步精修方案快多少?

A:在2K延迟测试场景下,加上TAE轻量编解码器和Sol-Engine加速引擎后,SoL-Refiner比LTX-2.3的三步精修器快了8.91倍,延迟从57.461秒降到6.447秒。

Q3:SoL-Refiner能修复不同AI模型生成的视频吗?

A:可以。论文专门构建了Refiner-Bench评测基准,用来自WAN、SANA-Video等不同生成器的视频做测试,证明SoL-Refiner无需重新训练就能跨模型通用修复。

资讯来源:由AI资讯编辑整理自互联网公开内容,版权归原作者所有,未经许可,不得转载。