雷速体育,雷速体育直播,足球直播,篮球直播,网球直播,体育数据,雷速体育比分直播,雷速体育app下载,雷速体育比分官网,足球比分,雷速体育投注,雷速体育下注,雷速体育网页版,雷速比分,雷速电竞
游戏直播等实时渲染门槛要被击穿了?Adobe 的一项新研究带来新的可能。
近年来,视频合成技术已经取得了显著突破。其中,基于双向注意力机制的扩散 Transformer(DiT)可以生成具有复杂时序动态的逼真内容,但其非因果性设计导致无法满足实时流媒体等场景需求。
相比之下,另一类自回归(AR)模型虽然具有天然时序因果性优势,却因依赖有损向量量化技术而难以达到顶尖画质。
当前,融合两者优势的「教师强制」(Teacher Forcing,TF)和扩散强制( Diffusion Forcing ,DF)方法仍存在误差累积和曝光偏差等核心问题:前者因训练与推理的条件分布差异导致质量衰减,后者虽引入噪声上下文却牺牲了时序一致性。
这些局限性深刻制约着视频生成模型在实时交互应用中的性能边界。近日,Adobe 联合联合德克萨斯大学奥斯汀分校的研究者,在一项新研究中提出了名为 Self Forcing 的新颖算法,旨在解决自回归视频生成中的暴露偏差问题
该方法受到早期 RNN 时代序列建模技术的启发,通过在训练期间显式地展开自回归生成过程,来弥合训练与测试分布之间的差距。具体而言,每一帧的生成都以先前自生成的帧为条件,而不是依赖于真实的帧。
这种机制使得模型能够运用整体分布匹配损失函数(holistic distribution-matching losses)对完整的生成视频序列进行监督。通过迫使模型在训练中面对并从其自身的预测错误中学习,Self Forcing 算法能有效减轻暴露偏差并减少误差的累积。
尽管由于 Self Forcing 的序列特性会阻碍并行训练,乍看之下似乎在计算上代价高昂,但该研究证明,它可以高效地作为训练后阶段的一种算法来实现,此时模型在该阶段并不需要大量的梯度更新即可收敛。
通过采用少量步数的扩散主干网络以及精心设计的梯度截断策略,Self Forcing 算法的效率出乎意料地优于其他并行策略,在相同的实际训练时间内实现了更优的性能。此外,该研究还引入了一种滚动 KV 缓存机制,进一步提升了视频外推的效率。
该模型能够在单个 H100 GPU 上以 17 FPS 的帧率实现实时视频生成,延迟低于一秒,同时在生成质量上与近期较慢的双向和自回归视频扩散模型相比具有竞争力或更优。
这些进步为真正的交互式视频生成用例 —— 如直播、游戏和世界模拟 —— 打开了大门,在这些场景中,延迟预算以毫秒而非分钟为单位进行衡量。
研究者表示,采用 Self Forcing 的模型可以生成 480p 的准高清视频,首帧延迟约为 0.8 秒。在持续生成速率方面,单块 H100 GPU 约为 17 帧每秒,单块 RTX 4090 在优化后约为 10 帧每秒。目前可以生成基础的 5 秒视频以及外推延展后更长的 10 秒视频。
Prompt:这是一个奇幻剧风格的电影场景,描绘了一个人走过一片宁静的田野,到处都是漂浮的灯笼。每走一步,灯笼就会亮起来,散发出温暖、飘渺的光芒。这个人穿着飘逸的东方传统服装,动作优雅,表情安详而又略带沉思。背景是宁静的夜空,点缀着几颗星星和一轮新月,营造出梦幻般的氛围。相机的角度从背后,从中镜头的角度捕捉人物,突出他们的自然动作和发光的灯。
Prompt:一个老人穿着飘逸的绿色连衣裙,戴着一顶宽边太阳帽,在令人惊叹的日落中悠闲地漫步在南极洲冰冷的地形上。他饱经风霜的脸和慈祥的眼睛映照出夕阳的暖色调,夕阳投下长长的影子,使大地沐浴在金色的光芒中。这个男人的姿势直立,自信,双手放在背后。背景是崎岖的冰层和遥远的山脉,天空被涂成橙色、粉红色和紫色。这张照片有一种怀旧和梦幻的感觉,捕捉到了极地的宁静之美。
Prompt:灾难电影风格的戏剧性和动态场景,描绘了一场强大的海啸席卷保加利亚的一条狭窄小巷。河水汹涌而混乱,海浪猛烈地撞击着两岸的墙壁和建筑物。这条小巷两旁是饱经风吹雨打的老房子,它们的外墙部分被淹没和破碎。镜头角度较低,捕捉到海啸向前涌动的全部力量,营造出一种紧迫感和危机感。可以看到人们疯狂地奔跑,加剧了混乱。背景以遥远的地平线为特征,暗示着广阔的世界。
Self Forcing 的核心思想是:在训练阶段就采用与推理时相同的自回归展开方式生成视频。具体实现包含两个关键技术突破:
然而,即便采用少步扩散模型,若直接对整个自回归扩散过程执行反向传播,仍会导致内存消耗过大。为解决这一难题,研究者提出以下创新策略:
首先进行梯度截断。仅对每帧的最终去噪步骤进行反向传播,将梯度计算范围限制在关键环节。
然后是动态步数采样。突破推理阶段固定使用 T 步去噪的约束,在训练时对每个样本序列随机采样 1 至 T 步去噪步骤,并以第 s 步的去噪结果作为最终输出。这种随机采样机制确保所有中间去噪步骤都能获得监督信号。
最后是梯度流隔离。通过限制梯度向 KV 缓存嵌入的传播,在训练过程中切断当前帧与先前帧的梯度关联。
受大语言模型研究的启发,研究者为自回归扩散模型提出了一种滚动 KV 缓存机制,可以实现无限长视频生成且无需重新计算 KV 缓存。
如图 3 (c) 所示,研究者维护固定大小的 KV 缓存区,仅保留最近 L 帧的 token 嵌入。当生成新帧时,首先检测缓存是否已满,若达到容量上限则移除最旧的缓存条目后再存入新数据。在保持 O (TL) 时间复杂度的同时,确保生成每一新帧时都能获得足够的上下文信息。
配合 VBench 和用户偏好研究,研究者同步评估了生成视频的视觉质量与语义对齐度。同时,严格测试了 Self Forcing 在实时应用中的效率表现。在单个 NVIDIA H100 GPU 上,研究者综合评估了吞吐量和首帧延迟两项指标,全面衡量实时生成能力。
如下表 1 所示,研究者提出的分块自回归方案在 VBench 评估中全面超越所有基线模型,同时在人类偏好度测试中取得最优成绩。该方案还能实现 17 帧 / 秒的实时吞吐量,配合亚秒级首帧延迟,足以支持直播等实时视频流应用场景。
下图 4 展示了用户调研结果,将分块 Self Forcing 模型与多个重要基线模型进行了比较。
结果显示,本文方法在所有对比中持续获得最高偏好度,包括作为模型初始化基础的 Wan2.1 多步扩散模型。其中,帧级变体版本在保持强劲生成质量的同时,实现了最低延迟(0.45 秒),特别适合对延迟敏感的实时应用场景。这些实验结果均采用 DMD 损失函数作为优化目标。
采用 SiD 和 GAN 目标函数训练的模型在消融实验中表现出了类似的性能。如下图 5 所示,CausVid 存在误差累积问题,导致饱和度随时间推移不断增加。本文方法在画质上略优于 Wan2.1 或 SkyReels-V2,同时延迟时间缩短约 150 倍。
06月02日,4个维度看货币政策如何支持经济回升向好,爱游戏ayx官网,鸿博网址登录不了,万博手机网,云顶国际赌场网站
06月02日,西藏自治区政协原副主席姜杰被最高检决定逮捕,开运官网入口,九游会官网登录,乐鱼平台入口官网,贝博备用网址
06月02日,涉案金额超百亿!公安部公布8起涉银行卡犯罪典型案例,kok官网,明升体育官网APP,云顶娱乐注册页面,太阳城可靠吗
06月02日(巴黎奥运)赛事看点:中国举重争2金 花游攀岩求突破365必发奔驰宝马电玩城电脑版官网欧宝线日内蒙古成立设施农业绿色发展技术研究院365官网手机正版下载足球滚球的正规平台appnba比赛买球哪里买pokertime扑克时间ios下载
06月02日中国地质调查局公布多项勘探成果和工程进展乐米官网下载链接博狗在哪玩有人在凯时赢过钱吗金沙所有登入网址……
06月02日,云南独龙江公路全线进行临时性全封闭交通管制,威尼斯人推荐极致体验,捕鱼游戏排名第一,苹果下载球探体育旧版本,AG线余次救援中书写“火”热青春,必赢线上网址,ku体育最新网,千亿体育官方一首页,1号站娱乐平台
06月02日8月6日人民币对美元中间价报7.1318元 上调27个基点365速发国际最新皇冠捕鱼大全真人国际菲律宾金佰利国际28彩票平台登录
06月02日,农业农村部公示第五批全国新型农业经营主体典型案例拟推介名单,AG8亚洲国际游戏,葡京评级网,快乐网,欧宝APP安卓
06月02日,中蒙农产品“绿色通道”出口果蔬突破8亿元,银河在线官方app,杏耀官方下载地址,新宝5平台在线日,上海虹桥边检开启“绿色通道” 协助台胞紧急就医,开云网页版,光速体育app官网,AG开户官网,B体育官网app下载
06月02日中国航空货运量规模达历史最好水平AG平台官网云顶娱乐体育官网app168app链接ca88赌场
06月02日开春以来广东已完成林分优化134万多亩欧博足球奥博集团网址查询官网凯时K66官网新威尼斯人官方网站登陆
06月02日福建平潭“蓝眼泪”爆款IP如何变“流量”为“存量”?梦幻国际线官网
没点年龄看不懂的图片,枕刀歌 第二季叙利亚局势紧张,会走向内战吗?一文梳理澳门威尼斯人视讯注册九卅娱乐网米6体育app官网火狐体彩app
樊振东3比1印度选手,张豆豆发文支持孙杨针灸拔罐样样行:“Z世代”泰国女孩探寻望闻问切之妙手机澳门皇冠玩的吗亿博app下载网站AG在线登录九游会进入
哈哈哈哈哈 第四季,学校组织学生聚餐每人收400元被吐槽(巴黎奥运)田径女子铁饼:冯彬获得亚军mg官方游戏中心米乐体育APP银河总站登录入口百老汇盘口入口
孙杨回应复出首冠,原神仆人立绘公布中国驻菲大使馆向营救中国公民牺牲受伤的菲国警表示哀悼慰问威尼斯人手机app五色国际金沙游乐场官网地址大众彩票平台下载
吧友感叹樊振东超前精神状态,60城试点机动车行驶证电子化网红因感冒导致重度肺炎去世!如何判断感冒与肺炎?亚游平台登录beat365体育官网在线华体会体育外围综合体育网站登录
爱奇艺选秀 初舞台,邓超 水瓶座(文化中国行)走进无锡千年古运河畔 漫步老巷感受文脉开元棋牌官网bet体育在线官网真人国际象棋软件下载万喜国际真人娱乐
中粮集团大悦城控股集团股份有限公司党委书记、总经理曹荣根接受纪律审查和监察调查