全球首个直播流扩散AI模型MirageLSD登场,实时视频转换玩出新花样

热门资讯2个月前发布 小编
1 0 0

Decart AI团队搞出了全球首个人工智能直播流扩散(Live-Stream Diffusion,简称LSD)模型——MirageLSD正式发布。这东西最牛的地方在于实时视频转换能力,不到40毫秒的延迟就能把任意视频流变成你想要的场景,直播、游戏开发、动画制作还有虚拟换装这些领域,怕是要迎来一波大变化。

实时处理能力,甩开传统模型几条街

MirageLSD的出现,让视频生成技术迈上了一个新台阶。以前的视频扩散模型处理起来慢得不行,动辄几秒甚至几分钟,而MirageLSD能做到每秒24帧的运行速度,响应延迟还不到40毫秒,无限长的视频流也能实时搞定。

之所以这么厉害,是因为团队在CUDA Megakernel优化和抗漂移训练上有自己的独门秘籍,整体效率直接提升了100多倍,传统模型在时延和处理长度上的短板,被它彻底打破了。全球首个直播流扩散AI模型MirageLSD登场,实时视频转换玩出新花样

Decart @DecartAI在4小时前也发了消息:“Introducing MirageLSD: The First Live- Stream Diffusion (LSD) AI Model Input any video stream, from a camera or video chat to a computer screen or game, and transform it into any world you desire, in real-time (<40ms latency). Here’s how it works (w/ demo you can use!)”

这段内容是Decart AI官方对MirageLSD的介绍,意思是这是首个直播扩散(LSD)AI模型,能接收相机、视频聊天、电脑屏幕、游戏等各种视频流,并以低于40毫秒的延迟实时转换成用户想要的场景,还附带了可使用的演示。

不管是摄像头拍的画面、视频聊天内容,还是电脑屏幕显示的东西、游戏画面,MirageLSD都能拿来当输入源,实时转成用户指定的场景。就像,普通视频通话能变成星际探险,现实里的木棒打架能变成光剑对决。这种能实时交互又能无限生成的本事,让用户在创作时能放开手脚。

体验地址:

操作简单,普通人也能玩得转

MirageLSD不光技术强,操作还特别简单。用户通过手势控制这种简单的方式,就能实时改变视频里的外观、场景或者服装。比如直播的时候挥下手,背景就能换成热带雨林,自己穿的衣服也能变成虚拟的未来战甲。

而且,它还支持连续提示和编辑,用户在视频生成的时候能动态调整内容,保证出来的画面和自己的创意想法一致。这种高灵活性和可控性,让MirageLSD在创意内容制作方面潜力巨大。

适用场景多,游戏开发半小时搞定

MirageLSD能用到的地方可不少,尤其是在游戏开发领域,表现相当亮眼。听说开发者用它,半小时就能快速做出一款游戏,模型还会自动处理所有图形效果。开发者输入任意视频流或者游戏画面,MirageLSD就能实时把它们变成全新的虚拟世界,不管是奇幻森林还是赛博朋克都市,都能轻松弄出来。

除了游戏开发,直播、动画制作和虚拟换装这些领域,MirageLSD也能发挥大作用。主播能用它实时换直播场景,动画创作者能快速做出动态视觉效果,虚拟换装功能还能给电商和时尚行业提供新的展示方式。这么多适用场景,让它成了跨行业的通用工具。

技术突破

MirageLSD的核心技术是直播流扩散(LSD)模型,它基于Diffusion Forcing技术,通过逐帧去噪和历史增强训练,解决了传统自回归模型在长时间生成时出现的误差累积问题。

和其他视频生成模型比起来,MirageLSD不仅能生成无限长的视频,还能保持画面的时间一致性和高质量输出,这为实时交互应用打下了坚实的基础。

另外,开发团队在高效GPU汇编代码和数学优化上做了不少研究,让模型的运行效率提高了很多。这不仅推动了视频生成技术的发展,还为未来多模态AI模型(像音频、情感、音乐等方面的模型)的发展铺好了路。

视频生成进入新时代

作为AI领域的先行者,MirageLSD的发布无疑给视频生成技术开启了新篇章。它的实时性、无限生成能力和简单的交互特性,会彻底改变内容创作的方式。不管是个人创作者还是大企业,都能靠它获得强大的工具,让创意不再被技术门槛限制。

AIbase觉得,这项技术的广泛应用会加快AI和现实世界的融合,带来更多创新场景。

目前,MirageLSD已经开放试用了,大家可以去官方网站体验一下。以后,Decart AI团队还会推出更多基于MirageLSD的视频模型,涵盖音频、情感、音乐等多模态领域,进一步拓展AI的应用边界。

© 版权声明

相关文章

暂无评论

暂无评论...