迪士尼彩票乐园时时彩 今天起,汉字也能AI视频生成了!《滕王阁序》径直拿抓到位了


金磊 发自 凹非寺迪士尼彩票乐园时时彩

量子位 | 公众号 QbitAI

“汉字”这个难关,今天终于被AI视频生成给拿下了!

话未几说,咱们径直先来看后果:

这个“福”字,就这么被AI水汪汪地一笔一划滴了出来。

再如底下这个例子,咱们的Prompt是:

有汉字“量子位”,古风。

有汉字“量子位”,古风。

但这么如故略显单调,咱们上一下难度:

赛博一又克格调城市夜景,镜头视角是车辆在马路上行驶,对面大楼楼体有弘大的LED告白牌,上头写着“量子位”三个字。

赛博一又克格调城市夜景,镜头视角是车辆在马路上行驶,对面大楼楼体有弘大的LED告白牌,上头写着“量子位”三个字。

好的,咱们也算是打了一波赛博告白了

张开剩余91%

那么让字数再多少许,AI是否能hold住呢?

咱们径直来挑战一下:

水彩透叠插画格调,三只不同神采的可儿小猫咪手举着一条超大的鱼,从右边走到左边。它们鉴别穿戴粉色、蓝色和黄色的小背心,眼睛圆圆的,情绪呆萌。充满童趣,笔触精雅温馨,简笔画格调。纯白布景上逐渐理会出来几个字体,写着:“摸鱼一天 郁勃庄重”。

水彩透叠插画格调,三只不同神采的可儿小猫咪手举着一条超大的鱼,从右边走到左边。它们鉴别穿戴粉色、蓝色和黄色的小背心,眼睛圆圆的,情绪呆萌。充满童趣,笔触精雅温馨,简笔画格调。纯白布景上逐渐理会出来几个字体,写着:“摸鱼一天 郁勃庄重”。

不错看到,这段视频中天然有一个小漏洞(“摸”字多了一笔),但举座是把Prompt中的实质给复原了出来。

天然,复杂的汉字都能贬责,这个AI天然也不错生成英文单词,况兼如故带“花活儿”的那种(底下还有汉文版):

那么,这到底是何许AI是也?

不卖关子,它就是阿里通义万相刚刚升级的2个新版块视频生成模子:

通义万相2.1极速版:不祥让AI高效、快速地生成视频;

通义万相2.1专科版:更着重AI视频生成的质料。

通义万相2.1极速版:不祥让AI高效、快速地生成视频;

通义万相2.1专科版:更着重AI视频生成的质料。

在举座体验事后,咱们不祥昭彰感受到模子举座性能有了大幅的擢升。

尤其是在处理复杂开通、复原确什物理规章、擢升影视质感以及优化教导治服方面。

据了解,新版通义万相仍是以84.70%的收获登上巨擘评测集VBench榜首的位置,沿路杰出Gen3、Pika、CausVid等国表里视频生成模子。

不外有一说一,能生成汉字,也还仅仅通义万相才调升级的一隅。

接下来,咱们就陆续来看下它在视频生成中的更多才调。

《滕王阁序》都能相识

值得一提的是,这个新升级的模子并不是PPT哦,是仍是上线了的那种~

当今东说念主东说念主都不错在线免费体验了,进口和模子遴荐如下图所示:

要是你是成立者或者企业,还不错在阿里云百真金不怕火上调用API,打造我方的专属应用。

鉴于此前大部分AI视频生成,在处理复杂东说念主物算作时,经常会出现转个身就鬼畜的表象。

咱们就径直来上个难度迪士尼彩票乐园时时彩,超复杂算作——Breaking。

请听Prompt:

在室内,镜头平拍一个异邦须眉跳轰隆舞的全景,须眉身穿灰色的上衣和绿色的裤子,镜头随着须眉的算作而出动,须眉在舞台上进行一系列的翻腾和旋动弹作,布景中不错看到不雅众席上的不雅众和一些疲塌的舞台灯光,但焦点恒久保持在舞者的算作上。

在室内,镜头平拍一个异邦须眉跳轰隆舞的全景,须眉身穿灰色的上衣和绿色的裤子,镜头随着须眉的算作而出动,须眉在舞台上进行一系列的翻腾和旋动弹作,布景中不错看到不雅众席上的不雅众和一些疲塌的舞台灯光,但焦点恒久保持在舞者的算作上。

不错看到,这段AI视频生成一改以往的鬼畜,彩乐园(中国)有限责任公司在如此多且复杂的算作情况下,东说念主物后果依旧是稳稳的。

再来看下跳水开通:

细节如脚背,亦然拿抓的很到位了。

除了在一语气复杂算作进展结识后果以外,复原确什物理规章,亦然评判AI视频生成后果的要道想法之一。

咱们不妨让《滕王阁序》来熟谙一番:

落霞与孤鹜都飞,秋水共长天一色。

落霞与孤鹜都飞,秋水共长天一色。

不丢丑出,通义万相新版块瑕瑜常好地相识了这句诗的田地。

而在濒临像切肉这么的算作时,复原物理规章的体现会愈加昭彰:

切肉时肉块的天然分离、刀面上的镜像、肉底部的油……细节如此,细节如此。

在确实性的基础之上,若念念用AI来打造质料更高的视频后果,那么运镜就是不行或缺的手段之一。

这少许,通义万相亦然不错都备hold住。

举例狐大仙蹦迪,咱们不错来个给氛围狠狠加分的运镜:

像电影场景里跑车在山谷里驰骋的画面,随着汽车的轨迹加复杂运镜亦然不错有的:

除此以外,通义万相还有个本性就是不错拿抓各式格调的类型,颇有种影视级的嗅觉。

举例中叶纪真东说念主写实风:

再如卡通动画:

而且生成的视频尺寸亦然遴荐的哦:

那么接下来的一个问题就是:

怎样作念到的?

举座来看,此次通义万相在时间方面经受了三步走的革命道路。

当先,是VAE与DiT架构协同发力。

到了1月4日的上午,厦门马拉松赛如约进行。

视频VAE不错看作念一位“压缩大师”,擅长将视频中的海量信息进行高效压缩,索求出最为要道的特征。

它通过将视频拆分为多少块(Chunk),并缓存中间特征,取代了传统长视频的端到端编解码方式。

这一联想的要道在于,使显存的使用仅与Chunk大小筹谋,而与原始视频长度无关,从而结束了对无尽长1080P视频的高效编解码。

这种机制为大肆时长视频的考研提供了可行性。执行标明,在较小模子参数下,通义万相VAE结束了业内逾越的视频压缩与重构质料。

而DiT则像是一位“时空捕手”,不祥尖锐地捕捉视频中的时空动态,精确地建模视频中不同元素在时候和空间上的变化相关。

通义万相团队经受了以下优化门径:

时空全注意力机制:增强模子对复杂动态场景的建模才调。

参数分享机制:擢升模子性能的同期,缩短考研老本。

文本镶嵌优化:擢升文本限度才调,并显耀缩短策画需求。

时空全注意力机制:增强模子对复杂动态场景的建模才调。

参数分享机制:擢升模子性能的同期,缩短考研老本。

文本镶嵌优化:擢升文本限度才调,并显耀缩短策画需求。

△通义万相2.1视频生成架构图

其次,是超长序列考研上的破损。

在濒临超长序列考研这一极具挑战性的任务时,通义万相团队隐私地应用了4D并行战术,犹如为模子考研打造了一台超强能源的“引擎”。

这一战术将DP(数据并行)、FSDP( Fully Sharded Data Parallel,全量分片数据并行)、RingAttention(环形注意力机制)、Ulysses(一种优化时间)等多种先进时间有机交融。

举例在显存优化方面,团队凭证序列长度带来的策画和通讯需求,经受分层显存优化战术,解决显存碎屑问题,同期使用FlashAttention3擢升时空注意力的策画服从。

此外,通昔日冗余策画和高效Kernel结束,进一步缩短访存支拨。

在文献系统优化方面,针对阿里云高性能文献系统的本性,团队经受分片Save/Load方式优化数据读写性能,并通舛误峰内存使用决议,解决Dataloader Prefetch、CPU Offloading与Checkpoint存储引起的内存OOM问题。

在结识性擢升方面,依托阿里云的智能调理、慢机检测与自愈才调,模子考研不祥结束自动故障检测与任务重启,大幅擢升考研经由的结识性。

△通义万相4D并行散播式考研战术

终末,是数据与评估双轮启动。

通义万相团队打造了一套自动化数据构建管线,通过优化视觉质料和开通质料,筛选整合与东说念主类偏好散播高度一致的数据集。这些数据具有各种性高、散播平衡等本性,极大擢升了考研服从。

团队还为此联想了一套遮盖好意思学评分、开通分析、教导治服等多个维度的评估体系,并考研了专科的打分器。通过这些自动化想法的响应,显耀加快了模子的迭代与优化。

以上即是真金不怕火成新版通义万相的中枢时间要义了。

至此,不仅是从时间革命方面,更是从真浮现切的体验角度来看,国产Sora再次走到了AI视频限制的前沿。

单就不祥生成汉字这少许,即是民众唯一份的那种。

而从视频生成领域之广,亦然应了“通义万相”的名字——AI仍是到了不错生成“万相”的时刻。

那么你是否也有脑洞灵通的念念法,并念念让它们以视频的方式呈现出来呢?

快来体验一下最新、最Fashion的模子吧~

径直体验进口:

https://tongyi.aliyun.com/wanxiang/videoCreation

API调用:

https://bailian.console.aliyun.com/?spm=5176.29619931.J__Z58Z6CX7MY__Ll8p1ZOR.1.74cd59fckLhf3c#/model-market

参考贯穿:

https://huggingface.co/spaces/Vchitect/VBench_Leaderboard

— 完—迪士尼彩票乐园时时彩

发布于:北京市