效果追上Sora,字节跳动一口气发布两款视频生成模型

来源: 捷克反对党在地方选举中获胜

责任编辑: 殳歆

发布时间: 2024-09-24 21:42:44

0

0

图片来源:字节模型生成视频截图

界面新闻记者 | 肖芳

界面新闻编辑 | 文姝琪

9月24日,字节跳动一口气发布了豆包视频生成-PixelDance、豆包视频生成-Seaweed两款大模型,面向企业市场开启邀测。

目前,新款豆包视频生成模型正在即梦AI内测版小范围测试,未来将逐步开放给所有用户。但从发布会现场展示的视频生成效果来看,无论是语义理解能力,多个主体运动的复杂交互画面,还是多镜头切换的内容一致性,豆包视频生成大模型都表现出不错的效果。

比如,其中一个视频输入是,“特写?个??的面部,有些??,戴上了?副墨镜,这时?个男?从画?右侧?进来抱住了她。”视频画面显示,其不仅遵循了这个复杂指令,还能够按指令的时序去完成连续的动作,两个主体之间也能比较顺畅的进行交互,而且人物表情也比较准确传达了指令所描述的情绪。

而一位提前拿到内测资格的创作者体验生成的视频也显示,其生成的视频不仅能够遵循复杂指令,让不同人物完成多个动作指令的互动,人物样貌、服装细节甚至头饰在不同运镜下也保持一致,接近实拍效果。

一位多模态大模型科学家看完上述创作者使用豆包视频生成的视频后告诉界面新闻,如果demo效果保真的话,豆包视频生成大模型确实是相当不错了。从学术角度或者模型能力角度来说,其肯定达到了Sora的水平,尤其在在人物动作上非常棒。

字节跳动旗下火山引擎总裁谭待在发布会接受界面新闻等媒体采访时透露,豆包系列大模型并不是按照某个固定的时间计划发布的,有好东西就尽快推出。“我们的逻辑是推出的产品要质量可靠,有充分用户反馈,不能是半成品。就像视频和语言模型发布一样,不一定要抢第一,要推出成熟的产品。”

但在一位行业观察人士看来,这个节点一口气发布两款视频生成模型,对字节跳动更大的意义在于“拥有”。Sora发布之后,国内从业者都期待字节跳动能够第一个做出来中国版Sora,最后却是快手第一个做出来了“可灵”,而且效果还不错,字节跳动必然承受了一些压力。

并未过多公布模型技术细节

据界面新闻了解,豆包视频模型支持黑白、3D动画、2D动画、国画、水彩、水粉等多种?格,同时支持1:1、4:3、16:9等多个比例,能够适配电影、电视、电脑、手机等多场景。

相较于可灵等国内其他视频生成模型,豆包视频模型技术细节上略显神秘,并未对外公布太多信息。

此前,快手方面对外公布的信息显示,可灵背后的技术原理和Sora类似,都是把常用于视频生成人工智能的扩散模型与Transformer架构相结合,这有助于其理解更大的视频数据文件并更有效地生成结果。和Sora相比,可灵的一个关键优势是依托于快手短视频平台,数亿用户上传了大量可用于训练可灵的视频数据。

据谭待介绍,豆包视频模型经过剪映、即梦AI等业务场景的持续打磨和迭代,深度优化的Transformer结构,则大幅提升了豆包视频生成的泛化能力。同时,豆包视频生成模型基于DiT架构,让视频在大动态与运镜中自由切换,拥有变焦、环绕、平摇、缩放、目标跟随等多镜头语言能力。

他强调,在镜头切换时可同时保持主体、风格、氛围的一致性是豆包视频生成模型的技术创新所在。

界面新闻从多位大模型从业者处了解到,人物动作是当下视频生成模型共同面临的挑战,Sora做得也不够好。目前,Sora看起来主要还是以运镜和基础动作为主,复杂动作比较差,豆包视频模型生成的demo已经有了明显提升。

但这仅限于豆包视频模型生成demo展现出的水准,几位从业者均表示,实际的水准比较难判断。

谭待在采访中明确表示,这两款视频生成模型并不是期货,字节跳动已经在内测API和应用,预计国庆节后会公开更多API。

已规划视频生成模型商用方向

界面新闻在发布会现场发现,此次前来参加发布会的人多到严控进场的程度,绝大多数参会者都是火山引擎的合作伙伴和对大模型有潜在需求的企业客户。

谭待在发布会现场也向这些合作伙伴和潜在客户介绍了豆包视频生成模型的商用方向,包括电商营销、动画教育、城市文旅、微剧本等企业场景,同时也能为专业创作者和艺术家们提供创作辅助。

这和此前可灵探索的商用方向基本一致,但字节跳动更务实一些。可灵推出后,快手高调推出了由可灵深度参与制作的奇幻微短剧《山海奇镜之劈波斩浪》,并于近日联合李少红、贾樟柯等9位知名导演启动了完全依托视频生成大模型制作电影短片“可灵AI”导演共创计划,试图以此来证明视频生成大模型在影视制作领域的可用性。

从《山海奇镜之劈波斩浪》的探索来看,可灵真正深入参与影视剧制作仍然有较大难度。和外界想象差异较大的是,这部微短剧虽然画面均由AI生成,但整部影片并不是又AI一气呵成,而是使用可灵大模型的文生图和图生视频功能生成了很多时长5秒的分镜头,再由后期剪辑团队人工剪辑而成。从成本降幅来看,其带来的价值也不如外界预期的那么大,整体的降幅不超过四分之一。

豆包视频生成模型的侧重点在于电商营销等对视频内容质量要求相对较低的场景中。在上述多模态大模型科学家看来,从目前各个视频生成模型的能力来看,它们距离商用影视创作有多远还有点难说,但应用在电商营销等场景中已经完全够用。

字节跳动并未在发布会上公布豆包视频生成模型在商用场景的定价。谭待表示,视频模型和语言模型应用场景不同,定价逻辑也不同。要考虑新、老体验和迁移成本,而最终能否广泛应用取决于是否比以前生产力ROI提升很多。

但他强调大模型价格已不再是阻碍创新的门槛。今年5月,豆包大模型公布低于行业99%的定价,引领国内大模型开启降价潮。火山引擎披露的数据显示,截至9月,豆包语言模型的日均tokens使用量超过1.3万亿,相比5月首次发布时猛增十倍,多模态数据处理量也分别达到每天5000万张图片和85万小时语音。

在谭待看来,大模型的应用成本已经得到很好解决,行业要从卷价格走向卷性能,支持更大的并发流量正在成为大模型行业发展的关键因素。

新闻热榜

1

晚退2时收半天房费

2

官方披露马六甲醉驾案详情

3

福建派出所变托儿所

4

黎巴嫩卫生部:过去几日以色列对黎袭击已致82人死亡

5

斯里兰卡全岛实行宵禁

6

以军称对黎巴嫩真主党目标发起新一轮打击黎巴嫩称过去几日以色列对黎袭击已致82人死亡

7

京港两地签署商务领域合作备忘录,共谋多元融合

8

老美智库策动制裁风暴

9

王加文涉拐卖案开庭

10

男孩理发被收4千多

11

从大国制造“上新”看75载跨越——2024世界制造业大会观察

12

9年前国足曾胜沙特

13

莫干山会议:同疆共创携106人共探数字经济新篇章

14

俄抗议被当耳边风,印度卖军火援乌,俄宣布支持巴基斯坦加入金砖

15

黎巴嫩真主党武装对外声明,通"

16

柯文哲遭收押后“小草”回归蓝绿?蔡壁如直言:不太可能

17

冒雨送餐被洪水冲走

18

赖清德最害怕的事发生?韩国瑜这回“立大功”,岛内风向巨变

19

阿根廷中部地区发生6.0级地震

20

温情欢送,梁山农商银行共筑企业文化

21

东莞市壹芯科技有限公司被罚款5000元

22

2024世界制造业大会—工业人工智能与四新经济星烁场景发布(下)

23

捷克反对党在地方选举中获胜

24

一图速览2024服贸会

25

币圈大事件!“前华人首富”赵长鹏即将出狱

26

黎巴嫩爆炸案的寻呼机来自哪里

27

美国仍然对台湾军售武器,国防部发文表"

28

荣成很好以后想留在荣成发展了

29

伊朗报复行动为何迟迟没有开始?别急!群殴大戏即刻上演!

30

新华社评论员:为推进中国式现代化广泛凝心聚力

31

黑龙江伊春市迎来今秋首场降雪,比往年提早近30天

32

丁铎:把中方的克制炒作成“虚张声势”,菲方始终没明白一个道理

33

武汉市政协主席杨智一行莅临武汉黄冈商会走访调研

34

综合检修,保障电力安全供应

35

追逐风和自由#危险动作请勿模仿#机车

36

中国购买大量铀,俄方也百思不得其解,中国在为什么做准备?

37

沈昕副会长出席潘基文基金会北京代表处揭牌仪式并致辞

38

美国施压越南排挤中国公司,如何选择将成为中越关系试金石

39

晚退2时收半天房费

40

在印度遭多人侵犯的西班牙网红吐槽中国厕所,被网友们教训了

20

以军“屋顶抛尸”曝光黎外长:大爆炸迫在眉睫

20

司机暴雨救人被冲走

20

赌石直播仅7名买家

20

突发!埃默里大学校园发生枪击事件!59岁黑人男子被捕……

20

官宣!新乡被确认为大城市

20

江西省委常委、副省长任珠峰,江西省委常委、秘书长陈敏,江西省副省长孙洪山,因佳乐苑小区特别重大火灾事故被问责

20

省管干部任前公示

20

时评|“商业联盟”聚出基层治理大能量

20

温水泡螃蟹骗保4.5万

热门攻略

1

500亿大单,中国突然退场,菲律宾开始慌了,美日迟疑谁来接盘?

2

土耳其安全部队在伊拉克北部打死17名库尔德工人党成员

3

深化融合发展增进同胞福祉(观沧海)

4

参观定点清除真主党高层"

5

娄底召开全市“双随机、一公开”监管工作推进会

6

常文洲任甘肃省庆阳市民政局党组书记

7

为中国式现代化注入“医疗动能”青岛医学学科高质量发展大会举办

8

合肥监测到余震42次

9

新加坡学者马凯硕:拜登政府有些经验教训,孤立中国是行不通的

10

俄罗斯刚刚传来消息!俄罗斯前总统梅德韦杰夫近日被普京直接任命为俄罗斯武装"

11

美国明尼苏达州发生枪击事件致2死3伤

12

青山埋忠骨,浩气励后人。15名烈士迁葬至黔江烈士陵园

13

陈刚吴晓军与中国商飞公司董事长贺东风座谈

14

前任村支书被刺身亡

15

安徽这家酒企,何以连续七年参加世界制造业大会?

16

颐和园别动大爷火了

17

甘肃武山:文明之花处处绽放

18

美国方面证实,几艘俄罗斯军舰已经"

19

曲靖:坚决清除李石松等案带来的“四乱”

20

黎巴嫩通信设备连环爆

20

中国维和营区在黎以冲突中受波及

20

“求饶”已经晚了!朱立伦点名警告,紧要关头,大陆官宣对台重大决定

20

75年75件事·党报版面里的山东印记|2008年:汶川大地震灾后重建山东对口支援北川

20

云南省人大监察和司法委员会原主任委员梁志敏接受纪律审查和监察调查

20

法国总理巴尼耶正式组阁内阁成员名单公布

20

从“农头”到“工尾”玉米丰收背后的产业链有多长?

20

娄星区:强化群防群治深耕基层治理大文章

20

完成了老师定的夏季目标4个900!奖励安迪一下!vlo

20

建行临沂蒙阴支行开展“反假货币宣传月”活动

20

王小洪在全国公安机关视频会议上强调抓紧抓实各项工作措施更好保安全促发展惠民生

20

北京地下水储量连续9年回升!今年汛期形成水资源量超26亿立方米

20

近300员工一夜失业

20

樊振东等23人记大功

20

中欧关税磋商出现新动向,外媒:欧盟可能重审“价格承诺”

20

下台前还“惦记”着中国,拜登召集小圈子开会,扬言要激怒中国

20

关于执行粮食质量国家标准有关问题的规定

20

以色列好大一盘棋!黎巴嫩寻呼机爆炸案,全球追查制造源头,多个国家地区已卷入!

20

京港洽谈会首设京津冀与粤港澳大湾区区域对话合作活动

20

海报丨“豫”丰收撞个满怀

20

黎巴嫩的通讯设备爆炸事件

20

以军被拍到屋顶抛尸

20

三大消息:美大选结局已定?中美关系突然大变?普京火速对华喊话

20

中国的苹果和特斯拉安全吗?

20

美特勤局细述特朗普竞选集会“未遂刺杀”事件安保失败

20

黎巴嫩外长警告:“大爆炸”迫在眉睫

20

特朗普遇刺案最新调查:部分特勤局员工玩忽职守

20

美国总统选举开启提前投票

20

俄外长对中俄结盟的表态,彻底断了一些人的念想

热门游戏

  • 1
    “八女投江”殉难地缅怀英烈

    射击枪战 /热度:72789

    点击下载

    2024感动上海年度人物揭晓,9位个人和2个集体榜上有名

  • 2
    涉美诚月饼有关情况,广州花都区最新通报

    射击枪战 /热度:67904

    点击下载

    前华人首富赵长鹏确认即将出狱!此前被判4个月监禁,身家超2300亿元

  • 3
    济南,济南市气象台首席预报员高帆介绍

    射击枪战 /热度:32148

    点击下载

    厄瓜多尔首都基多发生一起武装袭击事件5人死亡

  • 4
    崩坏3 江苏宜兴回应“6名拟任用干部被标注曾用名”

    射击枪战 /热度:17035

    点击下载

    北京春玉米亩产创下新纪录

  • 5
    原神 富士康为何回到河南,郭正亮:印越的人员素质、基础设施不及大陆

    射击枪战 /热度:58847

    点击下载

    价值超过12亿的象牙,为什么国家缴获后要烧掉?留着卖钱不行吗?

  • 6
    出发吧麦芬 台立法机构蓝白再合作,绿营头疼自己的总预算案无法通过

    射击枪战 /热度:36054

    点击下载

    三大事件引起国际社会的高度关注

  • 7
    永劫无间手游 图知道丨中国农民丰收节:晒晒中国大地好“丰”景

    射击枪战 /热度:97192

    点击下载

    人社局领导包养情妇

  • 8
    向僵尸开炮 猛降!最低14℃!冷空气将强袭蚌埠!

    射击枪战 /热度:69200

    点击下载

    美大选最后关头,共和党大佬集体反水!特朗普公然对华“下战书”

  • 9
    鸣潮 拥抱光产业“三进三退”新机遇

    射击枪战 /热度:27296

    点击下载

    中东bp机爆击让世界各国订单大量涌向我们!品质和要命之间怎么选

  • 10
    艾塔纪元 2023年云花产量居全国第一产值超千亿元

    射击枪战 /热度:11007

    点击下载

    俄军弹药库遭乌无人机袭击引发爆炸

关于我们 | 联系我们 | 加入我们 | 网站地图 | 自助投稿 | 在线举报 | 玩家心声 | 最新咨询 | 游戏声音设计大赛 | 虚拟道具 | 热门游戏推荐 |