浏览位置:财富头条网 > 财经

?Sora还没来,但腾讯版?Sora来了

时间:2024年12月04日 12:31   来源:证券之星   浏览量:5495   

距离OpenAI发布文生视频模型Sora已经过去了10个月,但至今Sora尚未对公众开放,仅面向少数专业人士进行内测。

这10个月,也给了其他国内外头部模型厂商追赶的时机,海外的Runway、Luma、Pika,国内的快手可灵、字节即梦、智谱清影相继发布文生视频模型。

12月3日,腾讯混元大模型带着最新的文生视频功能来了,并开源视频生成大模型HunYuan-Video,该模型参数量达130亿,这是当前最大的视频开源模型。

目前,HunYuan-Video已向公众和企业开放试用申请。

腾讯混元相关负责人告诉经济观察网,HunYuan-Vieo生成的单个视频最长时长为5秒,在标准模式下生成一个视频所需时间为120秒。

HunYuan-Vieo不仅能实现文生视频模型的基础能力,比如生成画面符合提示词、流畅、不易变形等,而且具备一些独特的能力。尤其是,HunYuan-Vieo能够在保持画面主角不变的情况下,自动切换镜头,这是目前业界大部分文生视频模型不具备的能力。

为了达到这些独特的能力,腾讯混元进行了专项能力的微调,包括画质、高动态、艺术镜头、手写、转场和连续动作六个方面。

腾讯混元相关负责人介绍,在生成某个指定画面上,国内外文生视频模型目前的成功率都不太高,用户需要多次“抽卡”,才能得到一个满意的画面。与相对成熟的文生图相比,文生视频的能力还在比较早期阶段。

他进一步解释原因,一方面是因为视频生成的门槛较高、技术难度大。“文生图只需要一次出一张图,而文生视频,以HunYuan-Video为例,平均帧率为129帧/秒,每一帧画面都要精准、流畅,这其实非常难。”

另一方面,文生视频开源社区还不够繁荣。开源能促进模型的发展,对于独立开发者和开源社区是一个1+1远大于2的事。这也是腾讯混元系列模型坚持开源的重要原因。

相比之下,图像生成开源社区里已经汇集了较多的独立开发者,他们依托开源模型,制作了丰富的插件、小模型等,部分也具有应用与商业价值。

开源是腾讯混元系列模型一以贯之的做法。从年初以来,腾讯已经开源了文生文、文生图和3D生成大模型。此次HunYuan-Vieo开源背后的成本或更高,腾讯混元相关负责人表示,视频生成模型所需的算力和数据消耗量,与图像生成模型之间具有指数级的差距。

据介绍,HunYuan-Vieo首个版本主要有4大特色:一是画质偏写实,二是进行大幅度动作时仍具有流畅性,三是能够理解复杂文本以及进行多主体交互;四是支持原生转场,主体保持直出的同时多镜头切换。

这背后的技术原理主要有4点:

一是建立一套超大规模数据处理系统,其中涵盖了图像和视频数据混合处理,以及文字检测、转景检测、美学打分、动作检测、动作打分、准确度检测、清晰度检测等;

二是引入多模态大语言模型作为文本编码器,能提升文生视频模型对复杂文本的理解能力;

三是采用自研的全注意力DiT,在做到更大参数的同时,也带来更高性能。这种全注意力机制模仿了人类注意力机制,在数据处理时只集中于最相关的部分,忽略其他可见的信息,能够让文生视频模型保持主体一致的前提下,进行多镜头切换;

四是采用自研图像视频混合VAE提升模型细节表现,重点优化人脸占总画面的比例太小,以及高速镜头下人脸模糊、画面抖动等问题。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

推荐内容
  • 国家文物局:扎实做好西夏陵、景德镇、三星堆申遗和潜力项目培育

    人民网北京9月26日电(记者韦衍行)9月24日,全国世界文化遗产工作会议在京召开。记者在会上了解到,国家文物局将启动“中国世界文化遗产保护提升专项行动”,加强世界文化遗产的整体性、系统性保护。同时,要持续推进申遗,扎实做好西夏陵、景德镇、三...

  • 丝绸之路沿线壁画传摹展亮相巴黎

    嘉宾在展览上参观。新华社记者高静摄本报电  (闻逸)由中国艺术研究院和法国巴黎中国文化中心主办的“丝路丹青——丝绸之路沿线壁画传摹展”日前亮相巴黎中国文化中心。展览展出23件石窟寺壁画临摹作品,是中国艺术研究院自2016...

  • 诗意中国丨城头月出照凉州

    7月9日,演员在武威西凉大剧院表演大型沉浸式情景舞台剧《天马行》。“弯弯月出挂城头,城头月出照凉州。凉州七里十万家,胡人半解弹琵琶。”这是唐代诗人岑参笔下的凉州城繁华景象。位于甘肃河西走廊东端的武威市古称“凉州”。武威历史悠久,西汉设置武威...

  • 水利部答人民网记者问:科学精细调度重大水利工程 最大程度减少了灾害损失

    记者提问。水利部供图人民网北京9月26日电(欧阳易佳)水利部日前召开水利基础设施建设进展和成效新闻发布会,水旱灾害防御司司长姚文广答人民网记者问时表示,今年水旱灾害防御形势严峻复杂。入汛以来,我国洪水南北齐发、频发、重发,长江、黄河、淮河、...

  • 安徽滁州绿色食品产业暨名优农产品对接上海销往全球

    安徽滁州市农业农村局携手上海市滁州商会,7月6日在上海宣布,定于7月20日在上海闵行区白金汉爵酒店3楼大厅举办的“滁州市绿色食品产业推介暨名优农产品上海展销对接会”,将是国内外的经贸界的交流合作大会。本次对接会以“促进产业发展、提升民生褔祉...

  • 滁州上海携手,绿色食品产业暨名优农产品迈向国际

    7月20日,滁州市绿色食品产业推介暨名优农产品上海展销对接会,在上海举办,通过政府统筹、商会引领、市场发力,82家滁州优质特色农产品的领军企业,现场牵线对接500多家国内外客商,交友、交流、交易,共同以饱满的内生动力和创新活力,促进城乡要素...