Backprop是一家为AI流程提供GPU云服务的供应商,最近展示了使用基于Open-SoraV1.2的环境生成的AI视频。该公司展示了四个使用不同提示的示例,结果通常质量一般。但即使是这些相对温和的样本,对硬件的要求也相当高。
根据该公司的博客文章,“在3090上,你可以生成高达240p和4s的视频。高于该值会占用比卡更多的内存。生成2s视频大约需要30秒,生成4s视频大约需要60秒。”对于仅有424x240的输出来说,这是一个相当不错的计算能力——四秒的视频总共有近一千万像素。
NvidiaRTX3090曾经是市面上最强大的GPU,现在仍然非常强大。它配备24GBGDDR6X内存,这是许多复杂AI工作负载的关键元素。虽然对于任何现代游戏来说,这已经足够了,在容量上与较新的RTX4090相匹配,但它仍然是OpenSora视频生成的一个限制因素。目前,在显卡中获得更多VRAM的唯一方法是转向专业硬件或数据中心硬件。
单个NvidiaH100PCIeGPU可以拥有高达94GB的HBM2e内存,而较新的仅支持SXM的NvidiaH200(配备HBM3e)可以拥有高达141GB的内存。除了其巨大的容量(是顶级消费级GPU的三倍多)之外,这些数据中心GPU还具有更高的内存带宽,美光的下一代HBM3计划实现2TB/s。H100PCIe适配器目前的零售价约为30,000美元,但授权经销商可能会以略低的价格出售。
你可以直接从Nvidia购买配备48GB内存的NvidiaRTX6000AdaGeneration,价格要合理得多,为6,800美元。这是任何消费级GPU的VRAM的两倍,可能足以生成高达512x512的视频,尽管视频仍然相对较短。
另外还有H100NVL,但双GPU版本单独出售有点难。不过,Newegg有一台Supermicro双GraceHopper服务器,售价75,000美元,可为您提供186GB的共享VRAM。然后你就可以开始制作720p视频内容了。
显然,购买上述任何GPU的最大缺点是价格。单个RTX4090的起价为1,599美元,对于大多数消费者来说,这是一大笔钱。专业GPU的价格是这个数字的四倍,而数据中心AIGPU的价格可能是这个数字的20倍。H100确实面临来自英特尔和AMD的竞争,但英特尔的Gaudi预计仍将售价超过15,000美元,而AMD的MI300X售价在10,000至15,000美元之间。还有搜狐,据说它比H100快20倍,但目前尚未上市。
即使你有足够的现金,你也不能直接走进最近的PC商店购买大多数GPU。H100的大宗订单从付款到送货上门需要两到三个月的时间。也不要忘记电源要求。H100的PCIe版本仍然可以消耗350W的电力,因此如果它全天候生成视频,每年的耗电量约为3MWh——大约300美元/年,考虑到硬件的价格,这并不多。启动和运行
OpenSora可能也不是一件容易的事,特别是如果你想在非Nvidia解决方案上运行它。而且,与许多其他AI生成器一样,还有大量版权和合理使用问题尚未得到解答。但即使拥有最好的硬件,我们怀疑制作任何史诗电影仍需要比人工智能生成器更多的东西。