导读 今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单,其中字节今年向英伟达订购了超过10亿美元的GPU,还有另一家大公司的...
今年春节后,拥有云计算业务的中国各互联网大公司都向英伟达下了大单,其中字节今年向英伟达订购了超过10亿美元的GPU,还有另一家大公司的订单也至少超过10亿元人民币。
一位接近英伟达的人士称,字节跳动目前已经到货和没到货的A100与H800加速卡总计有10万块。其中H800今年3月才开始投产。据晚点透露,仅字节跳动一家公司今年的订单可能已接近英伟达去年在中国销售的商用GPU总和。
一名字节人士透露,字节在2020年6月GPT-3发布后曾借助V100计算卡训练过一个数十亿参数的生成式语言大模型,但由于参数规模有限,这个模型生成能力一般,字节当时看不到它的商业化可能性故不了了之。
另一位阿里云人士表示阿里也曾在2018-2019年积极采购GPU,当时阿里的采购量至少达到上万块规模,包括V100和T4计算卡,其中约十分之一送到了达摩院用作AI技术研发,这也用在了2021年发布的万亿参数大模型M6中。
消息人士提到,字节、阿里等大公司主要是和英伟达直接谈采购,因为代理商和二手市场难以满足其庞大需求,而英伟达会按目录价,根据采购规模给出一定的折扣。