您现在的位置是：首页 > 云计算 >
省钱、高效、兼容性 腾讯云的三板斧
2024-09-06 17:20:35作者：于帆来源：
摘要大模型的爆发与应用需求的激增，推动云市场的火热。庞大的计算需求、定制需求、硬件市场的波动，要求智算服务既有高效综合能力，也具备个性 ...
大模型的爆发与应用需求的激增，推动云市场的火热。庞大的计算需求、定制需求、硬件市场的波动，要求智算服务既有高效综合能力，也具备个性化服务水准，双线并进释放AI生产力。
云市场头部厂商的大动作，无疑是行业发展的风向标。9月5日，腾讯云发布AIinfra品牌“腾讯云智算”，这个集算、存、网、数于一体的高性能智算底座，整合了系列腾讯云产品，展示出强大的智算产品能力。
云计算市场的竞争越发白热化，即使头部厂商也竭尽全力。此轮重磅发布，背后藏着哪些行业发展趋势？腾讯又将如何建立优势？系列产品的整合，能给市场带来足够的新鲜感吗？
AI技术的瞬息万变，也带动着智算行业日新月异。普遍认为，AI大模型会成为云市场增量的最大动力。智算在拼什么，等同于问AI缺什么。
首先，大模型的参数规模正在迅速增长。随着参数规模从百亿到千亿，再到万亿，大模型对高性能计算、网络和存储的需求也越来越高。并且，大模型的参数规模还在持续增加。
其次，全球芯片供应不稳定，国产芯片崛起，大模型企业的选择更多，因此智算平台的多样性适配问题更为凸显，需要支持、兼容多种芯片。
再次，应用场景扩展。AI的应用场景正在从互联网行业向金融、医疗、教育、交通等多个行业扩展。每个行业都有其特定的需求，这要求智算产品能够提供定制化的解决方案。
最后，数据安全和合规性已成国内行业选择AI服务的重要考量因素。很多企业必须在本地数据中心处理数据。这种私有化部署需求是智算产品的重要机会。
对AI行业变革的敏感程度，决定了云厂商能否站稳一线。产品的实际能力，则是高手较量的直接决定因素。
产品发布是品牌秀肌肉的关键时刻，腾讯云智算的产品力，总结起来就是高效、省钱、兼容性三板斧。
在性能数据上，腾讯云智算表现强势。整合了大量腾讯云优势产品的腾讯云智算，提供了算、存、网、数一体化的巨无霸综合解决方案，在计算能力、数据处理能力和存储能力三大维度上颇为亮眼。
提到计算能力，首先想到的自然是高性能GPU的数量。但光GPU的纸面实力强大是不够的。腾讯云副总裁沙开波接受《中国信息化周报》记者采访时表示，GPU的训练效率也很重要。GPU之间高效互联才能充分利用算力。对诸多国产芯片而言，训练效率也是弥补其与国际一流芯片性能差距的利器。
此次腾讯云发布的智算产品矩阵，重点凸显其高效属性。高性能网络IHN星脉网络拥有超过3.2T带宽的高速网络，性能媲美英伟达的IB网络，但成本降低30%。结合星脉网络，HCC高性能集群能够为客户提供超100小时的连续稳定的AI模型训练环境。高性能并行文件存储TurboFs，支持千卡集群的并发读写。高性能加速框架TACO性能则领先业界1.5~2.5倍。
TACO技术研发负责人叶帆解释道，TACO的性能优势直观体现在帮助大模型服务提高吞吐和降低延迟。在TACO加速引擎的支持下，相同的硬件设备上能够处理的Token数量显著增加。吞吐的提升没有以牺牲延迟为代价，相反Token（词元，自然语言处理过程中用来表示单词或短语的符号）的平均处理时间大大降低，不仅提升响应效率和用户体验，LLM（大模型）部署的成本也随之大幅降低。
高效和省钱在腾讯云智算产品上达到了和谐统一。沙开波分享了一个典型案例。某大模型客户，在采用腾讯云智算的解决方案后，其千卡规模的计算集群成本降低约2000万元。
此外，腾讯云智算的多芯兼容策略，踩在了行业发展的风口。当前的芯片市场对公有云的兼容性要求较高，产品能否在多种硬件环境下运行，或将成为衡量云厂商能力的硬标准。
云厂商对着AI市场摩拳擦掌，大模型对云营收的拉动真的会如想象中强势吗？
沙开波对此表示乐观。AI对云计算的推动趋势是确定的。以腾讯云智算的客户群体为参考样本，模型需求目前占据主流。模型厂商，互联网企业，以及自动驾驶、金融、教育等诸多行业，都在积极探索AI和大模型的应用创新。尽管生成式AI目前仍处于快速发展阶段，商业化应用也还在探索初期，但长期来看，AI领域必将达到一个关键点，引发显著的增长和应用爆发。
智算市场仍有巨大蓝海等待探索。目前国内存在智算资源供需差异的问题。沙开波指出，这是因为部分智算中心存在硬件和软件不匹配的问题，导致服务能力受限。算、存、网、数一体化的场景，需要算、存、网、数一体化的综合解决方案。腾讯云智算在这种情况下很有发挥空间。
此外，对数据安全和合规性有较高要求的客户对私有云和专有云的需求正在快速攀升。这种私有化部署的需求将为智算产品提供新的使用场景和增长机会。
大模型时代的发展方向，即云市场的发展方向。用户对性能、性价比、兼容性的需求，催生出多芯兼容、灵活部署、性能提升的腾讯云智算产品能力。腾讯云智算是云市场发展的缩影，也是高分答案。
(本文不涉密)责任编辑：
转载：感谢您对网站平台的认可，以及对我们原创作品以及文章的青睐，非常欢迎各位朋友分享到个人站长或者朋友圈，但转载请说明文章出处。
