腾讯星迈2.0通信效率提升60% LLM训练效率提升20%

来源:网界网 | 2024-07-10 16:38:46

  

  据报道,腾讯通过升级网络性能,显著增强了其高性能计算网络星脉2.0.此举提升了公司的人工智能能力,并提高了大型语言模型(LLM)的训练效率。这一发展与中国为提高其人工智能实力所做的努力相一致,尽管英伟达H100等先进处理器对中国的出货受到限制。

  星迈 2.0 网络在单个计算集群中支持超过 100.000 个 GPU,是 2023 年推出的初始网络容量的两倍。报告称,升级后的星迈2.0网络将网络通信效率提高了60%,LLM训练效率提高了20%。腾讯通过优化现有基础设施而不是投资新处理器来实现这些性能改进,由于美国的出口规则,这些处理器很难(对于中国实体来说几乎不可能)获得。

  腾讯的努力是加强其在中国快速发展的人工智能领域地位的战略举措的一部分。腾讯一直在推广其专有的LLM在企业应用程序中的使用,并提供服务以帮助其他企业开发自己的人工智能模型。

  人工智能行业目前正处于价格战中,阿里巴巴、百度和字节跳动等大公司纷纷降价以推广其人工智能技术。今年5月,腾讯免费发布了Hunyuan LLM的精简版,并降低了标准版的价格。这种有竞争力的定价策略旨在提高其人工智能技术的商业采用率。

相关阅读

每日精选