(责任编辑：admin)

　　火山引擎機器學習平台面向專業開發者,將經過字節跳動億級DAU産品打磨的大規模訓練系統和推理系統對外开放。平台基于超大算力池、资源池化、针对训练优化的资源调度引擎,能够大幅提升资源利用率,实现GPU碎片率0%。业务上云或迁移过程中,无需修改镜像、代码和数据。全自研BytePS分布式训练框架,性能超主流训练框架Horovod/DDP高达84%,全自研veGiantModel大模型训练框架,相比主流模型并行训练框架Megatron、DeepSpeed提升30%以上。

　　此外,火山引擎在彈性計算實例之上,構建了一站式企業級雲原生機器學習平台,爲機器學習應用開發者提供高效、穩定的數據處理及加速、模型訓練、模型推理等服務,極致提升GPU資源利用率和開發者體驗。

　　在過去幾年中,AI模型規模不斷增大,對于算力的需求也以指數級別快速提升。火山引擎的彈性計算産品通過不斷叠代來滿足雲上各行各業的客戶的需求,從基于NVIDIA A30 Tensor Core GPU的推理加速實例 ini2,到基于NVIDIA A100 Tensor Core GPU面向多機多卡訓練場景的超級計算 hpcpni2實例,當前火山引擎提供的産品覆蓋人工智能的各種負載,很好的服務了字節搜索、推薦等內部客戶,以及各種外部客戶。

　　火山引擎和NVIDIA在过去几年里已开展了深入合作,并在自然语言处理、深度推荐系统、计算视觉等领域卓有成效。火山引擎团队和NVIDIA团队一致表示:非常期待双方的合作能继续往纵深發展,共同推進新一代加速計算浪潮。

　　火山引擎采用的新一代基于NVIDIA H100 Tensor Core GPU彈性計算HPC實例將在 GPU的內存帶寬、GPU與CPU的通信速度以及全精度範圍內AI計算性能等方面,都會有全面的大幅提升,並且面向AI語言模型、生物制藥、基因工程、自動駕駛等諸多領域提供更具有性價比的實例産品。

火山引擎xNVIDIAH100全面提升AI算力 中国校园演讲网,中国新密网,中国信息分类网,北京富婆网 时间：2022-05-10 来源：未知 作者：未知 阅读：983 次

　　近日,字节跳动旗下的企业级技术服务平台火山引擎宣布将在弹性计算服务和机器学习平台上采用NVIDIA最新推出的基于 Hopper架构的 H100 Tensor Core GPU,助力火山引擎上的广大企业级客户大幅提升人工智能算力性能。

　　火山引擎的新一代弹性计算HPC实例和机器学习平台,将为企业客户提供更好的AI算力性能,不断提升客户体验。未来,火山引擎将继续与合作伙伴共同开发新产品,为所有云用户提供更多包容性的 AI计算能力。