Google宣布基于NVIDIA Ampere A100 Tensor Core GPU在Google Compute Engine上引入了Accelerator-Optimized VM(A2)系列。A2在单个VM中最多可提供16个GPU,并且是公共云中第一个基于A100的产品。
Google设计了A2虚拟机系列,以提高其客户的培训和推理计算性能。A2具有基于新NVIDIA Ampere架构的NVIDIA A-100 Tensor Core图形处理单元。根据博客文章,A-100的计算性能是上一代GPU的20倍,并配备40 GB的高性能HBM2 GPU内存。此外,A2 VM配备多达96个Intel Cascade Lake vCPU,可选的本地SSD,用于需要更快地将数据馈送到GPU和高达100 Gbps网络的工作负载。
当客户的工作负载要求更高时,A2提供带有16个A100 GPU的a2-megagpu-16g实例,其中包括总共640 GB的GPU内存,1.3 TB的系统内存以及通过NVSwitch连接的所有组件,最高可提供聚合带宽为9.6TB / s。
请注意,A2还提供了较小的配置,使客户可以满足他们对GPU计算能力的需求。客户可以选择五种配置,从一到16个GPU,具有两种不同的CPU和网络对GPU的比率-由于Ampere的多实例组(MIG)功能,每个GPU最多可划分为七个GPU实例。。
大型站长资讯类网站! https://www.0718zz.cn