根据Nvidia的官方消息，在AWS运行NVIDIAGPU十周年之际，AWS使用新的A100发布了AmazonEC2P4d实例。 IT Home了解到，现在完全可用的新AWSP4d实例使用最新的NVIDIAA100TensorCoreGPU。 A100计算卡使用7纳米制程GA100GPU，它具有6912个CUDA内核和432张量内核。 GPU封装尺寸为826mm2，并集成了540亿个晶体管。 Nvidia表示，新的P4d实例在AWS上为机器学习培训和高性能计算应用程序提供了最高性能和成本效益的GPU平台。与默认的FP32精度相比，新示例将FP16机器学习模型的训练时间减少了多达3倍，将TF32机器学习模型的训练时间减少了多达6倍。这些示例还提供了出色的推理性能。 NVIDIA A100GPU在最近的MLPerfInference基准测试中是性能最高的，其性能比CPU快237倍。每个P4d实例具有八个内置的NVIDIAA100GPU。通过AWSUltraClusters，客户可以使用AWS的ElasticFabricAdapter（EFA）和AmazonFSx提供的可扩展高性能存储来按需和可扩展地同时访问4,000多个GPU。 P4d提供了一个400Gbps的网络，并通过使用NVLink，NVSwitch，NCCL和GPUDirectRDMA等NVIDIA技术进一步加快了深度学习培训的工作量。 EFA上的NVIDIAGPUDirectRDMA可以通过GPU在服务器之间传输数据，而无需通过CPU和系统内存，从而确保了低网络延迟。