参考性能排名如下：

H100 > H800 > A100 ≈ A800 ≈ L40/L40S > A40 > L20 > A10 ≈ V100 > T4

参考资料

• 性能比较：NVIDIA A100、H100 和 H800 得出结论H100 > H800 > A100
• A100和A800的区别 得出结论A100 > A800
• A100 vs V100 Deep Learning Benchmarks 得出结论A100 > V100
• Comparing NVIDIA A100 and NVIDIA L40S 得出结论L40S≈A100
• NVIDIA A40 Deep Learning Benchmarks 得出结论A40 40G > V100 16G
• NVIDIA Tesla T4 v.s V100 得出结论V100 > T4
• Comparing NVIDIA GPUs for AI: T4 vs A10 得出结论A10 > T4
• NVIDIA-A10-PCIe-vs-NVIDIA-Tesla-V100-PCIe-32-GB A10 V100没有对比结论，根据与其他GPU的比较，暂认为相当
• l20-vs-l40 L20介绍 得出结论L40S > L20
• 京东客服：A40在推理方面的表现强于L20

这些资源将帮助你根据具体的推理任务需求选择最合适的显卡。