NVIDIA使用一个术语“计算能力”(computer capability)来描述整个Tesla系列GPU加速器的硬件版本。主要区分不同的架构,早期架构的计算能力不一定比新架构的计算能力强。
使用NVCC编译时,Gencodes(’‘)后带arch和code参数。arch标志(’‘)指定了CUDA文件将被编译的英伟达(NVIDIA®)GPU架构名称,code标志(’‘)指定了GPU算力。例如 (’‘)
以下是 NVIDIA GPU 架构名称及其算力对照表:FermiKeplerMaxwellPascalVoltaTuringAmpereAdaHopperBlackwellsm_20sm_30sm_50sm_60sm_70sm_75sm_80sm_89sm_90sm_95sm_35sm_52sm_61sm_72(Xavier)sm_86sm_90a (Thor)sm_37sm_53sm_62sm_87 (Orin)
注:从 CUDA 9 和 11 开始,Fermi 和 Kepler 已被弃用;自 CUDA 11.6 起,Maxwell 已被弃用;
cat compute_ability.cu
A100上运行结果:
从CUDA 9开始,kepler架构已被弃用,CUDA10开始完全停止支持.SM20 -> –GeForce 400, 500, 600, GT-630. **
从CUDA 11开始,kepler架构已被弃用.SM30 -> –Kepler 架构 (e.g. generic Kepler, GeForce 700, GT-730).SM35 -> –Tesla K40.SM37 -> –Tesla K80.
从CUDA 11开始,Maxwell架构已被弃用.SM50 -> –Tesla/Quadro M 系列.SM52 -> –Quadro M6000 , GeForce 900, GTX-970, GTX-980, GTX Titan X.SM53 -> –Tegra (Jetson) TX1 / Tegra X1, Drive CX, Drive PX, Jetson Nano.SM60 or –Quadro GP100, Tesla P100, DGX-1 (Generic Pascal)SM61 or –GTX 1080, GTX 1070, GTX 1060, GTX 1050, GTX 1030 (GP108), GT 1010 (GP108) Titan Xp, Tesla P40, Tesla P4, NVIDIA Drive PX2SM62 or –NVIDIA Drive PX2, Tegra (Jetson) TX2SM70 or –DGX-1 with Volta, Tesla V100, GTX 1180 (GV104), Titan V, Quadro GV100SM72 or –Jetson AGX Xavier, Drive AGX Pegasus, Xavier NXSM75 or –GTX/RTX Turing – GTX 1660 Ti, RTX 2060, RTX 2070, RTX 2080, Titan RTX, Quadro RTX 4000, Quadro RTX 5000, Quadro RTX 6000, Quadro RTX 8000, Quadro T1000/T2000, Tesla T4SM80 or –NVIDIA A100 (“Tesla” 命名从此代开始停用 – GA100), NVIDIA DGX-A100SM86 or – (CUDA 11.1 onwards)Tesla GA10x cards, RTX Ampere – RTX 3080, GA102 – RTX 3090, RTX A2000, A3000, RTX A4000, A5000, A6000, NVIDIA A40, GA106 – RTX 3060, GA104 – RTX 3070, GA107 – RTX 3050, RTX A10, RTX A16, RTX A40, A2 Tensor Core GPUSM87 or – (CUDA 11.4 onwards, 采用 PTX ISA 7.4 / 驱动程序 r470 及更新版本)- 该项仅适用于 Jetson AGX Orin 和 Drive AGX Orin“与计算能力为 8.0 的设备相比,计算能力为 8.6 的设备每个 SM 每个周期的 FP32 操作量增加了 2 倍。虽然为 8.0 编译的二进制文件可以在 8.6 上原样运行,但建议明确为 8.6 进行编译,以便从增加的 FP32 吞吐量中获益。.“https://docs.nvidia.com/cuda/ampere-tuning-guide/index.html#improved_fp32SM89 or –NVIDIA GeForce RTX 4090, RTX 4080, RTX 4070, RTX 4060, RTX 6000 Ada, Tesla L40, L40s Ada, L4 AdaSM90 or –NVIDIA H100 (GH100), NVIDIA H200SM90a or – (适用于 PTX ISA 8.0 版)- 为 wgmma 和 setmaxnreg 等功能添加了加速功能。英伟达™(NVIDIA®)CUTLASS 需要此功能。SM95 or –NVIDIA B100 (GB100)
ref:
NVIDIA GPU 架构与 CUDA 算力