NCCL 数据类型 ncclDataType_t 定义及大小说明 - 深入了解 NCCL 数据类型

ncclDataType_t 定义了以下类型：\n1. ncclFloat16：占据 2 个字节，表示半精度浮点数。\n2. ncclFloat32：占据 4 个字节，表示单精度浮点数。\n3. ncclFloat64：占据 8 个字节，表示双精度浮点数。\n4. ncclInt8：占据 1 个字节，表示有符号 8 位整数。\n5. ncclUint8：占据 1 个字节，表示无符号 8 位整数。\n6. ncclInt32：占据 4 个字节，表示有符号 32 位整数。\n7. ncclUint32：占据 4 个字节，表示无符号 32 位整数。\n8. ncclInt64：占据 8 个字节，表示有符号 64 位整数。\n9. ncclUint64：占据 8 个字节，表示无符号 64 位整数。\n\n需要注意的是，这些类型的大小可能会因系统的不同而有所差异。