特殊功能单元Special Function Unit
流式多处理器 (Streaming Multiprocessors, SMs) 中的特殊功能单元 (Special Function Units, SFUs) 可加速特定算术运算。
H100 流式多处理器(SM)的内部架构图。特殊功能单元以褐红色显示,与加载/存储单元 (Load/Store Units)一起展示。修改自 NVIDIA 的 H100 白皮书。
对于神经网络工作负载而言,最值得注意的是超越数学运算,例如 exp、sin 和 cos。
与特殊功能单元相关的 流式汇编器 (Streaming Assembler, SASS) 指令通常以 MUFU 开头:MUFU.SQRT、MUFU.EX2。有关使用 MUFU.EX2 指令在 CUDA C++ 中实现 expf 内置函数的示例汇编代码,请参阅 此 Godbolt 链接。
英文原文(Modal GPU Glossary)
The Special Function Units (SFUs) in Streaming Multiprocessors (SMs) accelerate certain arithmetic operations.
. Modified from NVIDIA's H100 white paper.](themed-image://gh100-sm.svg)
Notable for neural network workloads are transcendental mathematical operations, like exp, sin, and cos.
The Streaming Assembler (SASS) instructions associated with the SFUs generally begin with MUFU: MUFU.SQRT, MUFU.EX2. See this Godbolt link for sample assembly using the MUFU.EX2 instruction to implement the expf intrinsic in CUDA C++.
相关词条
本词条改编自 Modal GPU Glossary(CC BY 4.0)· 中文翻译 miter6/gpu-glossary-zh,MAE 整理排版。