加载/存储单元Load/Store Unit
加载/存储单元 (Load/Store Unit, LSU) 负责向 GPU 的内存子系统分派加载或存储数据的请求。
H100 流式多处理器(SM)的内部架构图。 加载/存储单元 (Load/Store Units) 与 特殊功能单元 一同以粉色标注。修改自 NVIDIA 的 H100 白皮书。
对于 CUDA 程序员 而言,最重要的是加载/存储单元直接与流式多处理器 (Streaming Multiprocessor) 的片上 SRAM L1 数据缓存 交互,并间接与片外设备上的 全局内存 (global RAM) 交互,这两者分别对应 CUDA 编程模型 (CUDA programming model) 中 内存层次结构 (memory hierarchy) 的最低层和最高层。
英文原文(Modal GPU Glossary)
The Load/Store Units (LSUs) dispatch requests to load or store data to the memory subsystems of the GPU.
. Modified from NVIDIA's H100 white paper.](themed-image://gh100-sm.svg)
Most importantly for CUDA programmers, they interact directly with the Streaming Multiprocessor's on-chip SRAM L1 data cache and indirectly with the off-chip, on-device global RAM that respectively implement the lowest and highest levels of the memory hierarchy in the CUDA programming model.
相关词条
本词条改编自 Modal GPU Glossary(CC BY 4.0)· 中文翻译 miter6/gpu-glossary-zh,MAE 整理排版。