设备硬件 · LSU

加载/存储单元Load/Store Unit

加载/存储单元 (Load/Store Unit, LSU) 负责向 GPU 的内存子系统分派加载或存储数据的请求。

H100 流式多处理器(SM)的内部架构图。 加载/存储单元 (Load/Store Units) 与 特殊功能单元 一同以粉色标注。修改自 NVIDIA 的 H100 白皮书

对于 CUDA 程序员 而言,最重要的是加载/存储单元直接与流式多处理器 (Streaming Multiprocessor) 的片上 SRAM L1 数据缓存 交互,并间接与片外设备上的 全局内存 (global RAM) 交互,这两者分别对应 CUDA 编程模型 (CUDA programming model)内存层次结构 (memory hierarchy) 的最低层和最高层。

英文原文(Modal GPU Glossary)

The Load/Store Units (LSUs) dispatch requests to load or store data to the memory subsystems of the GPU.

. Modified from NVIDIA's H100 white paper.](themed-image://gh100-sm.svg)

Most importantly for CUDA programmers, they interact directly with the Streaming Multiprocessor's on-chip SRAM L1 data cache and indirectly with the off-chip, on-device global RAM that respectively implement the lowest and highest levels of the memory hierarchy in the CUDA programming model.

相关词条

本词条改编自 Modal GPU Glossary(CC BY 4.0)· 中文翻译 miter6/gpu-glossary-zh,MAE 整理排版。