显卡中的cache的用途是什么？

跳海自殺的鱼

是不是减少核心和显存之间的延迟？

Lancelot365

跟CPU的cache差不多吧

玉清

以CUDA的角度来看N卡的cache，是各有作用.
包括一个block内所有thread的数据的共享（shared memory）；
类似于CPU cache功能（或者是寄存器）的寄存器存储器，还有纹理存储器和固定存储器 等等.

coding的时候根据不同的变量作用范围，共享程度，要求的速率，变量大小等等因素综合的决定这个变量该放到什么存储器上.

Edison

GPU 里的 cache 都是 read only 的，而且尺寸相比 CPU 来说都很小。

例如 texture cache，一般是用于 texture filtering，这个操作符合局部性原则。

CUDA 里的 shared memory 不是 cache，只是一个 banked SRAM，作为 cuda thread block 内中间结果的存放点。

玉清

E大大的意思是说GPU里面的cache只能算固定存储器和纹理存储器两种？

shared memory不是显存，也不是cathe，而是专门在GPU里面的一种独有的存储器了？

E大的意思是这个吗？

Edison

GPU 里的 cache 一般也就是 Texture Cache、Instruction Cache、Constant Cache。Constant Cache 是指常数 Cache，不是"固定存储器"。

CUDA 里的 shared memory 本来就是指 G80+ 每个 SM 内的那块 16KB scratch-pad。

玉清

Instruction Cache
这个名字很陌生，E大能详细解释一下这个吗？
对应在CUDA里面是叫什么名字？
存放在里面的变量又有些什么特性呢？
谢谢.

玉清

额，constant memory翻译过“固定存储器”里面我在部分中文档案看到是这样子翻译，所以偶也一般这样子称呼Ta.

Edison

Instruction Cache 就是指令 Cache。

coolkecool

进来学习了，好专业啊

jeffdyf

太专业了

跳海自殺的鱼

cache和SRAM有什么区别吗？请大大们解释下，怎么感觉有点类似。。。

kady

4870和260的cache分别是多少？

deathwaltz

完全正确

jxysy

学习学习！

Edison

不完全一样，CPU 的 cache 是 R/W 的，GPU 目前还是 read only。

panjanstoneborg

DX11说要可写,对不对?

Edison

DX11 Compute Shader 没有要求 R/W cache，但是要求提供 shared register，相当于 NVIDIA 的 shared memory、AMD 的 local data Store。

Lancelot365

学习了