CUDA内存复制力对齐
aj3423
我写了一个测试来说明我的问题，该代码尝试将16个字节复制到一个非4字节对齐的内存中，但是dest是自动修改的
#include <cuda.h>
#include <cuda_runtime.h>
#include <stdio.h>
__global__
void Copy128(char *dest,const char *src)
{
((int*)dest)[0]=((int*)src)[0];
((int*)dest)[1]=((int*)src)[1];
((int*)dest)[2]=((int*)src)[2];
((int*)dest)[3]=((int*)src)[3];
}
__global__
void fill_src(char *src)
{
for(int i=0; i<16; i++)
src[i] = i+1; // starts from 1
}
int main()
{
char* dest;
cudaMalloc(&dest, 17);
char* src;
cudaMalloc(&src, 16);
fill_src<<<1, 1>>>((char*)src); // fill some value for debugging
// copy to dest+1 which is not aligned to 4
Copy128<<<1, 1>>>(dest + 1, src);
getchar();
}
如图所示，在VS2013中调试代码，目标内存为0x40A8000 1，但实际上它会复制到0x40A8000 0。
问题是，如果dest与4字节不对齐，它将自动被修改。而且它经过了无提示的修改，我花了数小时才找到此错误。
我知道最好使用对齐良好的内存，但是我正在编写一些rar解压缩程序，先解压缩一些字节，然后再合并一些字节，但它不能总是对齐的。
我想我会在像Copy256这样的函数中使用uint64。记忆是强制对齐的这种正常行为吗？是否有任何可以关闭此功能的编译标志？还是我应该一一复制字节？
环境：CUDA 6.5，Win7-32bit，VS2013
里吉斯·波塔雷斯（Regis Portalez）
-记忆是强制对齐的这种正常行为吗？是：从这里引用：“驻留在全局内存中或由驱动程序或运行时API的内存分配例程之一返回的变量的任何地址始终至少对齐256个字节”。
是否有任何可以关闭此功能的编译标志？我想不是，这可能与硬件有关
还是我应该一一复制字节？如果您处理（非常）未对齐的内存，那么这是避免未对齐存储的唯一选择（如上所述）。但是，您应该尝试（在编译时或在运行时）检测内存操作是否对齐，然后使用手边最宽的加载/存储（int4导致ldg指令），这将为您提供更好的带宽方法）
本文收集自互联网，转载请注明来源。
如有侵权，请联系[email protected] 删除。
编辑于
相关文章
Related 相关文章
- 1
CUDA双指针内存复制
- 2
CUDA是否允许未对齐的固定内存？
- 3
CUDA：固定内存零复制问题
- 4
CUDA：将主机数据复制到共享内存阵列
- 5
Cuda：将主机数据复制到共享内存阵列
- 6
将主机内存复制到cuda __device__变量
- 7
如何使用推力和CUDA流将内存从主机异步复制到设备
- 8
尝试将结构复制到设备内存时CUDA无效参数（cudaMemcpy）
- 9
将指针数组复制到设备内存中并返回（CUDA）
- 10
在Numba中，定位CUDA时如何将数组复制到常量内存中？
- 11
尝试将结构复制到设备内存时CUDA无效参数（cudaMemcpy）
- 12
如何将动态矩阵复制到 CUDA 中的设备内存？
- 13
指向对齐内存的指针
- 14
C ++函数内存对齐
- 15
数组的内存对齐
- 16
未对齐的内存访问
- 17
C ++-对齐内存
- 18
Vulkan 内存对齐要求
- 19
CUDA恒定内存错误
- 20
通过复制将对象传递给 CUDA 内核会调用其析构函数并过早释放内存
- 21
Worklight会话内存复制
- 22
内存重新对齐后重新对齐指针
- 23
CUDA中的地址未对齐
- 24
Cuda全局共享内存和常量内存
- 25
无对齐的malloc或内存池
- 26
Swift 3中的对齐内存
- 27
内存布局，对齐和释放
- 28
错误的内存对齐方式iOS
- 29
无对齐的malloc或内存池
我来说两句