pytorch中每个tensor都有三个特性:torch.dtype, torch.device和torch.layout.
torch.dtype
数据类型
torch.device
torch.device包含device的名称(‘CPU’或’GPU’)以及设备序号。
1.torch.cuda.set_device() 参数为device或其序号。一般不建议使用,改变device最好设置CUDA_VISIBLE_DEVICES环境参数。
2.torch.cuda.current_device() 返回当前cuda的序号
3.torch.device()参数形式 torch.device(‘cpu’) torch.device(‘cuda: 0’) torch.device(‘cuda’, 1) 如:cuda1 = torch.device(‘cuda’, 0),之后可以直接在别的方法里使用cuda1作为设备参数。
torch.layout
torch.layout是tensor的内存布局(memory layout),即tensor在内存中的排列方式,目前有两种torch.strided(用于dense tensor)和torch.sparse_coo(稀疏,beta版)。 torch.strided记录的是第k维的下一个元素需要在内存中跳跃几个元素的空间
|