pytorch關於Tensor的資料型別說明

2022-07-15 18:00:56

關於Tensor的資料型別說明

1. 32位元浮點型：torch.FloatTensor

a=torch.Tensor( [[2,3],[4,8],[7,9]], )
print "a:",a
print "a.size():",a.size()
print "a.dtype:",a.dtype
 
b=torch.FloatTensor( [[2,3],[4,8],[7,9]] )
print "b:",b
print "b.shape:",b.shape
print "b.dtype:",b.dtype

可以看出 torch.FloatTensor 是32位元float型別，並且torch.Tensor預設的資料型別是32位元float型別。

2. 64位元浮點型：torch.DoubleTensor

b=torch.DoubleTensor( [[2,3],[4,8],[7,9]] )
print "b:",b
print "b.shape:",b.shape
print "b.dtype:",b.dtype

3. 16位元整型：torch.ShortTensor

b=torch.ShortTensor( [[2,3],[4,8],[7,9]] )
print "b:",b
print "b.shape:",b.shape
print "b.dtype:",b.dtype

4. 32位元整型：torch.IntTensor

b=torch.IntTensor( [[2,3],[4,8],[7,9]] )
print "b:",b
print "b.shape:",b.shape
print "b.dtype:",b.dtype

5. 64位元整型：torch.LongTensor

b=torch.LongTensor( [[2,3],[4,8],[7,9]] )
print "b:",b
print "b.shape:",b.shape
print "b.dtype:",b.dtype

6. 快速建立Tensor

（1） torch.zeros()

a=torch.zeros( size=(4,5),dtype=torch.float32 )
print a
print a.shape
print a.dtype

（2） torch.randn()

a=torch.randn( size=(4,5),dtype=torch.float32 )
print a
print a.shape
print a.dtype

7. Tensor索引方式，參考numpy

8. Tensor和numpy陣列轉換：

（1） Tensor轉numpy，

a=torch.randn( size=(4,5),dtype=torch.float32 )
print a
print a.shape
print a.dtype
 
b= a.numpy()
print b
print b.shape
print b.dtype

（2） numpy轉Tensor，

a=np.random.randn(4,3)
print a
print a.shape
print a.dtype
 
b=torch.from_numpy( a )
print b
print b.shape
print b.dtype

9.更改Tensor的資料型別，

a=torch.FloatTensor( (3,2) )
print a
print a.shape
print a.dtype
 
a.int()
print a
print a.shape
print a.dtype

10. GPU加速，如果pytorch支援GPU加速，可以加Tensor放到GPU執行，

if torch.cuda.is_available():
    a_cuda = a.cuda()

pytorch Tensor變形函數

view(), resize(), reshape() 在不改變原tensor資料的情況下修改tensor的形狀，前後要求元素總數一致，且前後tensor共用記憶體

如果想要直接改變Tensor的尺寸，可以使用resize_()的原地操作函數。

在resize_()函數中，如果超過了原Tensor的大小則重新分配記憶體，多出部分置0，如果小於原Tensor大小則剩餘的部分仍然會隱藏保留。

transpose()函數可以將指定的兩個維度的元素進行轉置，而permute()函數則可以按照給定的維度進行維度變換。

在實際的應用中，經常需要增加或減少Tensor的維度，尤其是維度為1的情況，這時候可以使用squeeze()與unsqueeze()函數，前者用於去除size為1的維度，而後者則是將指定的維度的size變為1。

有時需要採用複製元素的形式來擴充套件Tensor的維度，這時expand就派上用場了。

expand()函數將size為1的維度複製擴充套件為指定大小，也可以使用expand_as()函數指定為範例Tensor的維度。

注意：在進行Tensor操作時，有些操作如transpose()、permute()等可能會把Tensor在記憶體中變得不連續，而有些操作如view()等是需要Tensor記憶體連續的，這種情況下需要使用contiguous()操作先將記憶體變為連續的。在PyTorch v0.4版本中增加了reshape()操作，可以看做是Tensor.contiguous().view()