【深度学习系列】——Fashion-MNIST 数据集简介
图像分类数据集(Fashion-MNIST )
1、数据集简介
不同于MNIST⼿写数据集,Fashion-MNIST数据集包含了10个类别的图像,分别是:t-shirt(T恤),trour(⽜仔
裤),pullover(套衫),dress(裙⼦),coat(外套),sandal(凉鞋),shirt(衬衫),sneaker(运动鞋),bag(包),ankle boot(短靴)。
2、获取数据集
1、torchvision包
torchvision包,是服务于PyTorch深度学习框架的,主要⽤来构建计算机视觉模型。
torchvision主要由以下⼏部分构成:1、torchvision.datats:⼀些加载数据的函数及常⽤的数据集接⼝;2、dels :包含常⽤的模型结构(含预训练模型),例如AlexNet、VGG、ResNet等;3
、ansforms :常⽤的图⽚转换,例如裁剪、旋转等;4、torchvision.utils :其他的⼀些有⽤的⽅法
2、下载数据集
下⾯,我们通过torchvision的torchvision.datats包来下载这个数据集。第⼀次调⽤时会⾃动从⽹上获取数据。我们通过参数train 来指定获取训练数据集或测试数据集(testing data t)。测试数据集也叫测试集(testing t),只⽤来评价模型的表现,并不⽤来训练模型。另外,我们还指定了参数transform=transform.ToTensor()使所有数据转换为Tensor ,如果不进⾏转换则返回的是PIL图⽚。transform=transform.ToTensor()中transform.ToTensor()将尺⼨为()且数据位于(0,255)的PIL图⽚或者数据类型为np.uint8的Numpy数组转换为尺⼨为()且数据类型为torch.float32且位于(0.0,1.0)的Tensor 。其中,C为通道个数(如果图像是灰⾊的,则C=1;如果图像是彩⾊的,则C=3);H为图像⾼度;W为图像宽度。
import torch
import torchvision
import torchvision .transforms as transforms
resignmentimport matplotlib .pyplot as plt
import time
from IPython import display
mnist_train = torchvision .datats .FashionMNIST (root ='~/Datats/FashionMNIST', train =True , download =True , transform =transforms .ToTensor ())mnist_test = torchvision .datats .FashionMNIST (root ='~/Datats/FashionMNIST', train =Fal , download =True , transform =transforms .ToTensor ())
3、查看数据集光滑
上⾯的mnist_train 和mnist_test 都是torch.utils.datadatats 的⼦类,所以我们可以⽤len()来获取该数据集的⼤⼩,还可以⽤下标来获取具体的⼀个样本。训练集和测试机中的每⼀个类别的图像数分别为6000和1000。因为有10个类别,所以训练集和测试集的样本数分别为60000和10000。
#数据集⼤⼩
print (type (mnist_train ))
社区翻译
print (len (mnist_train ), len (mnist_test ))
moutain topH ∗W ∗C C ∗H ∗W
march怎么读<class ‘ist.FashionMNIST’>
60000 10000我们可以通过⽅括号[]来访问任意⼀个样本,下⾯获取第⼀个样本的图像和标签。
feature , label = mnist_train [0]
print (feature .shape , feature .dtype ) # Channel x Height X Width
print (label )
torch.Size([1, 28, 28]) torch.float32
9变量feature 对应⾼和宽均为28像素的图像。每个像素的数值为0到255之间8位⽆符号整数(uint8)。它使⽤三维的NDArray 存储。其中的最后⼀维是通道数。因为数据集中是灰度图像,所以通道数为1。为了表述简洁,我们将⾼和宽分别为和像素的图像的形状记为或(h ,w )。保育员培训
4、图像可视化显⽰
1、⾸先定义⼀个函数,根据数值标签获取字符串标签:
Fashion-MNIST中⼀共包括了10个类别,分别为t-shirt(T恤)、trour(裤⼦)、pullover(套衫)、dress(连⾐裙)、
coat(外套)、sandal(凉鞋)、shirt(衬衫)、sneaker(运动鞋)、bag(包)和ankle boot(短靴)。以下函数可以将数值标签转成相应的⽂本标签。
# 本函数已保存在d2lzh_pytorch 包中⽅便以后使⽤
def get_fashion_mnist_labels (labels ):
text_labels = ['t-shirt', 'trour', 'pullover', 'dress', 'coat',
'sandal', 'shirt', 'sneaker', 'bag', 'ankle boot']
return [text_labels [int (i )] for i in labels ]
2、定义函数,⼀个可以在⼀⾏⾥画出多张图像和对应标签的函数:
# 本函数已保存在d2lzh_pytorch 包中⽅便以后使⽤
def show_fashion_mnist (images , labels ):
display .t_matplotlib_formats ('svg')#⽤⽮量图进⾏展⽰
# 这⾥的_表⽰我们忽略(不使⽤)的变量
_, figs = plt .subplots (1, len (images ), figsize =(12, 12))
for f , img , lbl in zip (figs , images , labels ):
f .imshow (im
g .view ((28, 28)).numpy ())
f .t_title (lbl )
f .axes .get_xaxis ().t_visible (Fal )
f .axes .get_yaxis ().t_visible (Fal )
plt .show ()
3、应⽤
现在,我们看⼀下训练数据集中前9个样本的图像内容和⽂本标签。
X , y = [], []
for i in range (10):
X .append (mnist_train [i ][0])
y .append (mnist_train [i ][1])
show_fashion_mnist (X , get_fashion_mnist_labels (y ))
h w h ×w
5、读取⼩批量数据
在以后的深度学习模型中,优化参数时经常会⽤到⼩批量梯度下降(深度学习常称为随机梯度下降)算法,因此我们需每次读取⼩批量数据来进⾏每次迭代与更新。
我们将在训练数据集上训练模型,并将训练好的模型在测试数据集上评价模型的表现。前⾯说过,上⾯的mnist_train都
是torch.utils.datadatats的⼦类,所以我们可以将其传⼊torch.utils.data.DataLoader来创建⼀个读取⼩批量数据样本的DataLoader实例。
在实践中,数据读取经常是训练的性能瓶颈,特别当模型较简单或者计算硬件性能较⾼时。PyTorch的DataLoader中⼀个很⽅便的功能是允许使⽤多进程来加速数据读取。这⾥我们通过参数num_workers来设置4个进程读取数据。
import sys
batch_size =256#⾃⼰设定值⼤⼩
if sys.platform.startswith('win'):情人节英语>欺诈猎人主题曲
num_workers =0# 0表⽰不⽤额外的进程来加速读取数据
el:
num_workers =4
train_iter = torch.utils.data.DataLoader(mnist_train,batch_size=batch_size, shuffle=True,num_workers=num_workers)
test_iter = torch.utils.data.DataLoader(mnist_test,batch_size=batch_size, shuffle=Fal,num_workers=num_workers)
我们将获取并读取Fashion-MNIST数据集的逻辑封装在d2lzh_pytorch.load_data_fashion_mnist函数中供后⾯章节调⽤。该函数将返
回train_iter和test_iter两个变量。随着本书内容的不断深⼊,我们会进⼀步改进该函数。它的完整实现将在⼀节中描述。
最后我们查看读取⼀遍训练数据需要的时间。
start = time.time()
for X, y in train_iter:
continue
'%.2f c'%(time.time()- start)
‘7.92 c’
【完整代码】:
#导⼊所需包
import torch
import torchvision
ansforms as transforms
import matplotlib.pyplot as plt
import time
import sys
from IPython import display
#1、下载数据集
mnist_train = torchvision.datats.FashionMNIST(root='~/Datats/FashionMNIST', train=True, download=True, transform=transforms.ToTensor()) mnist_test = torchvision.datats.FashionMNIST(root='~/Datats/FashionMNIST', train=Fal, download=True, transform=transforms.ToTensor()) # 2、查看数据集⼤⼩及单个样本,⽅便设定参数
print(type(mnist_train))
print(len(mnist_train),len(mnist_test))
feature, label = mnist_train[0]
print(feature.shape, feature.dtype)# Channel x Height X Width
print(label)
#3、将数据集的数值标签转换为⽂本标签
# 本函数已保存在d2lzh_pytorch包中⽅便以后使⽤
def get_fashion_mnist_labels(labels):
text_labels =['t-shirt','trour','pullover','dress','coat',
'sandal','shirt','sneaker','bag','ankle boot']
return[text_labels[int(i)]for i in labels]
# 4、同⼀⾏画出图⽚和标签,可视化
# 本函数已保存在d2lzh_pytorch包中⽅便以后使⽤
def show_fashion_mnist(images, labels):
display.t_matplotlib_formats('svg')#⽤⽮量图进⾏展⽰
# 这⾥的_表⽰我们忽略(不使⽤)的变量
_, figs = plt.subplots(1,len(images), figsize=(12,12))
for f, img, lbl in zip(figs, images, labels):
f.imshow(im
g.view((28,28)).numpy())
f.t_title(lbl)
_xaxis().t_visible(Fal)
_yaxis().t_visible(Fal)
plt.show()
# 5、查看部分样本并可视化
X, y =[],[]
for i in range(10):
X.append(mnist_train[i][0])
y.append(mnist_train[i][1])
show_fashion_mnist(X, get_fashion_mnist_labels(y))
# ⼩批量读取数据
batch_size =256
吻合的意思if sys.platform.startswith('win'):
num_workers =0# 0表⽰不⽤额外的进程来加速读取数据
el:
num_workers =4
train_iter = torch.utils.data.DataLoader(mnist_train,batch_size=batch_size, shuffle=True,num_workers=num_workers)
skiptest_iter = torch.utils.data.DataLoader(mnist_test,batch_size=batch_size, shuffle=Fal,num_workers=num_workers)
参考资料: