type
status
date
slug
summary
tags
category
icon
password
5.1 全连接神经网络（FC）
1、准则：神经网络中除输入层之外的每个节点都和上一层的所以有节点有连接。
5.2 多分类问题
5.3 softmax与交叉熵
1、softmax函数，又称归一化指数函数。它是二分类函数Sigmoid函数在多分类上的推广，目的是将多分类的结果以概率的形式展现出来。
2、交叉熵是用来衡量两个概率分布的距离（也可以叫差别）。交叉熵数值越小说明两个概率分布越接近
5.4 反向传播算法
5.4.1 链式法则
5.4.2 反向传播实例
5.5 计算机视觉工具包：torchvision
torchvision主要包含：
1、models：提供深度学习中各种经典网络结构以及预训练好的模型，包括AlexNet、VGG系列、ResNet系列、Inception系列等。
2、datasets：提供常用的数据集下载，设计上都是继承torch.utils.data.Dataset，主要包括MNIST、CIFAR10/100、ImageNet、COCO等。
3、两个常用函数：
（1）make_grid，将多张图片拼接成一个网格中
（2）save_img，将Tensor保存成图片
4、transform：提供常用的数据预处理操作，主要包括Tensor及PIL Image对象的操作
对Tensor的操作包括：
（1）Normalize：标准化（减均值，除以标准差）
（2）ToPILImage：将Tensor转为PIL Image对象
对PIL Image的操作包括：
（1）Scale：调整图片尺寸，长宽比保持不变。
（2）CenterCrop、RandomCrop、RandomResizedCrop：裁剪图片
（3）Pad：填充
（4）ToTensor：PIL Image转成Tensor，会自动将[0,255]归一化至[0.1]
5.6 用全连接神经网络实现多分类
5.6.1 定义网络
5.6.2 全连接识别MNIST手写数字
1、导入包，定义超参数：batch_size,learning_rate,num epoches
2、定义带有激活函数和批标准化的网络
3、数据预处理
4、下载数据集
5、导入网络、定义损失函数和优化方法
6、训练网络模型
7、测试网络
课上练习
- 作者:昕昕丶未来不是梦
- 链接:https://pisce.buzz/article/pytorch05
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
