分类问题
分类问题
问题描述
机器学习中有监督学习主要分为回归问题和分类问题,回归问题希望预测的结果是连续的,为什么不能用之前线性回归的方法来处理分类问题呢?答案其实是可以,不过我们在计算损失函数时需要对预测值远远偏离真实值的对象进行打击。理由也很简单,因为这些过大的偏差会使我们的回归结果向减小这类偏差的方向 ...
模型的保存与加载
模型的保存与加载
保存与加载整个模型的结构信息和参数信息
torch.save(model,'./model.pth')load_model=torch.load('model.pth')
保存与加载整个模型的参数信息
torch.save(model.sta ...
GPU加速与可视化
GPU与可视化
Gpu加速
GPU加速
device=torch.device('cuda:0')net=MLP.to(device)对应数据也需要加入.to(device)或者使用data.cuda()
.item():取tensor中的值
Visdom可视化
tensorbo ...
线性模型
线性模型
问题描述
通俗点讲,就是给一堆点,找到一条直线使所有点到直线的距离之和最小。数学描述是给定由d个属性描述的示例 ${\bf x}=(x_1,x_2,…,x_d)$,其中$x_i$表示第i个属性上的取值,线性模型试图学得一个通过属性线性组合来进行预测的函数:
$$
f(x)=w_1x_1+ ...
激活函数与loss函数
激活函数
$$
y=f(\sum_{i=1}^nw_ix_i+b)
$$
此f()为激活函数,输入为前一层所有输出的加权和再加上一个偏执b
sigmoid
$$
f(x)=\sigma(x)=\frac{1}{1+ e^x}\
$$
$$
\frac{\partial f(x)}{\partial ...
过拟合与欠拟合
过拟合与欠拟合
欠拟合:训练集和测试集的acc都很差 可以适当增加模型复杂度再测试
过拟合:使用模型复杂度高于实际数据模型复杂度 训练多次后training acc很好,test acc效果不好 泛化能力变差
交叉验证
每训练多少次做一次test,只保存test acc 最好的模型
overfitt ...
Tensor基本运算
Tensor基本运算
矩阵相乘
torch.mm:只适合矩阵 dim=2情形
torch.matmul:适用任何形式
@:简便写法
>>>a=torch.rand(4,784)>>>x=torch.rand(512,784)>>>(a@x.t() ...
Tensor数据类型
Pytorch
本学习笔记基于【深度学习Pytorch入门】5天从Pytorch入门到实战!PyTorch深度学习快速入门教程 150全集 绝对通俗易懂(深度学习框架/神经网络)_哔哩哔哩_bilibili
Tensorflow:静态图优先
Pytorch:动态图优先
Tensor数据类型
数据类型 ...
mathjax基本语法
mathjax基本语法
1.基本语法
1.1显示公式
行内公式:$公式$
文内公式:单独一行
$$公式$$
1.2 特殊字符
1.2.1 希腊字符
显示
命令
显示
命令
显示
命令
α
\alpha
β
\beta
υ
\upsilon
γ
\gamma
δ
\delta
ϕ
\ ...