当前位置： 首页 > news >正文

Softmax 回归 + 损失函数 + 图片分类数据集【动手学深度学习v2】李沐动手学深度学习课程笔记

news 文章来源：https://blog.csdn.net/qq_53826699/article/details/136393219 2025/4/28 8:42:11

目录

Softmax回归

损失函数

图片分类数据集

Softmax回归从零开始实现

Softmax回归简洁实现

Softmax回归

回归和分类的区别

回归问题举例上节课的预测房价问题，分类问题就是对样本进行分类

回归和分类的具体区别

假设真实的类别为第i个类别（值为1），其他类别都是假的（值为0），选择i最大化置信度

置信度的规则

选择i使得置信度远大于其他的类别的置信度

置信度相当于概率

y hat是一个长为n的向量 下面那个公式的操作是使得和为1，也就是说yi hat可以作为概率，两个Y的区别就可以作为损失

softmax的损失函数

softmax回归总结

损失函数

均方损失

蓝色：Y=0时，变化预测值Y’的函数（二次函数）

绿色：似然函数（高斯分布）

橙色：损失函数的梯度（穿过原点的一次函数），决定了如何更新参数

梯度和预测值的相对关系决定了参数更新的变化程度

L1损失函数

蓝色：预测值、绿色：似然函数、橙色：导数

好处：稳定

不好：零点处不可导

综合以上两种损失函数，自己造的完美损失函数

梯度和实际值的相对关系

图片分类数据集

Fashion-MNIST数据集

下载数据集到内存

transforms.totensor() 将图像数据转化为浮点数格式

train=true 下载训练数据集 download=true默认在网上下载

第一张图片的形状 1表示Channel 28x28

打标签、输出图像函数

输出

画两行，每行有九张图片

读取数据

shuffle 决定是否要打乱数据集的顺序

timer用来测试速度（读取数据的速度通常要比模型速度快很多）

下载数据集

resize可以选择把图片变得更大

Softmax回归从零开始实现

softmax是所有深度学习的基础

iter 训练集和测试集的迭代器

拉成向量（会损失信息，可以用卷积神经网络恢复）

矩阵求和

keepdim=true 表示还是二维矩阵 X是一个矩阵

实现softmax

一个实例

实现softmax回归模型

-1表示自动计算（实际表示批量大小）

举个例子

y_hat是预测值

y_hat [ [0,1], y] 拿出对真实标号那个类的预测值

实现交叉熵损失函数

预测类别与真实元素进行比较

评估任意模型的准确率

Accumulator

softmax回归训练

可视化

训练函数

优化损失函数

训练模型

对图片进行分类预测

Softmax回归简洁实现

相关文章：

Softmax 回归 + 损失函数 + 图片分类数据集【动手学深度学习v2】李沐动手学深度学习课程笔记

目录 Softmax回归 损失函数 图片分类数据集 Softmax回归从零开始实现 Softmax回归简洁实现 Softmax回归 回归和分类的区别 回归问题举例上节课的预测房价问题，分类问题就是对样本进行分类 回归和分类的具体区别 假设真实的类别为第i个类别（值为1&#x…...

编程日记 2024/3/9 10:09:01

git 初始化项目并上传到github

如果还没配置过，需要配置账号信息 git config --global user.name "baymax-collab" git config --global user.email "baymax-collabtest.com"创建一个新的存储库 git clone gitgithub.com:xxxx cd test git switch --create main touch READ…...

编程日记 2024/3/9 10:05:58

前端javascript的DOM对象操作技巧，全场景解析

✨✨ 欢迎大家来到景天科技苑✨✨ 🎈🎈 养成好习惯，先赞后看哦~🎈🎈 所属的专栏：前端泛海 景天的主页：景天科技苑 文章目录 1.js的DOM介绍2.节点元素层级关系3.通过js修改，清空节点…...

编程日记 2024/3/9 10:03:56

TCP包头、TCP为什么安全可靠、UDP和TCP的区别、http协议

我要成为嵌入式高手之3月8日Linux高编第十八天！！ __________________________________________________ 学习笔记 TPC包头 1、序号 发送端发送数据包的编号 2、确认号 已经确认接收到的数据的编号，只有当ACK为1时，该位才有用 …...

编程日记 2024/3/9 10:00:52

Android使用WebView打开内嵌H5网页

Android打开外部网页链接请参考上一篇文章 https://public.blog.csdn.net/article/details/136384559 继上篇，新建assets文章夹，将H5的网页资源放到此文件夹下 把H5的资源文件都拷进来 这个时候，将添加打开本地网页的代码： //打…...

编程日记 2024/3/9 9:59:51

UDP实现文件的发送、UDP实现全双工的聊天、TCP通信协议

我要成为嵌入式高手之3月7日Linux高编第十七天！！ ———————————————————————————— 回顾 重要程序 1、UDP实现文件的发送 发端： #include "head.h"int main(void) {int sockfd 0;struct sockaddr_i…...

编程日记 2024/3/9 9:55:47

Yocto - Project Quick Build

欢迎光临！ 这篇简短的文档将向您介绍使用 Yocto 项目构建典型镜像的过程。本文还介绍了如何为特定硬件配置构建。您将使用 Yocto Project 构建一个名为 Poky 的参考嵌入式操作系统。 Welcome! This short document steps you through the process for a typical i…...

编程日记 2024/3/9 9:53:45

深入探讨C++中的可变参数列表（Variadic Templates）

文章目录 导言可变参数列表的基本用法使用std::initializer_list应用场景 导言 在C编程中，处理可变数量参数的能力是一种非常有用的功能。通过可变参数列表，你可以编写更加通用和灵活的函数，从而提高代码的可读性和重用性。本文将详细介绍C中…...

编程日记 2024/3/9 9:49:40

MS2548 国产自动方向控制、半双工 RS-485 收发器 替代MAX13487

MS2548 国产自动方向控制、半双工 RS-485 收发器 替代MAX13487 北京冠宇铭通科技有限公司 肖小姐 产品简述 MS2548 是一个 5V 供电、半双工 RS-485 收发器。 芯片具有自动换向控制功能，可用于隔离485 端口，驱动器输入与使能信号一起配合控制芯片的状态&…...

编程日记 2024/3/9 9:47:38

数据库大师之路：Oracle在线学习平台全指南！

介绍数据库是由甲骨文公司开发的一款关系数据库管理系统（RDBMS），在数据库领域具有领先地位，并且以其系统可移植性而闻名。以下是对Oracle数据库的详细介绍： 市场地位：Oracle数据库是目前世界上流行的关系数…...

编程日记 2024/3/9 9:46:37

如何在Windows系统部署Jellyfin Server并实现公网访问内网影音文件

文章目录 1. 前言2. Jellyfin服务网站搭建2.1. Jellyfin下载和安装2.2. Jellyfin网页测试 3.本地网页发布3.1 cpolar的安装和注册3.2 Cpolar云端设置3.3 Cpolar本地设置 4.公网访问测试5. 结语 1. 前言 随着移动智能设备的普及，各种各样的使用需求也被开发出来&…...

编程日记 2024/3/9 9:43:34

华为北向网管NCE开发教程（3）CORBA协议开发

华为北向网管NCE开发教程（1）闭坑选接口协议 华为北向网管NCE开发教程（2）REST接口开发 华为北向网管NCE开发教程（3）CORBA协议开发 如果你真的还有选择的余地，能用REST，尽量用REST&…...

编程日记 2024/3/9 9:42:33

【算法训练营】最长公共子序列，倒水问题，奶牛吃草（Python实现）

最长公共子序列 时间限制：1 sec 空间限制：256 MB 问题描述 给定两个 1 到 n 的排列 A,B （即长度为 n 的序列，其中 [1,n] 之间的所有数都出现了恰好一次）。 求它们的最长公共子序列长度。 输入格式 第一行一个整数 n &a…...

编程日记 2024/3/9 9:41:32

Armadillo：矩阵类、向量类、Cube类和泛型类

文章目录 矩阵类、向量类、Cube类和泛型类Mat<type>matcx_matCol<type>veccx_vecRow<type>rowveccx_rowvecCube<type>cubecx_cubefield<object_type>SpMat<type>sp_matsp_cx_mat运算符&#xff1a; − * % / &#xff01; < > <…...

编程日记 2024/3/9 9:40:30

【守护健康】小脑萎缩患者必备营养指南

当生活给予我们挑战&#xff0c;我们选择用科学和关爱予以回应。面对小脑萎缩这一难题&#xff0c;正确的营养补充不仅是一剂强心针&#xff0c;更是患者康复之路上的坚实伙伴。今天&#xff0c;让我们一起了解那些能够助力小脑萎缩患者的神奇维生素&#xff01; 1. 维生素B群…...

编程日记 2024/3/9 9:36:26

lvs集群中NAT模式

群集的含义 由多台主机构成&#xff0c;但对外表现为一个整体&#xff0c;只提供一个访问入口&#xff0c;相当于一台大型的计算机。 横向发展:放更多的服务器&#xff0c;有调度分配的问题。 垂直发展&#xff1a;升级单机的硬件设备&#xff0c;提高单个服务器自身功能。 …...

编程日记 2024/3/9 9:35:25

FPGA——三速自适应以太网设计（2）GMII与RGMII接口

FPGA——以太网设计&#xff08;2&#xff09;GMII与RGMII 基础知识&#xff08;1&#xff09;GMII&#xff08;2&#xff09;RGMII&#xff08;3&#xff09;IDDR GMII设计转RGMII接口跨时钟传输模块 基础知识 &#xff08;1&#xff09;GMII GMII:发送端时钟由MAC端提供 下…...

编程日记 2024/3/9 9:33:24

【校园导航小程序】2.0版本 静态/云开发项目 升级日志

演示视频 【校园导航小程序】2.0版本 静态/云开发项目 演示 首页 重做了首页&#xff0c;界面更加高效和美观 校园指南页 新增了 “校园指南” 功能&#xff0c;可以搜索和浏览校园生活指南 地图页 ①弃用路线规划插件&#xff0c;改用SDK开发包。可以无阻通过审核并发布…...

编程日记 2024/3/9 9:31:22

深入揭秘Lucene：全面解析其原理与应用场景（二）

本系列文章简介&#xff1a; 本系列文章将深入揭秘Lucene&#xff0c;全面解析其原理与应用场景。我们将从Lucene的基本概念和核心组件开始&#xff0c;逐步介绍Lucene的索引原理、搜索算法以及性能优化策略。通过阅读本文&#xff0c;读者将会对Lucene的工作原理有更深入的了解…...

编程日记 2024/3/9 9:29:20

Java中synchronized关键字、ReentrantLock、volatile关键字是如何实现线程同步的。

在Java中&#xff0c;synchronized关键字、ReentrantLock和volatile关键字这三个是编程中常用于实现线程同步的机制&#xff0c;下面结合代码详细说明一下这三个关键字的用法。 1. synchronized关键字&#xff1a; synchronized关键字是Java语言提供的内置锁机制&#xff0c;…...

编程日记 2024/3/9 9:26:17

路由拦截器

路由拦截可以分为几种不同的类型&#xff0c;每种类型都有其特定的作用和适用场景。以下是常见的几种路由拦截类型及其用途&#xff1a; 身份验证拦截器&#xff1a; 作用&#xff1a; 检查用户是否已经登录或具有有效的身份认证&#xff0c;并根据认证状态决定是否允许用户访问…...

编程日记 2024/3/9 9:24:16

Springboot+vue的物业管理系统（有报告）。Javaee项目，springboot vue前后端分离项目。

演示视频&#xff1a; Springbootvue的物业管理系统&#xff08;有报告&#xff09;。Javaee项目&#xff0c;springboot vue前后端分离项目。 项目介绍&#xff1a; 本文设计了一个基于Springbootvue的物业管理系统&#xff0c;采用M&#xff08;model&#xff09;V&#xff…...

编程日记 2024/3/9 9:23:15

STM32的启动流程分析 和 一些底层控制的原理

阅读引言&#xff1a; 阅读本文之后&#xff0c; 你将对单片机&#xff0c; 甚至是嵌入式系统&#xff0c; 或者是传统的PC机系统的启动流程有一个大致的了解&#xff0c; 本文更加偏向于单片机的启动流程分析。 目录 一、基础知识 1.STM32系列的微控制器&#xff08;mcu&…...

编程日记 2024/3/9 9:22:14

C#面：几种注释类型

三种常见的注释类型&#xff1a;单行注释、多行注释和 XML 注释。 单行注释&#xff1a; 以双斜线 // 开头&#xff0c;用于在一行中注释单个语句或代码块。单行注释会被编译器忽略&#xff0c;不会对程序的执行产生任何影响。 例如&#xff1a; // 这是一个单行注释 int a…...

编程日记 2024/3/9 9:21:13

#onenet网络请求http(GET,POST)

参考博文&#xff1a; POST: https://blog.csdn.net/qq_43350239/article/details/104361153 POST请求&#xff08;用串口助手测试&#xff09;&#xff1a; POST /devices/1105985351/datapoints HTTP/1.1 api-key:AdbrV5kCRsKsRCfjboYOCVcF9FY Host:api.heclouds.com Con…...

编程日记 2024/3/9 9:20:12

零基础学习JS--基础篇--索引集合类

数组是由名称和索引引用的值构成的有序列表。 JavaScript 中没有明确的数组数据类型。但是&#xff0c;你可以使用预定义的 Array 对象及其方法来处理应用程序中的数组。Array 对象具有以各种方式操作数组的方法&#xff0c;例如连接、反转和排序。它有一个用于确定数组长度的…...

编程日记 2024/3/9 9:17:10

【硬件工程师面经整理25_AD】

文章目录 1 AD设计电路全流程2 ad和cadence区别-逻辑上的区别 1 AD设计电路全流程 软件AD or 模拟数字&#xff1f; 软件AD&#xff1a;AD设计电路全流程包括以下步骤&#xff1a;选择AD库和添加、画原理图、PCB布局、PCB布线、PCB打样、PCB加工 模拟数字&#xff1a; 需求分…...

编程日记 2024/3/9 9:14:07

神经网络的矢量化，训练与激活函数

我们现在再回到我们的神经元部分&#xff0c;来看我们如何用python进行正向传递。 单层的正向传递&#xff1a; 我们回到我们的线性回归的函数。我们每个神经元通过上述的方法&#xff0c;就可以得到我们的激发值&#xff0c;从而可以继续进行下一层。 我们用这个方法就可以得…...

编程日记 2024/3/9 9:12:05

3.7号freeRtoS

1. 串口通信 配置串口为异步通信 设置波特率&#xff0c;数据位&#xff0c;校验位&#xff0c;停止位&#xff0c;数据的方向 同步通信 在同步通信中&#xff0c;数据的传输是在发送端和接收端之间通过一个共享的时钟信号进行同步的。这意味着发送端和接收端的时钟需要保持…...

编程日记 2024/3/9 9:09:03

瑞芯微 | I2S-音频基础 -1

最近调试音频驱动&#xff0c;顺便整理学习了一下i2s、alsa相关知识&#xff0c;整理成了几篇文章&#xff0c;后续会陆续更新。 喜欢嵌入式、Li怒晓得老铁可以关注一口君账号。 1. 音频常用术语 名称含义ADC&#xff08;Analog to Digit Conversion&#xff09;模拟信号转换…...

编程日记 2024/3/9 9:02:58