当前位置： 首页 > news >正文

DataWhale - 吃瓜教程学习笔记（一）

news 2026/2/8 0:54:47

学习视频：第1章-绪论_哔哩哔哩_bilibili
西瓜书对应章节： 第一章 & 第二章

文章目录

  • 机器学习三观
    • What：什么是机器学习？
    • Why: 为什么要学机器学习？
        • 1. 机器学习理论研究
        • 2. 机器学习系统开发
        • 3. 机器学习算法迁移 （AI+）
        • 4. AI 应用方向研究：NLP, CV, 推荐系统
    • How: 怎样学习深度学习？
        • - 纯理论研究
        • - 系统的开发
        • - 算法迁移 （AI for Science)
        • - AI 应用方向研究
  • 基础核心知识概念
        • 假设空间 & 版本空间
        • 算法
        • 样本（示例）
        • 标记
        • 样本空间 & 标记空间
        • 机器学习任务分类 （根据标记取值类型不同）
        • 机器学习任务分类 （根据是否用到标记信息）
        • 数据集
        • 泛化
        • 分布
        • 归纳偏好
  • 数据决定模型的上限，算法则是让模型无限逼近上限
        • - 数据决定模型的上限
  • 模型评估与选择
    • - 经验误差与过拟合
        • - 精度
        • - 训练误差 & 泛化误差
        • - 过拟合
        • - 欠拟合
    • - 评估方法
        • - 留出法
        • - 交叉验证法
        • - 自助法
        • - 验证集
    • 性能度量
        • - 均方误差
        • - 错误率
        • - 精度
        • - 查准率 & 查全率
        • - F1 度量
        • - ROC 曲线
        • - 代价敏感错误率 & 代价曲线
        • - 比较检验
          • - 假设检验
        • - 交叉验证T检验
        • - McNemar 检验
        • - Friedman 检验 和 Nemenyi 后续检验
        • - 偏差与方差

机器学习三观

What：什么是机器学习？

关键词：“学习算法”

Why: 为什么要学机器学习？

1. 机器学习理论研究
2. 机器学习系统开发
3. 机器学习算法迁移 （AI+）
4. AI 应用方向研究：NLP, CV, 推荐系统

How: 怎样学习深度学习？

- 纯理论研究
- 系统的开发

1C6PR5L3A4ALU899PL%6V.png

- 算法迁移 （AI for Science)
- AI 应用方向研究

基础核心知识概念

假设空间 & 版本空间

假设空间定义了所有可能的解决方案；版本空间则是在考虑了训练数据后，认为可能正确的解决方案的集合

算法

从数据中学得模型的“具体方法”，其产出结果称为“模型”

样本（示例）

关于一个事件或对象的描述。用向量进行表示，向量中的各个维度称为“特征”或“属性“。向量中的元素用分号 “;” 表示为列向量，用逗号 ","表示为行向量。

标记

学习样本在某方面的表现存在潜在规律的的信息。

样本空间 & 标记空间

所有可能的输入数据或特征向量的集合；
所有可能的输出标签或目标值的集合

机器学习任务分类 （根据标记取值类型不同）
  • 标记取值为“离散型”， 任务为 分类
  • 标记取值为 “连续型”， 任务为 回归
机器学习任务分类 （根据是否用到标记信息）
  • 训练阶段有用到标记信息，此类任务为 “监督学习”
  • 训练阶段没用到标记信息，此类任务为 “无监督学习”
数据集
  • 通常用集合表示
  • 一般同一份数据集中的每个样本都含相同个数的特征
  • 样本 x i j x_{ij} xij​ 表示样本 x i x_i xi​ 在第 j 个属性上的取值
泛化

模型对未在训练过程中见过的数据进行准确预测的能力

分布

概率论中的概率分布。

归纳偏好

不同的机器学习算法有不同的偏好

  • 最常用的评价方法是 - 基于模型在测试集上的表现评判模型的优劣。
  • 机器学习算法没有绝对的优劣之分，只有是否适合当前待解决问题之分。
  • 没有免费的午餐定理（NFL)：众算法生而平等（哪个算法训出来的模型在测试集上表现好哪个算法 nb）。

数据决定模型的上限，算法则是让模型无限逼近上限

- 数据决定模型的上限

数据是指从 数据量 和 特征工程 两个角度考虑

  • 通常数据量越大模型效果越好
  • 通常对特征数值化越合理，特征收集越全越细致，模型效果通常越好

模型评估与选择

- 经验误差与过拟合

- 精度
- 训练误差 & 泛化误差

训练集上的误差；新样本上的误差

- 过拟合
- 欠拟合

image.png

- 评估方法

- 留出法

直接将数据集划分为 数据集 和 测试集 。

  • 训练集和测试集要尽量保证数据分布的一致性
  • 采用采样类别比例相似的 分层采样 。
- 交叉验证法

先将数据集划分为 k 个互斥子集，尽可能保持数据分布的一致性，然后以 k-1 个子集的并集作为训练集，余下子集作为测试集，进行k次训练测试，最终返回训练结果的均值。

image.png

  • 有m个数据，令 k = m，则为 留一法 。
- 自助法

可重复有放回采样。

  • 训练集的数量会增多
  • 有可能会改变数据集的分布
- 验证集

对模型进行评估测试的数据集。

性能度量

- 均方误差

image.png

image.png

- 错误率

分类错误样本数占样本总数的比例。

image.png

- 精度

分类正确的样本数占样本总数的比例。

image.png

- 查准率 & 查全率

image.png

image.png

- F1 度量

image.png

- ROC 曲线

image.png

image.png

image.png

- 代价敏感错误率 & 代价曲线

image.png

X轴 -
image.png

Y轴 -
image.png

image.png

- 比较检验
- 假设检验

image.png

image.png

- 交叉验证T检验
- McNemar 检验

image.png

image.png

- Friedman 检验 和 Nemenyi 后续检验

image.png

- 偏差与方差

image.png

  • 偏差 度量了 学习算法的期望预测与真实结果的偏离程度，刻画了学习算法本身的拟合能力
  • 方差 度量了同样大小的训练集的变动导致的学习性能的变化，刻画了数据扰动造成的影响
  • 噪声 表达了当前任务上任何学习算法所能达到的期望泛化的误差的下界，刻画了学习问题本身的难度
  • 泛化性能是由 学习算法的能力、数据的充分性、学习任务本身的难度 共同决定的。为了取得良好的泛化性能，需要使得方差、偏差都较小。

image.png

image.png

相关文章：

DataWhale - 吃瓜教程学习笔记（一）

学习视频：第1章-绪论_哔哩哔哩_bilibili 西瓜书对应章节： 第一章 & 第二章 文章目录 机器学习三观What：什么是机器学习？Why: 为什么要学机器学习？1. 机器学习理论研究2. 机器学习系统开发3. 机器学习算法迁移 &…...

编程日记 2024/6/20 4:35:43

Attention Is All You Need论文地址

论文地址 点击即可...

编程日记 2024/6/20 4:33:40

如何优雅的一键下载OpenHarmony活跃分支代码？请关注【itopen: ohos_download】

itopen组织：1、提供OpenHarmony优雅实用的小工具2、手把手适配riscv qemu linux的三方库移植3、未来计划riscv qemu ohos的三方库移植 小程序开发4、一切拥抱开源，拥抱国产化 一、概述 为方便大家每次下载OpenHarmony不同分支/tag代码&#xff0c…...

编程日记 2024/6/20 4:31:37

torch.topk用法

torch.topk用法 介绍使用示例 介绍 官网介绍：https://pytorch.org/docs/stable/generated/torch.topk.html 在指定维度选取k个最大（最小）的值。 使用示例 values torch.tensor([[2, 1, 3], [1, 2, 3]]) # values # tensor([[2, 1, 3], #…...

编程日记 2024/6/20 4:30:33

终极版本的Typora上传到博客园和csdn

激活插件 下载网址是这个： https://codeload.github.com/obgnail/typora_plugin/zip/refs/tags/1.9.4 解压之后这样的： 解压之后将plugin，复制到自己的安装目录下的resources 点击安装即可： 更改配置文件 "dependencies&q…...

编程日记 2024/6/20 4:29:31

洛谷：P5707【深基2.例12】上学迟到

1. 题目链接 https://www.luogu.com.cn/problem/P5707 【深基2.例12】上学迟到 2. 题目描述 学校和y的家距离s米，s以v的速度去学校，8点之前到，y出门前要打扫10分钟卫生，求s最晚的出门时间 输入：两个正整数路程s&…...

编程日记 2024/6/20 4:28:29

数据治理：数据提取过程中的合规性与安全性

数据治理：数据提取过程中的合规性与安全性 随着数字化时代的到来，数据已经成为企业运营和决策的核心驱动力。然而，在数据提取的过程中，确保数据的合规性和安全性成为了企业面临的重要挑战。数据治理作为一种系统的方法&#xff0…...

编程日记 2024/6/20 4:25:26

24计算机应届生的活路是什么

不够大胆❗ 很多小伙伴在找工作时觉得自己没有竞争力，很没有自信，以至于很害怕找工作面试，被人否定的感觉很不好受。 其实很多工作并没有想象中的高大上，不要害怕，计算机就业的方向是真的广，不要走窄了&…...

编程日记 2024/6/20 4:21:18

HTML页面布局-使用div示例

<!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><title>Title</title> </head> <body><!--text-align:center 文字水平居中line-height&#xff1a;200px; 文字垂直居中,行高设置跟高…...

编程日记 2024/6/20 4:20:14

怎么把webp文件转换为jpg？快来试试这四种转换方法！

怎么把webp文件转换为jpg&#xff1f;Webp是一种不常见的图片格式&#xff0c;这种格式在使用过程中有很多缺点&#xff0c;首先它的浏览器兼容性不是很强&#xff0c;这就代表大家无法随意进行网络传输&#xff0c;可能需要准备特定的操作才能进行&#xff0c;然后编辑webp的工…...

编程日记 2024/6/20 4:19:12

计算机网络(7) 错误检测

一.校验和 使用补码计算校验和是一种常见的错误检测方法&#xff0c;应用于网络协议如IP和TCP。补码是二进制数的一种表示方法&#xff0c;可以有效地处理符号位和进位。下面是如何利用补码计算校验和的详细步骤和算数例子。 ### 计算步骤 1. **将数据分块**&#xff1a;将数…...

编程日记 2024/6/20 4:18:09

实体类status属性使用枚举类型的步骤

1. 问题引出 当实体类的状态属性为Integer类型时&#xff0c;容易写错 2. 初步修改 把状态属性强制为某个类型&#xff0c;并且自定义一些可供选择的常量。 public class LessonStatus {public static final LessonStatus NOT_LEARNED new LessonStatus(0,"未学习"…...

编程日记 2024/6/20 4:16:05

pytorch基础【4】梯度计算、链式法则、梯度清零

文章目录 梯度计算计算图&#xff08;Computational Graph&#xff09;梯度求导&#xff08;Gradient Computation&#xff09;函数与概念 示例代码更多细节梯度求导的过程梯度求导的基本步骤示例代码注意事项总结 链式法则是什么&#xff1f;链式法则的数学定义链式法则在深度…...

编程日记 2024/6/20 4:15:04

mapreduce综合应用案例 — 招聘数据清洗

MapReduce是一个编程模型和处理大数据集的框架&#xff0c;它由Google开发并广泛使用于分布式计算环境中。MapReduce模型包含两个主要的函数&#xff1a;Map和Reduce。Map函数用于处理输入的键值对生成中间键值对&#xff0c;Reduce函数则用于合并Map函数输出的具有相同键的中间…...

编程日记 2024/6/20 4:14:02

发力采销，京东的“用户关系学”

作者 | 曾响铃 文 | 响铃说 40多岁打扮精致的城市女性&#xff0c;在西藏那曲的偏远农村&#xff0c;坐着藏民的摩托车&#xff0c;行驶在悬崖边的烂泥路上&#xff0c;只因为受顾客的“委托”&#xff0c;要寻找最原生态的藏区某款产品。 30多岁的憨厚中年男性&#xff0c;…...

编程日记 2024/6/20 4:13:00

期望23K，go高级社招面试复盘

面经哥只做互联网社招面试经历分享&#xff0c;关注我&#xff0c;每日推送精选面经&#xff0c;面试前&#xff0c;先找面经哥 我最终还是上岸了&#xff0c;花了一周总结了3万字的go社招高级面试知识体系思维导图&#xff0c;分享出来希望能帮助有缘人吧&#xff0c;以下只是…...

编程日记 2024/6/20 4:10:58

电感（线圈）具有哪些基本特性

首先&#xff0c;电感&#xff08;线圈&#xff09;具有以下基本特性&#xff0c;称之为“电感的感性电抗” ?①直流基本上直接流过。 ?②对于交流&#xff0c;起到类似电阻的作用。 ?③频率越高越难通过。 下面是表示电感的频率和阻抗特性的示意图。 在理想电感器中&#…...

编程日记 2024/6/20 4:09:56

tkinter实现一个GUI界面-快速入手

目录 一个简单界面输出效果其他功能插入进度条文本框内容输入和删除标签内容显示和删除 一个简单界面 含插入文本、文本框、按钮、按钮调用函数 # -*- coding: UTF-8 -*-import tkinter as tk from tkinter import END from tkinter import filedialog from tkinter impor…...

编程日记 2024/6/20 4:08:55

Top10在线音频剪辑软件，你了解几款？（免费分享）

多年来&#xff0c;随着音乐制作人和音频工程师的需求不断增长&#xff0c;音频剪辑软件领域经历了巨大的发展。最新的音频剪辑软件提供了从基本录制到最终发布所需的一切功能。其中一些软件专为播客设计&#xff0c;一些软件是免费的&#xff0c;并且一些软件提供了出色的音效…...

编程日记 2024/6/20 4:07:52

mysql报错：You can‘t specify target table ‘Person‘ for update in FROM clause

背景 在做leetcode里数据库的196题删除重复数据时&#xff0c;我参考评论区大佬的方法先用group by找到每个分组里的最小的id的那条记录&#xff0c;然后删掉原表中id不在其中的记录&#xff0c;然后就报了如题所示的错误。 我的写法如下&#xff1a; DELETE FROMPerson WHER…...

编程日记 2024/6/20 4:06:50

Python爬虫实战：研究MechanicalSoup库相关技术

一、MechanicalSoup 库概述 1.1 库简介 MechanicalSoup 是一个 Python 库，专为自动化交互网站而设计。它结合了 requests 的 HTTP 请求能力和 BeautifulSoup 的 HTML 解析能力，提供了直观的 API，让我们可以像人类用户一样浏览网页、填写表单和提交请求。 1.2 主要功能特点…...

编程新知 2025/10/10 18:13:55

Leetcode 3576. Transform Array to All Equal Elements

Leetcode 3576. Transform Array to All Equal Elements 1. 解题思路2. 代码实现 题目链接&#xff1a;3576. Transform Array to All Equal Elements 1. 解题思路 这一题思路上就是分别考察一下是否能将其转化为全1或者全-1数组即可。 至于每一种情况是否可以达到&#xf…...

编程新知 2025/9/17 7:25:07

【Linux】C语言执行shell指令

在C语言中执行Shell指令 在C语言中&#xff0c;有几种方法可以执行Shell指令&#xff1a; 1. 使用system()函数 这是最简单的方法&#xff0c;包含在stdlib.h头文件中&#xff1a; #include <stdlib.h>int main() {system("ls -l"); // 执行ls -l命令retu…...

编程新知 2025/11/20 18:42:48

深入解析C++中的extern关键字：跨文件共享变量与函数的终极指南

&#x1f680; C extern 关键字深度解析&#xff1a;跨文件编程的终极指南 &#x1f4c5; 更新时间&#xff1a;2025年6月5日 &#x1f3f7;️ 标签&#xff1a;C | extern关键字 | 多文件编程 | 链接与声明 | 现代C 文章目录 前言&#x1f525;一、extern 是什么&#xff1f;&…...

编程新知 2026/2/1 6:50:07

【论文阅读28】-CNN-BiLSTM-Attention-（2024）

本文把滑坡位移序列拆开、筛优质因子&#xff0c;再用 CNN-BiLSTM-Attention 来动态预测每个子序列&#xff0c;最后重构出总位移&#xff0c;预测效果超越传统模型。 文章目录 1 引言2 方法2.1 位移时间序列加性模型2.2 变分模态分解 (VMD) 具体步骤2.3.1 样本熵&#xff08;S…...

编程新知 2026/2/2 3:06:53

【SpringBoot自动化部署】

SpringBoot自动化部署方法 使用Jenkins进行持续集成与部署 Jenkins是最常用的自动化部署工具之一&#xff0c;能够实现代码拉取、构建、测试和部署的全流程自动化。 配置Jenkins任务时&#xff0c;需要添加Git仓库地址和凭证&#xff0c;设置构建触发器&#xff08;如GitHub…...

编程新知 2025/11/18 2:17:20

针对药品仓库的效期管理问题，如何利用WMS系统“破局”

案例&#xff1a; 某医药分销企业&#xff0c;主要经营各类药品的批发与零售。由于药品的特殊性&#xff0c;效期管理至关重要&#xff0c;但该企业一直面临效期问题的困扰。在未使用WMS系统之前&#xff0c;其药品入库、存储、出库等环节的效期管理主要依赖人工记录与检查。库…...

编程新知 2026/2/5 14:06:00

CppCon 2015 学习:Reactive Stream Processing in Industrial IoT using DDS and Rx

“Reactive Stream Processing in Industrial IoT using DDS and Rx” 是指在工业物联网&#xff08;IIoT&#xff09;场景中&#xff0c;结合 DDS&#xff08;Data Distribution Service&#xff09; 和 Rx&#xff08;Reactive Extensions&#xff09; 技术&#xff0c;实现 …...

编程新知 2025/11/8 23:40:56

「Java基本语法」变量的使用

变量定义 变量是程序中存储数据的容器&#xff0c;用于保存可变的数据值。在Java中&#xff0c;变量必须先声明后使用&#xff0c;声明时需指定变量的数据类型和变量名。 语法 数据类型 变量名 [ 初始值]; 示例&#xff1a;声明与初始化 public class VariableDemo {publi…...

编程新知 2025/11/19 17:35:31

大模型真的像人一样“思考”和“理解”吗？​

Yann LeCun 新研究的核心探讨&#xff1a;大语言模型&#xff08;LLM&#xff09;的“理解”和“思考”方式与人类认知的根本差异。 核心问题&#xff1a;大模型真的像人一样“思考”和“理解”吗&#xff1f; 人类的思考方式&#xff1a; 你的大脑是个超级整理师。面对海量信…...

编程新知 2025/11/28 20:02:50