当前位置： 首页 > news >正文

机器学习：可解释学习

news 2026/2/8 9:56:51

文章目录

  • 可解释学习
    • 为什么需要可解释机器学习
    • 可解释还是强模型
    • 可解释学习的目标
    • 可解释机器学习
      • Local Explanation
      • Global Explanation

可解释学习

在这里插入图片描述
在这里插入图片描述
神马汉斯，只有在有人看的时候能够答对。

为什么需要可解释机器学习

在这里插入图片描述

贷款，医疗需要给出理由，让人们相信该算法的预测结果。
在这里插入图片描述

可解释还是强模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
决策树是有比较好的解释性的。
在这里插入图片描述
在这里插入图片描述
随机森林作出的判断也无法明确指出是什么原因得到的答案。

可解释学习的目标

在这里插入图片描述
人需要一个理由，才会被说服去做什么事。
在这里插入图片描述

可解释机器学习

在这里插入图片描述
两大类，局部可解释，全局可解释

Local Explanation

在这里插入图片描述
移除某一部分导致发生大的判断改变，这一部分就是关键部分。
在这里插入图片描述
用黑色方块移动遮盖区域，再看算法是否能正确得到预测结果，如果不能，说明是重要部分，蓝色区域就是重要部分。
在这里插入图片描述
saliency map，白色区域说明值越大，表明像素值重要。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
结果是图片格式导致的这种准确率，而不是真的学到了相关特征判断。
在这里插入图片描述
这个是学错了，觉得左下角的文字是更重要，只要有文字就判断为马。
在这里插入图片描述
SmoothGrad：加噪音并平均下来的结果，比原来的结果好。

梯度色度的局限性
在这里插入图片描述

鼻子变长，越来越长也不会让人们觉得变得更像大象，只看偏微分的结果不足以告诉我们。

在这里插入图片描述
在这里插入图片描述
直接拿网络的输出可以明确的区分开来。
在这里插入图片描述
也可以看注意力部分的特征输出。
在这里插入图片描述
可以使用探针方式去查看想要看学习到的特征，要注意分类器的学习好坏，只有学习比较好的分类器能比较多表现出特征。

在这里插入图片描述
只保留了内容，而没有保留声音身份信息。
在这里插入图片描述
过滤掉女声男声，过滤掉杂音。

Global Explanation

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
filter检测的内容不一样，某个笔画
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
用小模型且可观察的模型去逼近复杂模型

相关文章：

机器学习：可解释学习

文章目录 可解释学习为什么需要可解释机器学习可解释还是强模型可解释学习的目标可解释机器学习Local ExplanationGlobal Explanation 可解释学习 神马汉斯，只有在有人看的时候能够答对。 为什么需要可解释机器学习 贷款，医疗需要给出理由，让…...

编程日记 2023/9/7 20:50:27

UE5- c++ websocket里实现调用player里的方法

# UGameInstance里直接调用 获取到引用了，就可以自然的调用。忽略 # UGameInstance里间接调用，通过代理调用 前置已经添加了websocket,具体步骤参考，链接在UWebSocketGameInstance.h里新增代理，并在链接成功后进行绑定。 #pragma…...

编程日记 2023/9/7 20:49:23

线性代数的学习和整理18：什么是维度，什么是秩？秩的各种定理秩的计算 (计算部分未完成)

目录 0 问题引出：什么是秩？ 概念备注： 1 先厘清：什么是维数？ 1.1 真实世界的维度数 1.2 向量空间的维数 1.2.1 向量空间，就是一组最大线性无关的向量组/基张成的空间 1.3 向量α的维数 1.3.1 向量的…...

编程日记 2023/9/7 20:48:22

Centos 6.5 升级到Centos7指导手册

一、背景 某业务系统因建设较早，使用的OS比较过时，还是centos6.5的系统，因国产化需要，需将该系统升级到BClinux 8.6，但官方显示不支持centos 6.x升级到8，需先将centos6.5升级到centos7的最新版&#xff0c…...

编程日记 2023/9/7 20:47:20

详解python中的映射类型---字典

概述 映射类型是“键-值”数据项的组合，每个元素是一个键值对，即元素是（key，value），元素之间是无序的。键值对（key，value）是一种二元关系，源于属性和值的映射…...

编程日记 2023/9/7 20:46:19

gdal求矢量图形的形心

gdal求矢量图形的形心 #include "gdal_priv.h" #include "ogrsf_frmts.h"int main() {OGRRegisterAll();OGRPolygon* square_1 new OGRPolygon();OGRLinearRing* ring_1 new OGRLinearRing();// 添加 square_1 的点ring_1->addPoint(0, 0);ring_1-&g…...

编程日记 2023/9/7 20:45:17

＜深度学习基础＞ Batch Normalization

Batch Normalization批归一化 BN优点 减少了人为选择参数。在某些情况下可以取消dropout和L2正则项参数，或者采取更小的L2正则项约束参数；减少了对学习率的要求。现在我们可以使用初始很大的学习率或者选择了较小的学习率，算法也能够快速训…...

编程日记 2023/9/7 20:44:14

Ubuntu yolov5 环境配置

查看Ubuntu版本 $ cat /proc/version Linux version 5.4.0-150-generic (builddbos03-amd64-012) (gcc version 7.5.0 (Ubuntu 7.5.0-3ubuntu1~18.04)) #167~18.04.1-Ubuntu SMP Wed May 24 00:51:42 UTC 2023虚拟机磁盘扩容 因为在环境搭建过程中遇到了磁盘空间不足的问题&a…...

编程日记 2023/9/7 20:43:11

【自执行闭包JS逆向】某网站登录MD5加密分析

文章目录 一、写在前面二、抓包分析三、加密函数分析 一、写在前面 最近工作比较忙，不过还是在督促自己利用有限的时间学习更新一些技术文章。互联网这个行业大家目前也都知道是非常内卷的，所有大家在工作之余养成良好的自主学习习惯是非常好的&#xff…...

编程日记 2023/9/7 20:42:10

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 目录 Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 一、简单介绍 二、安装文件相关说明 三、界面的简单说明 四、prompt 的一些语法简单说明 1、Prompt ：正向提示词 &am…...

编程日记 2023/9/7 20:41:09

【Linux】- 一文秒懂shell编程

shell编程 1.1 Shell 是什么1.2 Shell 脚本的执行方式1.3 编写第一个 Shell 脚本2.1 Shell 的变量2.2 shell 变量的定义2.3 设置环境变量3.1 位置参数变量3.2 预定义变量4.1 运算符4.2 条件判断5.1 流程控制5.2 case 语句5.3 for 循环5.4 while 循环5.5 read基本语法6.1函数6.2…...

编程日记 2023/9/7 20:40:08

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决 虚拟机配置多个网络地址，结果同时只能有一个ip是通的， 原因：Linux默认开启了反向路由检查导致的，比如说外面访问eth0的网卡，而网关在eth1上，又或者从…...

编程日记 2023/9/7 20:39:07

关于实现 Vue 动态数据显示，比如数字 0 或 1 怎么显示为 男 或 女等等的动态显示实现方法

具体 Vue 代码演示&#xff1a; test.vue 文件演示&#xff1a; <template> <!-- 方法一 --> <div>{{ test.data 0 ? 男 : 女}}</div><!-- 方法二 --> <div>{{ test.data 0 ? 男 : }}{{ test.data 1 ? 女 : }}{{ test.d…...

编程日记 2023/9/7 20:38:05

mac制作ssl证书|生成自签名证书，nodejs+express在mac上搭建https+wss(websocket)服务器

注意 mac 自带 openssl 所以没必要像 windows 一样先安装 openssl&#xff0c;直接生成即可 生成 ssl/自签名 证书 生成 key # 生成rsa私钥&#xff0c;des3算法&#xff0c;server_ssl.key是秘钥文件名 1024位强度 openssl genrsa -des3 -out server_ssl.key 1024让输入两…...

编程日记 2023/9/7 20:37:04

Unix System V BSD POSIX 究竟是什么？

学习Linux系统，很多同学对这些单词概念很模糊、一脸懵逼！ 黄老师觉得，了解了历史，才会真正明白这些单词的含义，坐稳、黄老师发车了！！！ 首先介绍一下什么是Unix？ UNIX（非复用信息和计算机服务，英语：Uniplexed Information and Computing Service，UnICS）取“UNI…...

编程日记 2023/9/7 20:36:03

数据集学习笔记(六)：目标检测和图像分割标注软件介绍和使用，并转换成YOLO系列可使用的数据集格式

文章目录 一、目标检测1.1 labelImg1.2 介绍1.3 安装1.4 使用1.5 转换1.6 验证 二、图像分割2.1 labelme2.2 介绍2.3 安装2.4 使用2.5 转换2.6 验证 一、目标检测 1.1 labelImg 1.2 介绍 labelImg是一个开源的图像标注工具&#xff0c;用于创建图像标注数据集。它提供了一个…...

编程日记 2023/9/7 20:35:02

【高阶数据结构】红黑树 {概念及性质；红黑树的结构；红黑树的实现；红黑树插入操作详细解释；红黑树的验证}

红黑树 一、红黑树的概念 红黑树&#xff08;Red Black Tree&#xff09; 是一种自平衡二叉查找树&#xff0c;在每个结点上增加一个存储位表示结点的颜色&#xff0c;可以是Red或Black。 通过对任何一条从根到叶子的路径上各个结点着色方式的限制&#xff0c;红黑树确保没有…...

编程日记 2023/9/7 20:34:00

获取对象占用内存

添加依赖 <dependency><groupId>org.apache.lucene</groupId><artifactId>lucene-core</artifactId><version>4.0.0</version> </dependency>添加vm启动参数 --add-opens java.base/java.langALL-UNNAMED --add-opens java.ba…...

编程日记 2023/9/7 20:32:58

mysql UUID 作为主键的问题

UUID 在MySQL中&#xff0c;可以使用UUID()函数来生成一个新的UUID值。该函数的返回值是一个字符串类型&#xff0c;表示一个32位的十六进制数字&#xff0c;其中包含4个连字符“-”&#xff0c;例如&#xff1a;“6ccd780c-baba-1026-9564-0040f4311e29”。 varchar(32) 32*4…...

编程日记 2023/9/7 20:31:57

2023高教社杯全国大学生数学建模竞赛选题建议

如下为C君的2023高教社杯全国大学生数学建模竞赛&#xff08;国赛&#xff09;选题建议&#xff0c; 提示&#xff1a;DS C君认为的难度&#xff1a;C<B<A&#xff0c;开放度&#xff1a;B<A<C 。 D、E题推荐选E题&#xff0c;后续会直接更新E论文和思路&#xf…...

编程日记 2023/9/7 20:30:56

简易版抽奖活动的设计技术方案

1.前言 本技术方案旨在设计一套完整且可靠的抽奖活动逻辑，确保抽奖活动能够公平、公正、公开地进行，同时满足高并发访问、数据安全存储与高效处理等需求，为用户提供流畅的抽奖体验，助力业务顺利开展。本方案将涵盖抽奖活动的整体架构设计、核心流程逻辑、关键功能实现以及…...

编程新知 2026/2/7 17:41:40

React19源码系列之 事件插件系统

事件类别 事件类型 定义 文档 Event Event 接口表示在 EventTarget 上出现的事件。 Event - Web API | MDN UIEvent UIEvent 接口表示简单的用户界面事件。 UIEvent - Web API | MDN KeyboardEvent KeyboardEvent 对象描述了用户与键盘的交互。 KeyboardEvent - Web…...

编程新知 2026/2/7 8:31:55

Java 加密常用的各种算法及其选择

在数字化时代&#xff0c;数据安全至关重要&#xff0c;Java 作为广泛应用的编程语言&#xff0c;提供了丰富的加密算法来保障数据的保密性、完整性和真实性。了解这些常用加密算法及其适用场景&#xff0c;有助于开发者在不同的业务需求中做出正确的选择。​ 一、对称加密算法…...

编程新知 2025/11/22 20:41:02

04-初识css

一、css样式引入 1.1.内部样式 <div style"width: 100px;"></div>1.2.外部样式 1.2.1.外部样式1 <style>.aa {width: 100px;} </style> <div class"aa"></div>1.2.2.外部样式2 <!-- rel内表面引入的是style样…...

编程新知 2026/1/29 17:54:05

OpenLayers 分屏对比(地图联动)

注&#xff1a;当前使用的是 ol 5.3.0 版本&#xff0c;天地图使用的key请到天地图官网申请&#xff0c;并替换为自己的key 地图分屏对比在WebGIS开发中是很常见的功能&#xff0c;和卷帘图层不一样的是&#xff0c;分屏对比是在各个地图中添加相同或者不同的图层进行对比查看。…...

编程新知 2025/12/25 18:22:43

Spring AI与Spring Modulith核心技术解析

Spring AI核心架构解析 Spring AI&#xff08;https://spring.io/projects/spring-ai&#xff09;作为Spring生态中的AI集成框架&#xff0c;其核心设计理念是通过模块化架构降低AI应用的开发复杂度。与Python生态中的LangChain/LlamaIndex等工具类似&#xff0c;但特别为多语…...

编程新知 2025/12/14 17:38:21

七、数据库的完整性

七、数据库的完整性 主要内容 7.1 数据库的完整性概述 7.2 实体完整性 7.3 参照完整性 7.4 用户定义的完整性 7.5 触发器 7.6 SQL Server中数据库完整性的实现 7.7 小结 7.1 数据库的完整性概述 数据库完整性的含义 正确性 指数据的合法性 有效性 指数据是否属于所定…...

编程新知 2026/2/4 10:28:25

JavaScript基础-API 和 Web API

在学习JavaScript的过程中&#xff0c;理解API&#xff08;应用程序接口&#xff09;和Web API的概念及其应用是非常重要的。这些工具极大地扩展了JavaScript的功能&#xff0c;使得开发者能够创建出功能丰富、交互性强的Web应用程序。本文将深入探讨JavaScript中的API与Web AP…...

编程新知 2025/8/21 23:03:46

深度学习之模型压缩三驾马车：模型剪枝、模型量化、知识蒸馏

一、引言 在深度学习中&#xff0c;我们训练出的神经网络往往非常庞大&#xff08;比如像 ResNet、YOLOv8、Vision Transformer&#xff09;&#xff0c;虽然精度很高&#xff0c;但“太重”了&#xff0c;运行起来很慢&#xff0c;占用内存大&#xff0c;不适合部署到手机、摄…...

编程新知 2025/9/24 3:56:34

论文阅读：LLM4Drive: A Survey of Large Language Models for Autonomous Driving

地址&#xff1a;LLM4Drive: A Survey of Large Language Models for Autonomous Driving 摘要翻译 自动驾驶技术作为推动交通和城市出行变革的催化剂&#xff0c;正从基于规则的系统向数据驱动策略转变。传统的模块化系统受限于级联模块间的累积误差和缺乏灵活性的预设规则。…...

编程新知 2026/2/4 4:39:19