当前位置： 首页 > news >正文

机器学习：可解释学习

news 文章来源：https://blog.csdn.net/uncle_ll/article/details/132524256 2025/2/11 15:48:51

文章目录

  • 可解释学习
    • 为什么需要可解释机器学习
    • 可解释还是强模型
    • 可解释学习的目标
    • 可解释机器学习
      • Local Explanation
      • Global Explanation

可解释学习

在这里插入图片描述
在这里插入图片描述
神马汉斯，只有在有人看的时候能够答对。

为什么需要可解释机器学习

在这里插入图片描述

贷款，医疗需要给出理由，让人们相信该算法的预测结果。
在这里插入图片描述

可解释还是强模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
决策树是有比较好的解释性的。
在这里插入图片描述
在这里插入图片描述
随机森林作出的判断也无法明确指出是什么原因得到的答案。

可解释学习的目标

在这里插入图片描述
人需要一个理由，才会被说服去做什么事。
在这里插入图片描述

可解释机器学习

在这里插入图片描述
两大类，局部可解释，全局可解释

Local Explanation

在这里插入图片描述
移除某一部分导致发生大的判断改变，这一部分就是关键部分。
在这里插入图片描述
用黑色方块移动遮盖区域，再看算法是否能正确得到预测结果，如果不能，说明是重要部分，蓝色区域就是重要部分。
在这里插入图片描述
saliency map，白色区域说明值越大，表明像素值重要。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
结果是图片格式导致的这种准确率，而不是真的学到了相关特征判断。
在这里插入图片描述
这个是学错了，觉得左下角的文字是更重要，只要有文字就判断为马。
在这里插入图片描述
SmoothGrad：加噪音并平均下来的结果，比原来的结果好。

梯度色度的局限性
在这里插入图片描述

鼻子变长，越来越长也不会让人们觉得变得更像大象，只看偏微分的结果不足以告诉我们。

在这里插入图片描述
在这里插入图片描述
直接拿网络的输出可以明确的区分开来。
在这里插入图片描述
也可以看注意力部分的特征输出。
在这里插入图片描述
可以使用探针方式去查看想要看学习到的特征，要注意分类器的学习好坏，只有学习比较好的分类器能比较多表现出特征。

在这里插入图片描述
只保留了内容，而没有保留声音身份信息。
在这里插入图片描述
过滤掉女声男声，过滤掉杂音。

Global Explanation

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
filter检测的内容不一样，某个笔画
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
用小模型且可观察的模型去逼近复杂模型

相关文章：

机器学习：可解释学习

文章目录 可解释学习为什么需要可解释机器学习可解释还是强模型可解释学习的目标可解释机器学习Local ExplanationGlobal Explanation 可解释学习 神马汉斯，只有在有人看的时候能够答对。 为什么需要可解释机器学习 贷款，医疗需要给出理由，让…...

编程日记 2023/9/7 20:50:27

UE5- c++ websocket里实现调用player里的方法

# UGameInstance里直接调用 获取到引用了，就可以自然的调用。忽略 # UGameInstance里间接调用，通过代理调用 前置已经添加了websocket,具体步骤参考，链接在UWebSocketGameInstance.h里新增代理，并在链接成功后进行绑定。 #pragma…...

编程日记 2023/9/7 20:49:23

线性代数的学习和整理18：什么是维度，什么是秩？秩的各种定理秩的计算 (计算部分未完成)

目录 0 问题引出：什么是秩？ 概念备注： 1 先厘清：什么是维数？ 1.1 真实世界的维度数 1.2 向量空间的维数 1.2.1 向量空间，就是一组最大线性无关的向量组/基张成的空间 1.3 向量α的维数 1.3.1 向量的…...

编程日记 2023/9/7 20:48:22

Centos 6.5 升级到Centos7指导手册

一、背景 某业务系统因建设较早，使用的OS比较过时，还是centos6.5的系统，因国产化需要，需将该系统升级到BClinux 8.6，但官方显示不支持centos 6.x升级到8，需先将centos6.5升级到centos7的最新版&#xff0c…...

编程日记 2023/9/7 20:47:20

详解python中的映射类型---字典

概述 映射类型是“键-值”数据项的组合，每个元素是一个键值对，即元素是（key，value），元素之间是无序的。键值对（key，value）是一种二元关系，源于属性和值的映射…...

编程日记 2023/9/7 20:46:19

gdal求矢量图形的形心

gdal求矢量图形的形心 #include "gdal_priv.h" #include "ogrsf_frmts.h"int main() {OGRRegisterAll();OGRPolygon* square_1 new OGRPolygon();OGRLinearRing* ring_1 new OGRLinearRing();// 添加 square_1 的点ring_1->addPoint(0, 0);ring_1-&g…...

编程日记 2023/9/7 20:45:17

＜深度学习基础＞ Batch Normalization

Batch Normalization批归一化 BN优点 减少了人为选择参数。在某些情况下可以取消dropout和L2正则项参数，或者采取更小的L2正则项约束参数；减少了对学习率的要求。现在我们可以使用初始很大的学习率或者选择了较小的学习率，算法也能够快速训…...

编程日记 2023/9/7 20:44:14

Ubuntu yolov5 环境配置

查看Ubuntu版本 $ cat /proc/version Linux version 5.4.0-150-generic (builddbos03-amd64-012) (gcc version 7.5.0 (Ubuntu 7.5.0-3ubuntu1~18.04)) #167~18.04.1-Ubuntu SMP Wed May 24 00:51:42 UTC 2023虚拟机磁盘扩容 因为在环境搭建过程中遇到了磁盘空间不足的问题&a…...

编程日记 2023/9/7 20:43:11

【自执行闭包JS逆向】某网站登录MD5加密分析

文章目录 一、写在前面二、抓包分析三、加密函数分析 一、写在前面 最近工作比较忙，不过还是在督促自己利用有限的时间学习更新一些技术文章。互联网这个行业大家目前也都知道是非常内卷的，所有大家在工作之余养成良好的自主学习习惯是非常好的&#xff…...

编程日记 2023/9/7 20:42:10

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明

Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 目录 Stable Diffuse 之 安装文件夹、以及操作界面 UI 、Prompt相关说明 一、简单介绍 二、安装文件相关说明 三、界面的简单说明 四、prompt 的一些语法简单说明 1、Prompt ：正向提示词 &am…...

编程日记 2023/9/7 20:41:09

【Linux】- 一文秒懂shell编程

shell编程 1.1 Shell 是什么1.2 Shell 脚本的执行方式1.3 编写第一个 Shell 脚本2.1 Shell 的变量2.2 shell 变量的定义2.3 设置环境变量3.1 位置参数变量3.2 预定义变量4.1 运算符4.2 条件判断5.1 流程控制5.2 case 语句5.3 for 循环5.4 while 循环5.5 read基本语法6.1函数6.2…...

编程日记 2023/9/7 20:40:08

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决

CentOS下多网卡绑定多IP段时导致只有一个会通的问题解决 虚拟机配置多个网络地址，结果同时只能有一个ip是通的， 原因：Linux默认开启了反向路由检查导致的，比如说外面访问eth0的网卡，而网关在eth1上，又或者从…...

编程日记 2023/9/7 20:39:07

关于实现 Vue 动态数据显示，比如数字 0 或 1 怎么显示为 男 或 女等等的动态显示实现方法

具体 Vue 代码演示&#xff1a; test.vue 文件演示&#xff1a; <template> <!-- 方法一 --> <div>{{ test.data 0 ? 男 : 女}}</div><!-- 方法二 --> <div>{{ test.data 0 ? 男 : }}{{ test.data 1 ? 女 : }}{{ test.d…...

编程日记 2023/9/7 20:38:05

mac制作ssl证书|生成自签名证书，nodejs+express在mac上搭建https+wss(websocket)服务器

注意 mac 自带 openssl 所以没必要像 windows 一样先安装 openssl&#xff0c;直接生成即可 生成 ssl/自签名 证书 生成 key # 生成rsa私钥&#xff0c;des3算法&#xff0c;server_ssl.key是秘钥文件名 1024位强度 openssl genrsa -des3 -out server_ssl.key 1024让输入两…...

编程日记 2023/9/7 20:37:04

Unix System V BSD POSIX 究竟是什么？

学习Linux系统，很多同学对这些单词概念很模糊、一脸懵逼！ 黄老师觉得，了解了历史，才会真正明白这些单词的含义，坐稳、黄老师发车了！！！ 首先介绍一下什么是Unix？ UNIX（非复用信息和计算机服务，英语：Uniplexed Information and Computing Service，UnICS）取“UNI…...

编程日记 2023/9/7 20:36:03

数据集学习笔记(六)：目标检测和图像分割标注软件介绍和使用，并转换成YOLO系列可使用的数据集格式

文章目录 一、目标检测1.1 labelImg1.2 介绍1.3 安装1.4 使用1.5 转换1.6 验证 二、图像分割2.1 labelme2.2 介绍2.3 安装2.4 使用2.5 转换2.6 验证 一、目标检测 1.1 labelImg 1.2 介绍 labelImg是一个开源的图像标注工具&#xff0c;用于创建图像标注数据集。它提供了一个…...

编程日记 2023/9/7 20:35:02

【高阶数据结构】红黑树 {概念及性质；红黑树的结构；红黑树的实现；红黑树插入操作详细解释；红黑树的验证}

红黑树 一、红黑树的概念 红黑树&#xff08;Red Black Tree&#xff09; 是一种自平衡二叉查找树&#xff0c;在每个结点上增加一个存储位表示结点的颜色&#xff0c;可以是Red或Black。 通过对任何一条从根到叶子的路径上各个结点着色方式的限制&#xff0c;红黑树确保没有…...

编程日记 2023/9/7 20:34:00

获取对象占用内存

添加依赖 <dependency><groupId>org.apache.lucene</groupId><artifactId>lucene-core</artifactId><version>4.0.0</version> </dependency>添加vm启动参数 --add-opens java.base/java.langALL-UNNAMED --add-opens java.ba…...

编程日记 2023/9/7 20:32:58

mysql UUID 作为主键的问题

UUID 在MySQL中&#xff0c;可以使用UUID()函数来生成一个新的UUID值。该函数的返回值是一个字符串类型&#xff0c;表示一个32位的十六进制数字&#xff0c;其中包含4个连字符“-”&#xff0c;例如&#xff1a;“6ccd780c-baba-1026-9564-0040f4311e29”。 varchar(32) 32*4…...

编程日记 2023/9/7 20:31:57

2023高教社杯全国大学生数学建模竞赛选题建议

如下为C君的2023高教社杯全国大学生数学建模竞赛&#xff08;国赛&#xff09;选题建议&#xff0c; 提示&#xff1a;DS C君认为的难度&#xff1a;C<B<A&#xff0c;开放度&#xff1a;B<A<C 。 D、E题推荐选E题&#xff0c;后续会直接更新E论文和思路&#xf…...

编程日记 2023/9/7 20:30:56

分类预测 | MATLAB实现GRNN广义回归神经网络多特征分类预测

分类预测 | MATLAB实现GRNN广义回归神经网络多特征分类预测 目录 分类预测 | MATLAB实现GRNN广义回归神经网络多特征分类预测分类效果基本介绍模型描述预测过程程序设计参考资料分类效果 基本介绍 MATLAB实现GRNN广义回归神经网络多特...

编程日记 2023/9/7 20:29:55

低功耗窗帘电机解决方案成功应用并通过 Matter 1.1 认证

Nordic Semiconductor官方宣布与HooRii Tech&#xff08;和众科技&#xff09;携手合作&#xff0c;基于 Nordic nRF52840 芯片平台打造的 HRN71模组&#xff0c;成功赋能低功耗窗帘电机品牌发布Matter产品。低功耗窗帘电机获得 Matter 1.1 认证意味着它具有与其他 Matter 认证…...

编程日记 2023/9/7 20:28:54

如何修复老照片？老照片修复翻新的方法

老旧照片&#xff0c;尤其是黑白照片&#xff0c;往往因为年代久远、保存方式不当等原因而出现褪色、污损、划痕等问题&#xff0c;会比较难以修复&#xff0c;就算是技术精湛的专业修复师&#xff0c;也是需要投入极大时间精力的&#xff0c;效果也是不可预料的。 修复老照片…...

编程日记 2023/9/7 20:27:51

MySQL：区分大小写

查看MySQL版本 show variables; 1、查看 MySQL 当前的区分大小写设置&#xff1a; SHOW VARIABLES LIKE lower_case_table_names; 或者 show Variables like %table_names 2、更改大小写敏感设置&#xff1a; 在 MySQL 5.7 中&#xff0c;更改大小写敏感设置要求修改配置文件 …...

编程日记 2023/9/7 20:26:50

刷题笔记19——优势洗牌和去重保持字典序

摆出无比亲密的态度&#xff0c;装模作样地与对方套近乎&#xff0c;频繁地联系对方。这都说明他们并不相信自己得到了对方的信赖&#xff0c;若是互相信赖&#xff0c;便不会依赖亲密的感觉。在外人看来&#xff0c;反而显得冷淡。 ——尼采《人性的&#xff0c;太人性的》 ha…...

编程日记 2023/9/7 20:25:48

星际争霸之小霸王之小蜜蜂（十一）--杀杀杀

系列文章目录 星际争霸之小霸王之小蜜蜂&#xff08;十&#xff09;--鼠道 星际争霸之小霸王之小蜜蜂&#xff08;九&#xff09;--狂鼠之灾 星际争霸之小霸王之小蜜蜂&#xff08;八&#xff09;--蓝皮鼠和大脸猫 星际争霸之小霸王之小蜜蜂&#xff08;七&#xff09;--消失…...

编程日记 2023/9/7 20:24:47

腾讯云免费SSL证书申请流程_每年免费50个HTTPS证书

2023腾讯云免费SSL证书申请流程&#xff0c;一个腾讯云账号可以申请50张免费SSL证书&#xff0c;免费SSL证书为DV证书&#xff0c;仅支持单一域名&#xff0c;申请腾讯云免费SSL证书3分钟即可申请成功&#xff0c;免费SSL证书品牌为TrustAsia亚洲诚信&#xff0c;腾讯云百科分享…...

编程日记 2023/9/7 20:23:46

C#上位机开发目录

C#上位机序列1: 多线程&#xff08;线程同步&#xff0c;事件触发&#xff0c;信号量&#xff0c;互斥锁&#xff0c;共享内存&#xff0c;消息队列&#xff09; C#上位机序列2: 同步异步(async、await) C#上位机序列3: 流程控制&#xff08;串行&#xff0c;并行&#xff0c…...

编程日记 2023/9/7 20:22:44

网络通信基础

IP地址 使用ip地址来描述网络上一个设备所在的位置 端口号 区分一个主机上不同的程序,一个网络程序,在启动的时候,都需要绑定一个或者多个端口号,后续的通信过程都需要依赖端口号来进行展开的,mysql默认的端口号是3306 协议 描述了网络通信传输的数据的含义,表示一种约定,…...

编程日记 2023/9/7 20:21:44

框架分析（10）-SQLAlchemy

框架分析&#xff08;10&#xff09;-SQLAlchemy 专栏介绍SQLAlchemy特性分析ORM支持数据库适配器事务支持查询构建器数据库连接池事务管理器数据库迁移特性总结 优缺点优点强大的对象关系映射支持多种数据库灵活的查询语言自动管理数据库连接支持事务管理易于扩展和定制 缺点学…...

编程日记 2023/9/7 20:20:42

网站建设维护培训会上的讲话/seo网站排名优化工具

LoggerFactory.getLogger可以在IDE控制台打印日志&#xff0c;便于开发&#xff0c;一般加在最上面&#xff1a; 使用&#xff1a; //调试日志private final static Logger logger LoggerFactory.getLogger(xxxController.class);优点&#xff1a;使用指定类初始化日志对象&…...

编程日记 2025/2/11 12:34:51

竹中建设官方网站/郑州百度推广开户

31-40题31、写一个交互脚本&#xff0c;直接运行脚本&#xff0c;出现提示&#xff0c;选择一个数字&#xff1a;1&#xff1a;重启 httpd 服务&#xff0c;2&#xff1a;重启 mysqld 服务 3&#xff1a;重启vsftpd服务&#xff0c;加选项--httpd重启 httpd 服务&#xff0c;加…...

编程日记 2025/2/11 12:23:41

武汉网站制作制作/安卓在线视频嗅探app

Java集合体系 Collection 接口&#xff1a;该接口是最基本的集合接口List 接口&#xff1a;列表Set 接口&#xff1a;数学概念的集合Map 接口&#xff1a;包含键值对&#xff0c;Map 不能包含重复的键。SortedMap 是一个按升序排列的 Map 集合。 简化图&#xff1a; 说明&#…...

编程日记 2025/2/11 7:12:34

谁有做爰网站/浏览器观看b站视频的最佳设置

总结一下Oracle数据库表级别的复制同步 一.通过触发器进行表的复制 原理,是监听表上都某一字段进行的DML操作&#xff0c;然后得到DML操作的数据,重新在另一个表上执行DML操作。 优点: 简单,编写一个触发器就可以&#xff0c;不需要过多的配置。 易修改,遇到了问题很好定位。 …...

编程日记 2025/2/10 23:56:17

男女做那个那个的视频网站/淘宝店铺怎么运营

ajx使用总结&#xff0c; 1.使用ajx提交参数&#xff0c;如何改变data中的参数名 1&#xff09;.正常使用时如下&#xff1a;$.ajax({url: store.get("path")"/offdoc/phone_"s,type:"POST",dataType: "json",data:{loginName : login…...

编程日记 2025/2/10 22:47:21

草坪网站怎么做/爱站网怎么使用

每次重装Windows系统后重装各种开发环境让人苦不堪言&#xff0c;比如VS2013 补丁&#xff0c;没有个小半天根本搞不定&#xff01;对与Android的开发者&#xff0c;同样安装JDKAndroid Studio Adnroid SDK 各种虚拟机 各种个性化的环境配置&#xff0c;同样没有小半天时间无…...

编程日记 2025/2/10 22:04:18