当前位置： 首页 > news >正文

机器学习系列13：通过随机森林获取特征重要性

news 文章来源：https://blog.csdn.net/Gabriel100yi/article/details/135300521 2025/1/12 22:59:35

我们已经知道通过 L1 正则化和 SBS 算法可以用来做特征选择。

我们还可以通过随机森林从数据集中选择相关的特征。随机森林里面包含了多棵决策树，我们可以通过计算特征在每棵决策树决策过程中所产生的的信息增益平均值来衡量该特征的重要性。

你可能需要参考：《机器学习系列06：决策树》

这种方法无需对特征做归一化或者标准化预处理，也不假设数据集是否线性可分。

以红酒数据集为例。我们可以直接通过 feature_importances_ 属性获取每个特征的重要性，所有特征重要性之和为 1.0。

图片

我们可以更直观地可视化观察一下。

图片

可以看到上面随机森林选出的前 3 个特征最重要的特征中有 2 也出现在了之前在
《机器学习系列12：减少过拟合——降维（特征选择）》中使用 SFS 算法选择的 3 个最重要的特征中。

图片

我们可以通过 scikit-learn 提供的 SelectFromModel 来通过 threshold 参数设定一个阈值 ，选择满足这个贡献度阈值的特征出来。

图片

可以看到选择了 5 个特征，现在我们就用这 5 个特征拟合一下 kNN 算法。

图片

可以对比一下在用 SFS 算法选择的 3 个特征拟合的 kNN 算法。

图片

选择 5 个特征时，模型在训练集和测试集上的表现和选择全部特征的表现相当！

相关文章：

机器学习系列13：通过随机森林获取特征重要性

我们已经知道通过 L1 正则化和 SBS 算法可以用来做特征选择。 我们还可以通过随机森林从数据集中选择相关的特征。随机森林里面包含了多棵决策树，我们可以通过计算特征在每棵决策树决策过程中所产生的的信息增益平均值来衡量该特征的重要性。 你可能需要参考&…...

编程日记 2023/12/31 15:44:26

flink中值得监控的几个指标

背景 为了维持flink的正常运行，对flink的日常监控就变得很重要，本文我们就来看一下flink中要监控的几个重要的指标 重要的监控指标 1.算子的处理速度的指标：numRecordsInPerSecond/numRecordsOutPerSecond,这有助于你了解到算子的是否正在…...

编程日记 2023/12/31 15:40:22

最优化方法Python计算：无约束优化应用——逻辑分类模型

逻辑回归模型更多地用于如下例所示判断或分类场景。 例1 某银行的贷款用户数据如下表： 欠款（元）收入（元）是否逾期17000800Yes220002500No350003000Yes440004000No520003800No 显然，客户是否逾期&#xff…...

编程日记 2023/12/31 15:39:21

springboot定时执行某个任务

springboot定时执行某个任务 要定时执行的方法加上Schedule注解 括号内跟 cron表达式 “ 30 15 10 * * ？” 代表秒 分 时 日 月 周几 启动类上加上EnableScheduling 注释...

编程日记 2023/12/31 15:37:19

Java EE Servlet之Servlet API详解

文章目录 1. HttpServlet1.1 核心方法 2. HttpServletRequest3. HttpServletResponse 接下来我们来学习 Servlet API 里面的详细情况 1. HttpServlet 写一个 Servlet 代码，都是要继承这个类，重写里面的方法 Servlet 这里的代码，只需要继承…...

编程日记 2023/12/31 15:32:15

neo4j运维管理

管理数据库 概念 Neo4j 5(从v4.0)，可以同时创建和使用多个活动数据库。 DBMS Neo4j是一个数据库管理系统(DBMS)，能够管理多个数据库。DBMS可以管理一个独立的服务器，也可以管理集群中的一组服务器。 实例 Neo4j实例是运行Neo4j服务器代…...

编程日记 2023/12/31 15:28:12

【MYSQL】-函数

💖作者：小树苗渴望变成参天大树🎈 🎉作者宣言：认真写好每一篇博客💤 🎊作者gitee:gitee✨ 💞作者专栏：C语言,数据结构初阶,Linux,C 动态规划算法🎄 如 果 你 …...

编程日记 2023/12/31 15:26:10

传统船检已经过时？AR智慧船检来助力！！

想象一下，在茫茫大海中，一艘巨型货轮正缓缓驶过。船上的工程师戴着一副先进的AR眼镜，他们不再需要反复翻阅厚重的手册，一切所需信息都实时显示在眼前。这不是科幻电影的场景，而是智慧船检技术带来的现实变革。那么问题…...

编程日记 2023/12/31 15:22:06

JAVA进化史: JDK11特性及说明

JDK 11（Java Development Kit 11）是Java平台的一个版本，于2018年9月发布。这个版本引入了一些新特性和改进，以下是其中一些主要特性。 HTTP Client（标准化） JDK 11引入了一个新的HTTP客户端，用…...

编程日记 2023/12/31 15:20:03

模型 安索夫矩阵

本系列文章 主要是 分享模型，涉及各个领域，重在提升认知。产品市场战略。 1 安索夫矩阵的应用 1.1 江小白的多样化经营策略 使用安索夫矩阵来分析江小白市场战略。具体如下： 根据安索夫矩阵，江小白的现有产品是其白酒产品&…...

编程日记 2023/12/31 15:18:01

性能手机新标杆，一加 Ace 3 发布会定档 1 月 4 日

12 月 27 日，一加宣布将于 1 月 4 日发布新品一加 Ace 3。一加 Ace 系列秉持「产品力优先」理念，从一加 Ace 2、一加 Ace 2V 到一加 Ace 2 Pro，款款都是现象级爆品，得到了广大用户的认可与支持。作为一加 2024 开年之作&#xff0…...

编程日记 2023/12/31 15:16:00

Vue 框架前导：详解 Ajax

Ajax Ajax 是异步的 JavaScript 和 XML。简单来说就是使用 XMLHttpRequest 对象和服务器通信。可以使用 JSON、XML、HTML 和 text 文本格式来发送和接收数据。具有异步的特性，可在不刷新页面的情况下实现和服务器的通信，交换数据或者更新页面 01. 体验 A…...

编程日记 2023/12/31 15:13:58

3分钟快速安装 ClickHouse、配置服务、设置密码和远程登录以及修改数据目录

下面是一个完整的 ClickHouse 安装和配置流程，包括安装 ClickHouse、配置服务、设置密码和远程登录以及修改数据目录。 安装 ClickHouse 安装 YUM 工具包： sudo yum install -y yum-utils添加 ClickHouse YUM 仓库： sudo yum-config-manager…...

编程日记 2023/12/31 15:11:56

PHP8使用PDO对象增删改查MySql数据库

PDO简介 PDO（PHP Data Objects）是一个PHP扩展，它提供了一个数据库访问层，允许开发人员使用统一的接口访问各种数据库。PDO 提供了一种用于执行查询和获取结果的简单而一致的API。 以下是PDO的一些主要特点： 统一接口…...

编程日记 2023/12/31 15:04:48

证明：切线垂直于半径

证明： 切线垂直于过切点的半径。 下面是网上最简单的证明方法。 证明： 利用反证法。 如下图所示，直线AB和圆O切于点A，假设OA 不垂直于 AB，而 O B ⊥ A B OB \perp AB OB⊥AB，则 ∠ O B A 90 \angle OB…...

编程日记 2023/12/31 15:02:46

普中STM32-PZ6806L开发板(STM32CubeMX创建项目并点亮LED灯)

简介 搭建一个用于驱动 STM32F103ZET6 GPIO点亮LED灯的任务;电路原理图 LED电路原理图 芯片引脚连接LED驱动引脚原理图 创建一个点亮LED灯的Keil 5项目 创建STM32CubeMX项目 New Project -> 单击 -> 芯片搜索STM32F103ZET6->双击创建 初始化时钟 调试设置 一…...

编程日记 2023/12/31 15:00:44

【Windows】共享文件夹拍照还原防火墙设置(入站，出站设置）---图文并茂详细讲解

目录 一 共享文件夹(两种形式) 1.1 普通共享与高级共享区别 1.2 使用 二 拍照还原 2.1 是什么 2.2 使用 三 防火墙设置（入栈，出站设置） 3.1 引入 3.2 入站出站设置 3.2.1入站出站含义 3.3入站设置 3.4安装jdk 3.5使用tomcat进行访…...

编程日记 2023/12/31 14:58:42

1.决策树

目录 1. 什么是决策树? 2. 决策树的原理 2.1 如何构建决策树？ 2.2 构建决策树的数据算法 2.2.1 信息熵 2.2.2 ID3算法 2.2.2.1 信息的定义 2.2.2.2 信息增益 2.2.2.3 ID3算法举例 2.2.2.4 ID3算法优缺点 2.2.3 C4.5算法 2.2.3.1 C4.5算法举例 2.2.4 CART算法 2.2.4…...

编程日记 2023/12/31 14:56:41

基于微信小程序的停车预约系统设计与实现

基于微信小程序的停车预约系统设计与实现 项目概述 本项目旨在结合微信小程序、后台Spring Boot和MySQL数据库，打造一套高效便捷的停车预约系统。用户通过微信小程序进行注册、登录、预约停车位等操作，而管理员和超级管理员则可通过后台管理系统对停车…...

编程日记 2023/12/31 14:55:40

再见2023，你好2024

再见2023，你好2024 生活1月 悲伤与治愈2~4月 运动与偏爱5月 体验与美食6月 婚礼与热爱7~8月 就医与别离9~11月 陪伴与暖房12月 体验&新生 运动追剧读书总结 生活 生活是一个修罗场，来世间一场，要经历丰腴有趣的人生。去体验各种滋味&…...

编程日记 2023/12/31 14:54:39

年度总结｜存储随笔2023年度最受欢迎文章榜单TOP15-part1

原创 古猫先生 存储随笔 2023-12-31 08:31 发表于上海 回首2023 2-8月份有近半年时间基本处于断更状态 好在8月份后小编没有松懈 （虽然2023年度总结，更像是近4个月总结） 本年度顺利加V啦！ 感谢各位粉丝朋友的一路支持与陪伴 …...

编程日记 2023/12/31 14:52:37

微信小程序 手机号授权登录 偶尔后端解密失败

微信小程序wx.login获取code要在手机号授权前触发 <button:id"code":open-type"hasGetPrivacySetting ? getPhoneNumber|agreePrivacyAuthorization : getPhoneNumber"getphonenumber"onGetPhoneNumber"class"btn"click"cli…...

编程日记 2023/12/31 14:49:34

Mysql 容易忘的 sql 指令总结

目录 一、操作数据库的基本指令 二、查询语句的指令 1、基本查询语句 2、模糊查询 3、分支查询 4、 分组查询 5、分组查询 6、基本查询总结&#xff1a; 7、子查询 8、连接查询 三、MySQL中的常用函数 1、时间函数 2、字符串函数 3、聚合函数 4、运算函数 四、表…...

编程日记 2023/12/31 14:47:33

【SD】tile 模型 - 固定衣服 生成人物 ☑

原理1&#xff1a;tile re 生成固定衣服的人物 tile1-1 re1-1 原理2&#xff1a;tile re 生成随机衣服的人物 tile0.5-1 re0.5-1 原理3&#xff1a;更改动作 必须使用衣服LORA 才可以进行穿衣服 测试大模型&#xff1a;###最爱的模型\meinamix_meinaV11.safe…...

编程日记 2023/12/31 14:42:28

StackOverflowError的JVM处理方式

背景&#xff1a; 事情来源于生产的一个异常日志 Caused by: java.lang.StackOverflowError: null at java.util.stream.Collectors.lambda$groupingBy$45(Collectors.java:908) at java.util.stream.ReduceOps$3ReducingSink.accept(ReduceOps.java:169) at java.util.ArrayL…...

编程日记 2023/12/31 14:40:25

基于DFA算法实现敏感词过滤

何为DFA DFA&#xff0c;全称为Deterministic Finite Automaton&#xff0c;即确定有穷自动机、确定有限状态自动机或确定有限自动机 对于一个给定的属于该自动机的状态和一个属于该自动机字母表Σ的字符&#xff0c;它都能根据事先给定的转移函数转移到下一个状态&#xff0…...

编程日记 2023/12/31 14:36:21

模式识别与机器学习-无监督学习-聚类

无监督学习-聚类 监督学习&无监督学习K-meansK-means聚类的优点&#xff1a;K-means的局限性&#xff1a;解决方案&#xff1a; 高斯混合模型&#xff08;Gaussian Mixture Models&#xff0c;GMM&#xff09;多维高斯分布的概率密度函数&#xff1a;高斯混合模型&#xff…...

编程日记 2023/12/31 14:35:20

Python中property特性属性是什么

在Java中&#xff0c;通常在类中定义的成员变量为私有变量&#xff0c;在类的实例中不能直接通过对象.属性直接操作&#xff0c;而是要通过getter和setter来操作私有变量。 而在Python中&#xff0c;因为有property这个概念&#xff0c;所以不需要写getter和setter一堆重复的代…...

编程日记 2023/12/31 14:32:17

vue3 全局配置Axios实例

目录 前言 配置Axios实例 页面使用 总结 前言 Axios 是一个基于 Promise 的 HTTP 客户端&#xff0c;用于浏览器和 Node.js 环境。它提供了一种简单、一致的 API 来处理HTTP请求&#xff0c;支持请求和响应的拦截、转换、取消请求等功能。关于它的作用&#xff1a; 发起 HTTP …...

编程日记 2023/12/31 14:31:16

EI级 | Matlab实现TCN-BiGRU-Multihead-Attention多头注意力机制多变量时间序列预测

EI级 | Matlab实现TCN-BiGRU-Multihead-Attention多头注意力机制多变量时间序列预测 目录 EI级 | Matlab实现TCN-BiGRU-Multihead-Attention多头注意力机制多变量时间序列预测预测效果基本介绍模型描述程序设计参考资料 预测效果 基本介绍 1.【EI级】 Matlab实现TCN-BiGRU-Mult…...

编程日记 2023/12/31 14:28:14

平陆县网站建设/网站权重是怎么提升的

2017-12-1309:13:32更新51论坛上的帖子&#xff0c;大神自己写的库文件&#xff0c;待调试&#xff01; http://www.51hei.com/bbs/forum.php?modviewthread&tid92967&extrapage%3D7&mobile2 2017-12-1209:33:56更新资料 关于内存不足的问题摘要:http://www.ardui…...

编程日记 2025/1/12 20:37:02

室内设计效果图欧式风格/seo免费自学的网站

输出重定向 > 重定向正确输出2> 重定向错误输出&> 重定向全部 重定向正确输入到file 重定向错误输入到file.err 重定向全部输入到file.all 重定向会覆盖掉原来的内容可以使用输出追加:把>改成>> 管道的应用 "|"管道的作用是将一条命令的…...

编程日记 2025/1/12 19:30:52

视觉设计网站/友链申请

[Error]集成第三方API时Other Linker Flags项添加-all_load引起的冲突 问题描述&#xff1a; 在XCode9.1新建一个项目&#xff0c;先集成了极光推送&#xff0c;再集成微信支付时出现的问题。 集成微信后运行时&#xff0c;报错&#xff08;如图&#xff09;&#xff1a; …...

编程日记 2025/1/12 14:50:25

网站后台权限管理怎么做的/百度网站推广排名优化

文章目录1. 安装2. 创建测试组3. 创建http请求4. 创建测试监听5. 测试1. 安装 下载 apache-jmeter-5.2.1&#xff0c;解压后&#xff0c;到apache-jmeter-5.2.1\bin目录下执行jmeter.bat 运行。 2. 创建测试组 在TestPlan 上右键&#xff0c;选择Add->Threads(Users)->…...

编程日记 2025/1/12 14:31:16

国内商城网站建设/海外营销

一、DFE&#xff08;Design for Environment&#xff09;面向环境的设计 二、DFM&#xff08;Design for Manufacture&#xff09;面向制造的设计 DFM的最终设计的主要目的是对产品成本的控制&#xff0c;主要包括下面几部分&#xff1a; 1.估计制造成本 输入输出模型 输入&…...

编程日记 2025/1/12 12:47:50

淘宝客必须做网站吗/百度官方网

- 试过重装MSVCR100.dll (无效而且由于版本不对引起了其他错误: 无法定位程序输入点1_NonReentrantPPLLockHolderdetailsConcurrencyQAEXZ与动态链接库msvcr100.dll上)&#xff0c;官方MSVCR win7&#xff0c;XP的dll下载地址&#xff1a;http://www.microsoft.com/zh-cn/down…...

编程日记 2025/1/12 11:37:42