Netty内存管理--内存池空间规格化SizeClasses
一、规格化
内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸:
- 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;
- 申请尺寸: 内存使用者希望申请到的内存大小;
- 分配尺寸: 内存池实际分配的内存大小, 存在该尺寸的原因是分配尺寸>=申请尺寸;
总结来说, 内存规格化就是确定有哪些尺寸的内存, 针对不同的申请尺寸提供对应的分配尺寸。
二、规格化描述7元组
每一种尺寸使用下面的7元组表示| 元组字段以及含义如下
| name | 代码注释 | 个人理解 |
|---|---|---|
| index | Size class index | 从0开始的索引 |
| log2Group | Log of group base size (no deltas added) | 尺寸分组的base |
| log2Delta | Log of delta to previous size class | 分组内的增量单位 |
| nDelta | Delta multiplier | 分组内增量单位的倍数 |
| isMultiPageSize | ‘yes’ if a multiple of the page size ‘no’ otherwise | 是否为Page的整倍数 |
| isSubPage | ‘yes’ if a subpage size class ‘no’ otherwise. | 是否可能为SubPage |
| log2DeltaLookup | Same as log2Delta if a lookup table size class ‘no’ otherwise. | 代码中没有使用 |
三、规格化结果
| index | log2Group | log2Delta | nDelta | isMultiPageSize | isSubPage | log2DeltaLookup | size |
|---|---|---|---|---|---|---|---|
| 0 | 4 | 4 | 0 | 0 | 1 | 4 | 16 |
| 1 | 4 | 4 | 1 | 0 | 1 | 4 | 32 |
| 2 | 4 | 4 | 2 | 0 | 1 | 4 | 48 |
| 3 | 4 | 4 | 3 | 0 | 1 | 4 | 64 |
| 4 | 6 | 4 | 1 | 0 | 1 | 4 | 80 |
| 5 | 6 | 4 | 2 | 0 | 1 | 4 | 96 |
| 6 | 6 | 4 | 3 | 0 | 1 | 4 | 112 |
| 7 | 6 | 4 | 4 | 0 | 1 | 4 | 128 |
| 8 | 7 | 5 | 1 | 0 | 1 | 5 | 160 |
| 9 | 7 | 5 | 2 | 0 | 1 | 5 | 192 |
| 10 | 7 | 5 | 3 | 0 | 1 | 5 | 224 |
| 11 | 7 | 5 | 4 | 0 | 1 | 5 | 256 |
| 12 | 8 | 6 | 1 | 0 | 1 | 6 | 320 |
| 13 | 8 | 6 | 2 | 0 | 1 | 6 | 384 |
| 14 | 8 | 6 | 3 | 0 | 1 | 6 | 448 |
| 15 | 8 | 6 | 4 | 0 | 1 | 6 | 512 |
| 16 | 9 | 7 | 1 | 0 | 1 | 7 | 640 |
| 17 | 9 | 7 | 2 | 0 | 1 | 7 | 768 |
| 18 | 9 | 7 | 3 | 0 | 1 | 7 | 896 |
| 19 | 9 | 7 | 4 | 0 | 1 | 7 | 1024 |
| 20 | 10 | 8 | 1 | 0 | 1 | 8 | 1280 |
| 21 | 10 | 8 | 2 | 0 | 1 | 8 | 1536 |
| 22 | 10 | 8 | 3 | 0 | 1 | 8 | 1792 |
| 23 | 10 | 8 | 4 | 0 | 1 | 8 | 2048 |
| 24 | 11 | 9 | 1 | 0 | 1 | 9 | 2560 |
| 25 | 11 | 9 | 2 | 0 | 1 | 9 | 3072 |
| 26 | 11 | 9 | 3 | 0 | 1 | 9 | 3584 |
| 27 | 11 | 9 | 4 | 0 | 1 | 9 | 4096 |
| 28 | 12 | 10 | 1 | 0 | 1 | 0 | 5120 |
| 29 | 12 | 10 | 2 | 0 | 1 | 0 | 6144 |
| 30 | 12 | 10 | 3 | 0 | 1 | 0 | 7168 |
| 31 | 12 | 10 | 4 | 1 | 1 | 0 | 8192 |
| 32 | 13 | 11 | 1 | 0 | 1 | 0 | 10240 |
| 33 | 13 | 11 | 2 | 0 | 1 | 0 | 12288 |
| 34 | 13 | 11 | 3 | 0 | 1 | 0 | 14336 |
| 35 | 13 | 11 | 4 | 1 | 1 | 0 | 16384 |
| 36 | 14 | 12 | 1 | 0 | 1 | 0 | 20480 |
| 37 | 14 | 12 | 2 | 1 | 1 | 0 | 24576 |
| 38 | 14 | 12 | 3 | 0 | 1 | 0 | 28672 |
| 39 | 14 | 12 | 4 | 1 | 0 | 0 | 32768 |
| 40 | 15 | 13 | 1 | 1 | 0 | 0 | 40960 |
| 41 | 15 | 13 | 2 | 1 | 0 | 0 | 49152 |
| 42 | 15 | 13 | 3 | 1 | 0 | 0 | 57344 |
| 43 | 15 | 13 | 4 | 1 | 0 | 0 | 65536 |
| 44 | 16 | 14 | 1 | 1 | 0 | 0 | 81920 |
| 45 | 16 | 14 | 2 | 1 | 0 | 0 | 98304 |
| 46 | 16 | 14 | 3 | 1 | 0 | 0 | 114688 |
| 47 | 16 | 14 | 4 | 1 | 0 | 0 | 131072 |
| 48 | 17 | 15 | 1 | 1 | 0 | 0 | 163840 |
| 49 | 17 | 15 | 2 | 1 | 0 | 0 | 196608 |
| 50 | 17 | 15 | 3 | 1 | 0 | 0 | 229376 |
| 51 | 17 | 15 | 4 | 1 | 0 | 0 | 262144 |
| 52 | 18 | 16 | 1 | 1 | 0 | 0 | 327680 |
| 53 | 18 | 16 | 2 | 1 | 0 | 0 | 393216 |
| 54 | 18 | 16 | 3 | 1 | 0 | 0 | 458752 |
| 55 | 18 | 16 | 4 | 1 | 0 | 0 | 524288 |
| 56 | 19 | 17 | 1 | 1 | 0 | 0 | 655360 |
| 57 | 19 | 17 | 2 | 1 | 0 | 0 | 786432 |
| 58 | 19 | 17 | 3 | 1 | 0 | 0 | 917504 |
| 59 | 19 | 17 | 4 | 1 | 0 | 0 | 1048576 |
| 60 | 20 | 18 | 1 | 1 | 0 | 0 | 1310720 |
| 61 | 20 | 18 | 2 | 1 | 0 | 0 | 1572864 |
| 62 | 20 | 18 | 3 | 1 | 0 | 0 | 1835008 |
| 63 | 20 | 18 | 4 | 1 | 0 | 0 | 2097152 |
| 64 | 21 | 19 | 1 | 1 | 0 | 0 | 2621440 |
| 65 | 21 | 19 | 2 | 1 | 0 | 0 | 3145728 |
| 66 | 21 | 19 | 3 | 1 | 0 | 0 | 3670016 |
| 67 | 21 | 19 | 4 | 1 | 0 | 0 | 4194304 |
| 68 | 22 | 20 | 1 | 1 | 0 | 0 | 5242880 |
| 69 | 22 | 20 | 2 | 1 | 0 | 0 | 6291456 |
| 70 | 22 | 20 | 3 | 1 | 0 | 0 | 7340032 |
| 71 | 22 | 20 | 4 | 1 | 0 | 0 | 8388608 |
| 72 | 23 | 21 | 1 | 1 | 0 | 0 | 10485760 |
| 73 | 23 | 21 | 2 | 1 | 0 | 0 | 12582912 |
| 74 | 23 | 21 | 3 | 1 | 0 | 0 | 14680064 |
| 75 | 23 | 21 | 4 | 1 | 0 | 0 | 16777216 |
四、相关计算公式
a. 每个内存规格的尺寸计算公式
size = (1 << log2Group) + (1 << log2Delta) * nDelta;
b. 第0组是单独初始化不予考虑, 从第1组开始
log2Group = log2Delta + 2;
c. 通过a,b合并得到
size = 2 ^ log2Delta (4 + nDelta)
d. 从c得到, 自第1组开始组内每个内存大小是logDelta的[ 5,6,7,8 ]倍;
五、结果说明
- 最小尺寸16B, 最大尺寸16M;
- 尺寸分19组, 每组4个, 共76种尺寸(规格, 颗粒度);
- 从第1组开始, 后一组是前一组容量的2倍;
- 组内后一个是在前一个的尺寸基础上+log2Delta;
- 尺寸>=pageSize(8K)的有40个;
- 尺寸小于pageSize(8K)的有36个;
- 这种尺寸作为分配的最小颗粒度, 同时也影响了做实际分配时的空间大小以及对应的最小颗粒度(元素)数量;
六、小结
本篇介绍的是Netty4.1.73-Final的内存规格化, 后续的内存分配均以该内存规格为基础进行。整个尺寸要覆盖小尺寸和大尺寸, 平衡分配效率和空间利用率。这里仅仅介绍了其内存规格化的实现结果, 如此设计的原因和历史的演进, 感兴趣的小伙伴可以去进一步研究Jmelloc项目。
相关文章:
Netty内存管理--内存池空间规格化SizeClasses
一、规格化 内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸: 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;申请尺寸: 内存使用者希望申请到的内存大小…...
数据结构刷题(三十):96不同的二叉搜索树、01背包问题理论、416分割等和子集
一、96. 不同的二叉搜索树 1.这个题比较难想递推公式, dp[3],就是元素1为头结点搜索树的数量 元素2为头结点BFS的数量 元素3为头结点BFS的数量 元素1为头结点搜索树的数量 右子树有2个元素的搜索树数量 * 左子树有0个元素的搜索树数量 元素2为头结…...
bash的进程与欢迎讯息自定义
在bash shell中,可以通过多种方式自定义欢迎讯息和提示符。主要有: 修改/etc/profile文件: 该文件在用户登录后执行,定义了PROMPT_COMMAND和PS1提示符。可以修改其内容实现自定义欢迎讯息和提示符。 例如,修改为: bash PROMPT_COMMANDecho -e "\nWelcome to My Bash She…...
本周大新闻|苹果首款MR没有主打卖点;Meta认为AI是AR OS的基础
本周XR大新闻,AR方面,苹果首款MR或没有主打卖点,反而尽可能支持更多App和服务;扎克伯格表示基于AI的AR眼镜操作系统是下一代计算平台的基础;微软芯片工程VP Jean Boufarhat加入Meta芯片团队;Humane展示了…...
Java中工具类Arrays、Collections、Objects
Arrays Arrays是Java中提供的一个针对数组操作的工具类,所有的方法都是静态的。 大致有这些常用的方法 sort()针对常用的基本数据类型,都能进行排序,byte、char、int、long、float、doubleparallelSort()并行排序,多线程排序&am…...
Docker安装Nginx/Python/Golang/Vscode【亲测可用】
一、docker安装nginx docker安装nginx,安装的是最新版本的:docker pull nginx:latest 创建一个容器:docker run --name my-nginx -p 80:80 -d nginx:latest 开启一个交互模式终端:docker exec -it my-nginx bash 创建django项…...
蓝桥杯2022年第十三届决赛真题-最大数字
蓝桥杯2022年第十三届决赛真题-最大数字 时间限制: 3s 内存限制: 320MB 题目描述 给定一个正整数 N。你可以对 N 的任意一位数字执行任意次以下 2 种操作: 将该位数字加 1。如果该位数字已经是 9,加 1 之后变成 0。 将该位数字减 1。如果该位数字已经…...
smbms项目搭建
目录 1.搭建一个maven web项目 2.配置Tomcat 3.测试项目是否能够跑起来 4.导入项目中会遇到的Jar包 5.项目结构搭建 6.项目实体类搭建 7.编写基础公共类 1.数据库配置文件 2.编写数据库的公共类 3.编写字符编码过滤器 3.1web配置注册 4.导入静态资源 1.搭建一个maven web项目 …...
进程/线程 状态模型详解
前言:最近操作系统复习到线程的状态模型(也可以说进程的状态模型,本文直接用线程来说)时候,网上查阅资料,发现很多文章都说的很不一样,有五状态模型、六状态模型、七状态模型.......虽然都是对的…...
数据结构与算法之队列: Leetcode 621. 任务调度器 (Typescript版)
任务调度器 https://leetcode.cn/problems/task-scheduler/ 描述 给你一个用字符数组 tasks 表示的 CPU 需要执行的任务列表。其中每个字母表示一种不同种类的任务。任务可以以任意顺序执行,并且每个任务都可以在 1 个单位时间内执行完。在任何一个单位时间&#…...
【报错】arXiv上传文章出现XXX.sty not found
笔者在overleaf上编译文章一切正常,但上传文章到arxiv时出现类似于如下报错: 一般情况下观察arxiv的编译log,不通过的原因,很多时候都是由于某一行导入了啥package,引起的报错;但是如果没有任何一个具体的…...
项目合同管理
项目合同管理的基本概念及分类、项目合同签订、项目合同管理以及项目合同索赔处理等内容 信息系统工程的建设过程实际上就是合同的执行和监控的过程 1、项目合同的概念及分类 合同法律关系:权力和义务关系 合同可以是书面形式、口头形式和其他形式 书面形式是指…...
聊聊ClickHouse向量化执行引擎-过滤操作
俄罗斯Yandex开发的ClickHouse是一款性能黑马的OLAP数据库,其对SIMD的灵活运用给其带来了难以置信的性能。本文我们聊聊它如何对过滤操作进行SIMD优化。 基本思想 1、有一个数组data,即ColumnVector::data,存放数据 2、使用uint8类型…...
数据可视化第二版-拓展-网约车分析案例
文章目录 数据可视化第二版-拓展-网约车分析案例竞赛介绍 1等奖作品-IT从业者张某某的作品结论过程数据和思考数据处理数据探索数据分析方法选择数据分析相关性分析转化率分析分析结论 完单数量分析分析结论 司机数量分析分析结论 时间分析每日订单分析 工作日各时段分析周六日…...
pytest - Getting Start
前言 项目开发中有很多的功能,通常开发人员需要对自己编写的代码进行自测,除了借助postman等工具进行测试外,还需要编写单元测试对开发的代码进行测试,通过单元测试来判断代码是否能够实现需求,本文介绍的pytest模块是…...
( 字符串) 205. 同构字符串 ——【Leetcode每日一题】
❓205. 同构字符串 难度:简单 给定两个字符串 s 和 t ,判断它们是否是同构的。 如果 s 中的字符可以按某种映射关系替换得到 t ,那么这两个字符串是同构的。 每个出现的字符都应当映射到另一个字符,同时不改变字符的顺序。不同…...
python+django+vue消防知识宣传网站
开发语言:Python 框架:django Python版本:python3.7.7 数据库:mysql 数据库工具:Navicat 开发软件:PyCharm 层随着移动应用技术的发展,越来越多的消防单位借助于移动手机、电脑完成生活中的事…...
彻底告别手动配置任务,魔改xxl-job!
分析 改造 1、接口调用 2、创建新注解 3、自动注册核心 4、自动装配 测试 测试后 XXL-Job是一款非常优秀的任务调度中间件,其轻量级、使用简单、支持分布式等优点,被广泛应用在我们的项目中,解决了不少定时任务的调度问题。不仅如此&a…...
【五一创作】Springboot+多环境+多数据源(MySQL+Phoenix)配置及查询(多知识点)
文章目录 1. 背景2. 技术点3 子模块依赖SpringBoot设置4. 多环境配置4.1 application.yml4.2 application-pro.yml 5. 多数据源配置5.1 yml配置5.2 自定义数据源在Java中配置5.2.1 PhoenixDataSourceConfig5.2.2 MysqlDataSourceConfig 6. 完整的Pom6. 测试6.1 Mapper配置6.2 方…...
Python小姿势 - 线程和进程:
线程和进程: Python里面线程是真正的并行执行,进程是可以并行执行的。 所谓进程,就是操作系统中执行一个程序的独立单元,它是系统进行资源分配和调度的基本单位。一个进程可以创建和撤销另一个进程,同一个进程内可以并…...
使用HY-Motion 1.0和SolidWorks实现工业设计动画生成
使用HY-Motion 1.0和SolidWorks实现工业设计动画生成 1. 工业设计动画的新可能 想象一下这样的场景:你刚完成了一个精密机械部件的三维设计,现在需要向客户展示它的工作原理。传统方式可能需要找动画师,花费数天时间制作演示动画࿰…...
深入解析音视频封装格式——从MP4到MKV的全面剖析
1. 音视频封装格式的本质 第一次接触音视频开发时,我被各种封装格式搞得晕头转向。直到有天我把它们想象成快递包裹才恍然大悟——封装格式就像不同品牌的快递箱,虽然外观和内部结构不同,但核心功能都是把"视频内容"和"音频内…...
云容笔谈·东方红颜影像生成系统:从PS软件下载到AI生成,数字艺术创作流程革新
云容笔谈东方红颜影像生成系统:从PS软件下载到AI生成,数字艺术创作流程革新 过去,一提到数字艺术创作,很多人的第一反应就是去搜索“PS软件下载”,然后花上数小时甚至数天,从零开始一笔一画地勾勒。这固然…...
相机传感器尺寸与光圈F值的实战解析:如何选择最佳组合
1. 相机传感器尺寸:从参数到实际画质的影响 每次看到相机参数表里写着"1英寸传感器"或"1/2.3英寸CMOS"时,你是不是也疑惑过这些数字到底代表什么?我刚开始接触摄影时,曾经以为1英寸传感器就是对角线25.4mm&am…...
py每日spider案例之某website之music搜索接口
import requestsheaders = {"Accept": "*/*","Accept-Language": "zh-CN,zh;q=0.9","Cache-Control": "no-cache","Connection": "keep-al...
ROS2导航实战:用slam_toolbox+TurtleBot3从零搭建室内地图(附避坑指南)
ROS2导航实战:用slam_toolboxTurtleBot3从零搭建室内地图(附避坑指南) 1. 环境准备与工具链配置 在开始SLAM建图之前,我们需要确保开发环境配置正确。以下是完整的工具链清单和验证步骤: 必备组件清单: Ubu…...
5G网络架构深度解析:从核心网到接入网的组网实战
1. 5G网络架构全景解析 5G网络架构可以想象成一座现代化城市的交通系统。核心网相当于城市交通指挥中心,负责全局调度;接入网则是遍布城市的道路和红绿灯系统,直接管理车辆(数据)的流动。与传统4G网络相比,…...
2026年写作小白救星!开源免费AI论文神器——千笔·专业学术智能体
论文写作难?选题无头绪、框架混乱、查重率高、格式出错……2026届学生是否正被这些难题困扰?千笔AI,专为学术写作而生,助你轻松应对所有挑战。千笔AI(官网直达入口) :https://www.qianbixiezuo.com一、强烈推荐&#x…...
从 “瞎猜” 到 “精准”:一文搞懂 LLM reAct 框架的底层逻辑与实战
核心概念:打破“幻觉”的循环想象一下,你正在主导设计一个复杂的业务系统,比如一个需要处理海量高校数据的智能助手。如果用户问大模型:“找出计算机系上个月登记的、采用率最高的三本教材,并核对它们在最新系统里的定…...
告别等待!用vLLM的AsyncLLM引擎实现实时AI对话流式输出(Python异步编程实战)
实时AI对话流式输出:基于vLLM AsyncLLM引擎的Python异步编程实践 在当今人机交互场景中,用户对响应速度的期待已经达到毫秒级。传统的大语言模型推理方式——等待全部内容生成完毕再返回结果——正在被更符合人类对话习惯的"打字机式"流式输出…...
