当前位置：首页 > news >正文

HBASE知识点

news 文章来源：https://blog.csdn.net/qq1049545450/article/details/132828066 2024/11/19 17:26:45

HBASE是什么？

高可靠、高性能、面向列、可伸缩、实时读写的分布式数据库。
利用HDFS作为其文件存储系统，利用MapReduce来处理HBase中的海量数据。利用Zookeeper作为其分布式协同服务。
用于存储非结构化和半结构化的松散数据。

HBase数据模型

RowKey: 唯一标识一行记录，按字典顺序排序，RowKey只能存储64K的字节数据。

字典顺序存储，在合理的rowkey设计情况下，范围查询很快。

Column Family列族：
– HBASE中每个列都归属于某个列族，列族必须作为表模式定义的一部分先给出。
– 列名以列族作为前缀，每个列族都可以有多个列成员（column），新的列族成员可以随后按需动态加入。
– 权限控制、存储以及调优都是在列族层面进行的。
– HBase把同一列族里面的数据存储在同一目录下，由几个文件保存。
TimeStamp：
– 在HBase每个cell存储单元对同一份数据有多个版本，更加唯一的时间戳来区分每个版本之间的诧异，不同版本的数据安装时间大圩排序，最新的数据版本排在最前面。
– 时间戳类型是64位整型。
– 时间错可以由HBASE在数据写入时自动赋值，此时时间戳是精确到毫秒的当前系统时间。
– 时间戳也可以由用户显示赋值，如果应用程序要避免数据版本冲突，就必须自己生产具有唯一性的时间戳。
Cell单元格
– 有行和列的坐标交叉决定。
– 单元格室友版本的。
– 单元格的内容是未解析的字节数组：{rowkey,column(=family+qualifier),version}唯一确定的单元
– cell中的数据是没有类型的，全部是字节数组形式存储的。

HBase架构

在这里插入图片描述

Client

访问Hbase的接口并维护Cache加快对Hbase的访问。

Zookeeper

保证集群中只有一个活跃的Master。存储所有Region的寻址信息。实时监控Region的上线、下线信息，并实时通知Master。存储Hbase的schema和table元数据。

HMaster

为RegionServer分配Region,负责RegionServer的负责均衡。发现失效的RegionServer并重新分配其下的Region，管理用户对Table的CRUD。

HRegionServer

负责维护HMaster分配给他的Region，处理这些Region的IO请求。当Region变大到一个阈值后，RegionServer会进行Region拆分，并告知Master节点，由Master协调拆分后的Region进行迁移。

HRegion

HBase自动把表水平划分成多个Region，每个Region会保存一个表里面某段连续的数据（类似MYSQL表的横向拆分），每个表最开始只有一个Region，随着数据不断插入，Region不断增大，当增大到一个阈值时，Region就会才分成两个新的Region（裂变）。当Table中的行不断增多，就会有越来越多的Region，这样一张完整的表被保存在多个RegionServer上。

Store的MemStore和StoreFile

一个Region有多个Store组成，一个Store对应一个列族。Store报货位于内存中的Memstore和位于磁盘中的StoreFile。
写操作先写入Memstore，当Memstore中的数据打到某个阈值，HRegionServer会启动FlashCache进行进行写入StoreFile，每次写入形成单独的StoreFile。当StoreFile文件数量增长到一定的阈值后，系统会进行合并，在合并过程中会进行版本合并和删除工作（写操作的时候都是append操作，不会有更新和删除动作，所以速度很快），形成更大的StoreFile。当一个Region所有的StoreFile的大小和数量超过一定的阈值后，会把所有的Region分隔成两个，并由HMaster分配到相应的RegionServer服务器，实现负载均衡
读操作先在Memstore找，找不到去blockCache找，找不到再到StoreFile找。

blockCache是Hbase的读缓存，HBase采用最近最少访问策略来管理。

HLog

在HBase写操作时会先写HLog，然后再往Memstore写。HLog先写到内存，然后每秒进行一次持久化。在写入Memstore后，持久化到StoreFile之前如果HRegionServer挂掉了，则通过HLog进行数据恢复。如果HLog持久化之前挂掉了，那么这一秒的数据将丢失。

HFILE

StoreFile存储在HDFS中的文件名称。

写操作

访问ZK得到元数据表地址。
访问RegionServer找到列族Store；
往Store的MemStore写数据（先写入HLog，再写入MemStore）。
MemStore在数据快满或满64M的时候进行持久化到StoreFile。

读操作

访问ZK得到元数据表地址。
访问RegionServer找到列族Store。
从MemStore读数据，如果MemStore中没有就从blockCache（读缓存）读。
blockCache没有则从磁盘读取，如果读取到则返回并缓存到blockCache。