GFS分布式文件系统集群
GFS分布式文件系统集群
GlusterFS概述
GlusterFS简介
- 开源的分布式文件系统
- 由存储服务器,客户端以及NFS/Samba存储网关组成
- 无元数据服务器
RDMA:负责数据传输
GlusterFS的特点
- 扩展性和高性能
- 高可用性
- 全局统一的命名空间
- 弹性卷管理
- 基于标准协议
GlusterFS术语
- Brick : 存储节点
- Volume : 卷
- FUSE : 内核模块,用户端的交互模块
- VFS : 虚拟端口
- Glusterd : 服务
模块化堆栈架构
- 模块化、堆栈式的架构
- 通过对模块的组合,实现负责的功能
GlusterFS工作模式
创新互联公司是一家成都网站设计、网站建设,提供网页设计,网站设计,网站制作,建网站,定制制作,网站开发公司,于2013年成立是互联行业建设者,服务者。以提升客户品牌价值为核心业务,全程参与项目的网站策划设计制作,前端开发,后台程序制作以及后期项目运营并提出专业建议和思路。
- Application:客户端或应用程序通过GlusterFSync的挂载点访问数据
- VFS:linux系统内核通过VFS API收到请求并处理
- FUSE : VFS 将数据递交给FUSE内核文件系统,fuse
文件系统则是将数据通过/dev/fuse设备文件递交给了GlusterFS client端 - GlusterFS Client ; 通过网络将数据传递至远端的GlusterFS Server,并且写入到服务器存储设备上
GlusterFS工作原理
GlusterFS工作流程
弹性HASH算法
- 通过HASH算法得到一个32位的整数
- 划分为N个连续的子空间,每个空间对应一个Brick
- 弹性HASH算法的优点
-
- 保证数据平均分布在每一个Brink中
-
- 解决了对元数据服务器的依懒,进而解决了单点故障以及访问瓶颈
四个Brick节点的GlusterFS卷,平均分配232次方的区间的范围空间
通过hash算法去找到对应的brick节点的存储空间,去分配数据存储,去调用每一个节点数据
GlusterFS的卷类型
- 分布式卷
- 条带卷
- 复制卷
- 分布式条带卷
- 分布式复制卷
- 条带复制卷
- 分布式条带复制卷
分布式卷
- 没有对文件进行分块处理
- 通过扩展文件属性保存HASH值
- 支持底层文件系统有ext3、ext4、ZFS、XFS等
分布式卷有如下特点
- 文件分布在不同的服务器。不具备冗余性
- 更容易和廉价地扩展卷的大小
- 单点故障会造成数据丢失
- 依懒底层的数据保护
创建分布式卷
- 创建一个名为dis-volume的分布式卷,文件将根据HASH分布在server1:/dir1、server2:/dir2和server3:/dir3中
gluster volume create dis-volume server1:/dir1 server2:/dir2
条带卷
- 根据偏移量将文件分为N块(N个条带节点),轮询的存储在每个Brick Server节点
- 存储大文件时,性能尤为突出
- 不具备冗余性,类似Raid0
从多个server中同时读取文件,效率提升特点
- 数据被分割成更小块分布到块服务器群中的不同条带区
- 分布减少负载且更小的文件加速了存取的速度
没有数据冗余
创建条带卷
- 创建一个名为Stripe-volume的条带卷,文件将被分块轮询的存储在Server1:/dir1和Server2:dir2两个Brick中
gluster volume create stripe-volume stripe 2 transport tcp server1:/dir1 server2:/dir2
复制卷
- 同一个文件保存一份或多分副本
- 复制模式因为保存副本,所以磁盘利用率较低
- 多个节点的存储空间不一致,那么将按照木桶效应取最低节点的容量作为该卷的总容量
特点
- 卷中所有的服务器均保存一个完整的副本
- 卷的副本数量可以有客户创建的时候决定
- 至少由两个块服务器或更多服务器
具备冗余性
创建复制卷
- 创建名为rep-volume的复制卷、文件将同时存储两个副本
gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2
分布式条带卷
- 兼顾分布式卷和条带卷的功能
- 主要用于大文件访问处理
至少最少需要4台服务器
创建分布式条带卷
- 创建一个名为dis-stripe的分布式条带卷,配置分布式的条带卷时,卷中Brink所包含 的存储服务器数必须是条带数的倍数(>=2倍)
gluster volume create rep-volume stripe 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir1 server4:/dir2
分布式复制卷
- 兼顾分布式卷和复制卷的功能
用于需要冗余的情况下
创建分布式复制卷
- 创建一个名为dis-rep的分布式条带卷,配置分布式条带卷的复制卷时,卷中Brink所包含的存储服务器必须是条带数的倍数(>=2倍)
gluster volume create rep-volume replica 2 transport tcp server1:/dir1 server2:/dir2 server3:/dir1 server4:/dir2
文章题目:GFS分布式文件系统集群
网页路径:http://scyanting.com/article/pdjphs.html