博客
关于我
HDFS SBN实现与ANN的一致性读
阅读量:373 次
发布时间:2019-03-05

本文共 1068 字,大约阅读时间需要 3 分钟。

在HDFS的HA模式中,ANN与SBN的协同工作机制一直是系统性能优化的重要方向之一。ANN作为主NameNode,SBN作为备用NameNode,在数据同步机制上存在一个显著的延时问题。这个延时主要体现在SBN的元数据更新相比ANN存在滞后现象,导致读操作上可能出现“Stale Read”问题。这种延迟不仅影响了系统的可用性,还可能对关键任务的执行产生负面影响。

在这个过程中,SBN实现一致性读的需求逐渐显现。需要明确的是,这一功能不是简单的数据一致性问题,而是对集群整体性能优化的重要突破。具体来看,SBN一致性读的应用场景主要包含以下几个方面:

首先,充分发挥SBN的处理能力,将所有读请求转移到SBN处理,而非直接路由至ANN。这一机制不仅能够显著提升集群的读写吞吐量,还能够在Hadoop 3.0及以后的版本中,通过支持多SBN的部署模式,进一步增强集群的容错能力和处理能力。其次,通过将读写操作分离,避免了不同类型操作之间的相互干扰,从而提升了系统的稳定性和性能表现。

在实现细节上,SBN一致性读的设计理念可以概括为一个双层次的数据追踪机制。客户端维护两个lastSeenId标识符,分别对应ANN和SBN的最新事务ID。具体规则如下:如果ANN的lastSeenId小于等于SBN的lastSeenId,客户端将读请求转向ANN,并更新ANN的lastSeenId;反之,客户端将等待直至SBN的数据追上ANN的lastSeenId。

为了实现这一机制,需要引入新的FailoverProxyProvider类,负责将读请求代理转发至SBN。同时,为了保证系统的数据一致性,新增了ONN(ObserverNode)角色,其主要职责是作为SBN的备份,负责消费JNN上的editlog,但不执行checkpoint操作。为了减少数据延迟,SBN需要支持读取editlog的中间状态数据,而非仅仅读取已关闭的文件。这种机制将显著降低数据追赶所需的时间。

在系统架构上,ANN、SBN和ONN形成一个互相备份的三层转换关系。这一设计不仅提升了数据冗余度,还为集群的故障转换提供了更高效的支持能力。通过这种方式,系统在面对节点故障时,可以快速切换到备用节点,确保数据访问的连续性。

总的来说,SBN一致性读的设计和实现,是对HDFS HA模式优化的一个重要里程碑。它不仅解决了读不一致性的问题,还为集群的性能优化和容错能力提供了新的可能性。这一机制的落地将为HDFS在大规模存储和高并发场景下的应用,带来更高的可靠性和效率。

转载地址:http://long.baihongyu.com/

你可能感兴趣的文章
Python网络爬虫基础进阶到实战教程
查看>>
Python 初学者需要知道的四条建议
查看>>
Python 判断字符串是否包含子字符串
查看>>
python 判断当前时间是否为零点
查看>>
python 利用pandas读取本地中CSV文件的指定列 列名重命名 并保存回本地
查看>>
python 利用pyspark读取HDFS中CSV文件的指定列 列名重命名 并保存回HDFS
查看>>
python 利用pyttsx3文字转语音
查看>>
python 利用已有Ner模型进行数据清洗合并
查看>>
python 到大数据开发工程师_如何成为一个大数据开发工程师?
查看>>
python 加密解密(base64, AES)
查看>>
Python 包管理器和 Node.js
查看>>
Python 单词字母顺序不变且所有倒排
查看>>
python 启动提示IDLE's subprocess didn't make conne...
查看>>
python 命令接口_实现“[命令][操作][参数]”样式的命令行接口?
查看>>
Python 和 OpenCV.如何检测图像中的所有(填充)圆形/圆形对象?
查看>>
Python 和 RabbitMQ - 聆听来自多个渠道的消费事件的最佳方式?
查看>>
python编辑器打不开_关于命令ride.py打不开RF,而是打开pycharm编辑器问题解决思路...
查看>>
python编译exe同时支持32位_第三周:同时管理64位和32位版本的Python,并用Pyinstaller打包成exe...
查看>>
Python 和Java 哪个更适合做自动化测试?
查看>>
Python编程:掌握高级语言程序设计。从零基础到精通,收藏这篇就够了!
查看>>