Advertisement

HDFS源码分析(二)——元数据备份机制

阅读量:

前言

在Hadoop系统中,默认情况下所有元数据的存储位置均固定于namenode节点上。每当集群进行重启操作时,系统都需要从这些持久化存储的文件中将数据加载至内存空间中进行处理。通过镜像操作以及对编辑日志文件的定期扫描与合并来完成数据维护。实际上由SecondaryNameNode负责执行这一功能。然而熟悉这一表面现象的人群远多于真正深入探究其中具体实现原理的人群。而在写入编辑日志的过程中为了提高处理效率我们采用了一种双缓冲区技术以提升并发处理能力。为了确保操作的一致性和安全性作者在相关环节增加了多重验证机制与此同时也考虑到了如何实现对操作中断状态的有效处理。对于上述问题如果你无法给出明确答案不妨继续关注后续内容以便分享我的学习体会

相关涉及类

对于读者而言,在深入理解本文内容时

FSImage类--命名空间镜像类,在此类中涵盖了所有与命名空间镜像相关的方法

2.FSEditLog--编辑日志类,编辑日志类涉及到了每个操作记录的写入。

  1. editLogInputStream 和 editLogOutputStream--涉及日志输入相关的工具以及涉及日志输出的相关工具,在这一系列组件中包含了基于这两个核心组件展开的各种文件读写操作。这些组件属于普通输入流组件系列中的派生类型,并对外提供了若干专门用于日志处理的相关功能模块。

  2. Storage 和

全部评论 (0)

还没有任何评论哟~