Advertisement

从Hadoop 1.2.1升级到2.6.0的一次技术挑战(包括涉及的组件如Hive和HBase的升级)

阅读量:

为更紧密地契合大数据技术发展的前沿动态,紧跟行业领先的技术方向,我们对线上环境中的Hadoop 1.2.1版本进行了升级,将其更新至2.6.0版本。此次升级并非临时决定,而是经过长期筹划的举措。然而,由于整个升级流程较为复杂,不仅涉及HDFS底层存储架构的调整,还牵涉到Hive、HBase等多个上层系统的适配与兼容问题,存在一定风险因素,因此一直等待一个更为合适的实施时机。直至近期,在基于Hadoop 2.6.0和HBase 0.98.8 API开发的ETL系统完成测试并准备上线部署时,我们最终下定决心启动此次版本升级。

尽管此前已在测试环境中尝试过一次升级操作,并在过程中积累了不少经验教训,但实际在线上环境中执行时仍遇到了诸多挑战。不过经过团队努力与问题排查后,最终顺利完成了整个升级任务。在本次升级之前,我们的线上环境共计包含13个节点:其中12个节点分别承担DataNode和TaskTracker的功能;另外还有1个节点作为NameNode和JobTracker使用。恰逢此时有一台新设备可同时部署于集群中,因此决定将全部14台设备一并进行系统更新。此外,在集群升级前的所有DataNode节点上共配置了约60TB的HDFS存储空间,并已使用其中的26TB用于存放数据。

整体而言,本次升级工作主要分为以下三个阶段:

1、完成从Hadoop 1.2.1到Hadoop 2.6.0

全部评论 (0)

还没有任何评论哟~