备案控制台
文档
产品文档
输入文档关键字查找
首页 开源大数据平台 E-MapReduce EMR on ECS 操作指南 组件操作 JindoData（仅对存量用户开放） EMR集群JindoSDK升级流程

EMR集群JindoSDK升级流程

更新时间：
一键部署
产品详情
相关技术圈
我的收藏

本文为您介绍在EMR集群环境中，针对不同应用场景升级JindoSDK的详细步骤。

前提条件

已创建EMR集群，详情请参见创建集群。

场景一：升级已有集群

如果您创建的EMR-5.6.0及以上版本或EMR-3.40.0及以上版本集群，在使用过程中遇到JindoData版本已知问题，或者需要使用JindoSDK的新功能，可以按照以下步骤升级JindoSDK。JindoSDK的版本说明，请参见JindoSDK版本记录。

重要

如果从EMR-4.6.8或更低版本升级到4.6.9或以上版本、或者升级到6.x系列时，由于JindoCommitter默认使用的作业临时路径已更改。为了避免升级过程中数据丟失，请在升级前确保通过在Hadoop-Common的core-site.xml中设置fs.jdo.committer.allow.concurrent=false，或在Spark配置中加入spark.hadoop.fs.jdo.committer.allow.concurrent=false。待所有包含Gateway节点的JindoSDK升级完毕后，您可以选择移除该设置。

步骤一：准备软件包和升级脚本

  1. 登录EMR集群的Master节点，详情请参见登录集群。

  2. 将下载的patch包放在emr-user用户的HOME目录下，然后解压缩patch包。

    su - emr-user
cd /home/emr-user/
wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/resources/emr-taihao/jindosdk-patches.tar.gz
tar zxf jindosdk-patches.tar.gz

  3. 下载JindoSDK软件包jindosdk-{VERSION}.tar.gz，放在解压后的目录。

    本文示例是将集群中的JindoSDK升级到6.3.4版本。

    cd jindosdk-patches

wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/release/6.3.4/jindosdk-6.3.4-linux.tar.gz

ls -l

    jindosdk-patches内容示例如下所示。

    -rwxrwxr-x 1 emr-user emr-user      2439 May 01 00:00 apply_all.sh
-rwxrwxr-x 1 emr-user emr-user      7315 May 01 00:00 apply.sh
-rw-rw-r-- 1 emr-user emr-user        40 May 01 00:00 hosts
-rw-r----- 1 emr-user emr-user xxxxxxxxx May 01 00:00 jindosdk-6.3.4-linux.tar.gz
-rwxrwxr-x 1 emr-user emr-user      1112 May 01 00:00 revert_all.sh
-rwxrwxr-x 1 emr-user emr-user      2042 May 01 00:00 revert.sh

步骤二：配置升级节点信息

  • 手动配置节点信息

    1. 编辑patch包中的hosts文件。

      vim hosts

    2. 添加集群所有节点的hostname，例如master-1-1或core-1-1，文件内容以行分割。

      例如，本文hosts文件内容如下。

      master-1-1
core-1-1
core-1-2

  • 自动填充节点信息

    您也可以执行以下命令获取全部节点信息，如果hosts获取失败，则需要手动补全。

    cat  /usr/local/taihao-executor-all/data/cache/.cluster_context | jq --raw-output '.nodes[].hostname.alias[]' > hosts

步骤三：执行升级操作

通过apply_all.sh脚本，升级JindoSDK版本至指定的新版本。

./apply_all.sh $NEW_JINDOSDK_VERSION  # 使用指定的$NEW_JINDOSDK_VERSION执行apply_all.sh脚本，以升级到该版本的JindoSDK。

例如，升级集群中的JindoSDK至6.3.4版本。

./apply_all.sh 6.3.4

返回信息中包含### DONE时，表示脚本执行完成。

>>> updating ...  master-1-1
>>> updating ...  core-1-1
>>> updating ...  core-1-2
### DONE

步骤四：确认升级情况

ls -l /opt/apps/JINDOSDK/jindosdk-current/lib

以从集群默认版本6.2.0升级为6.3.4版本为例，返回示例如下。

lrwxrwxrwx 1 emr-user emr-user 64 Apr 12 11:08 jindo-core-6.2.0.jar -> /opt/apps/JINDOSDK/jindosdk-6.3.4-linux/lib/jindo-core-6.3.4.jar
lrwxrwxrwx 1 emr-user emr-user 82 Apr 12 11:08 jindo-core-linux-el7-aarch64-6.2.0.jar -> /opt/apps/JINDOSDK/jindosdk-6.3.4-linux/lib/jindo-core-linux-el7-aarch64-6.3.4.jar
lrwxrwxrwx 1 emr-user emr-user 63 Apr 12 11:08 jindo-sdk-6.2.0.jar -> /opt/apps/JINDOSDK/jindosdk-6.3.4-linux/lib/jindo-sdk-6.3.4.jar
lrwxrwxrwx 1 emr-user emr-user 50 Apr 12 11:08 native -> /opt/apps/JINDOSDK/jindosdk-6.3.4-linux/lib/native
lrwxrwxrwx 1 emr-user emr-user 57 Apr 12 11:08 site-packages -> /opt/apps/JINDOSDK/jindosdk-6.3.4-linux/lib/site-packages

步骤五：升级后重启服务

说明

对于已经在运行的YARN作业（Application，例如：Spark Streaming或Flink作业），需要停止作业后，批量滚动重启YARN NodeManager。

Hive、Presto、Impala、Flink、Ranger、Spark和Zeppelin等服务需要重启后才能完成升级。

以Hive服务为例，在EMR集群的Hive服务页面，选择右上角的更多操作 > 重启。

场景二：扩容已有集群或新建集群

当对现有集群进行扩容并需部署新版JindoSDK时，可通过EMR控制台的引导操作功能来自动化完成这一过程，确保无论是创建新集群还是向现有集群添加节点时，JindoSDK都能被顺利升级至最新版本。请遵循以下详细步骤实施JindoSDK的升级操作，以高效、准确地完成集群扩容与升级任务。

步骤一：制作引导升级包

  1. 执行以下命令，下载jindosdk-patches.tar.gz、jindosdk-{VERSION}-{PLATFORM}.tar.gz和bootstrap_jindosdk.sh。

    本文示例是将集群中的JindoSDK升级到6.3.4版本。

    mkdir jindo-patch

cd jindo-patch

wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/resources/emr-taihao/jindosdk-patches.tar.gz

wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/release/6.3.4/jindosdk-6.3.4-linux.tar.gz

wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/resources/emr-taihao/bootstrap_jindosdk.sh

ls -l

    返回内容示例如下所示。

    -rw-r----- 1 hadoop hadoop      xxxx May 01 00:00 bootstrap_jindosdk.sh
-rw-r----- 1 hadoop hadoop xxxxxxxxx May 01 00:00 jindosdk-6.3.4-linux.tar.gz
-rw-r----- 1 hadoop hadoop      xxxx May 01 00:00 jindosdk-patches.tar.gz

  2. 执行以下命令，制作升级包。

    bash bootstrap_jindosdk.sh -gen $NEW_JINDOSDK_VERSION  # 使用指定的$NEW_JINDOSDK_VERSION执行bootstrap_jindosdk.sh脚本，以升级到该版本的JindoSDK。
    说明

    • 对于扩容现有集群，请使用-gen选项以生成轻量级升级包。

    • 对于新建集群，使用-gen-full选项以生成包含完整内容的升级包。

    例如，升级JindoSDK到6.3.4版本。

    bash bootstrap_jindosdk.sh -gen 6.3.4

    升级包制作成功后，显示以下内容。

    Generated patch at /home/emr-user/jindo-patch/jindosdk-bootstrap-patches.tar.gz

步骤二：上传引导升级包

将patch包和bootstrap脚本上传到OSS上。EMR集群内可以通过Hadoop命令上传，也可以通过阿里云对象存储OSS控制台、ossutil或OSS Browser等工具上传。

例如，上传到OSS的路径为oss://<bucket-name>/path/to/bootstrap_jindosdk.sh和oss://<bucket-name>/path/to/jindosdk-bootstrap-patches.tar.gz。

hadoop dfs -mkdir -p oss://<bucket-name>/path/to/patch/

cd /home/hadoop/patch/
hadoop dfs -put jindosdk-bootstrap-patches.tar.gz oss://<bucket-name>/path/to/patch/
hadoop dfs -put bootstrap_jindosdk.sh oss://<bucket-name>/path/to/patch/

hadoop dfs -ls oss://<bucket-name>/path/to/patch/

返回内容示例如下所示。

Found 2 items
-rw-rw-rw-   1       2634 2022-05-13 14:07 oss://<bucket-name>/.../bootstrap_jindosdk.sh
-rw-rw-rw-   1  597342992 2022-05-13 13:41 oss://<bucket-name>/.../jindosdk-bootstrap-patches.tar.gz

步骤三：添加引导操作

在EMR控制台添加引导操作。具体步骤，请参见管理引导操作。

需添加的配置项如下表所示。

参数

描述

示例

名称

引导操作的名称。例如：升级JindoSDK。

update_jindosdk

脚本位置

选择脚本所在OSS的位置。脚本路径格式必须为oss://**/*.sh格式。

oss:///path/to/patch/bootstrap_jindosdk.sh

参数

引导操作脚本的参数，指定脚本中所引用的变量的值。

-bootstrap oss:///path/to/patch/jindosdk-bootstrap-patches.tar.gz

执行范围

选择集群。

集群

执行时间

选择组件启动后。

组件启动后

执行失败策略

选择继续执行。

继续执行

步骤四：重启服务

重启相关服务，确保加载到最新的修复。

  • 如果是新建集群，则需要重启Hive、Presto、Impala、Flink、Ranger、Spark和Zeppelin等服务。

  • 如果是扩容新节点，则需要重启对应节点上的Hive、Presto、Impala、Flink、Ranger、Spark和Zeppelin等服务。

场景三：将JindoSDK回滚至集群默认版本

如果您的集群为EMR-5.6.0及以上或EMR-3.40.0及以上版本，在升级过程中遇到问题需要将集群恢复至默认的JindoSDK版本，可以按照以下步骤操作。

步骤一：准备回滚脚本

  1. 登录EMR集群的Master节点，详情请参见登录集群。

  2. 将下载的patch包放在emr-user用户的HOME目录下，然后解压缩patch包。

    su - emr-user
cd /home/emr-user/
wget https://jindodata-binary.oss-cn-shanghai.aliyuncs.com/resources/emr-taihao/jindosdk-patches.tar.gz
tar zxf jindosdk-patches.tar.gz
cd jindosdk-patches
ls -l

    返回信息如下所示。

    -rwxrwxr-x 1 emr-user emr-user      2439 May 01 00:00 apply_all.sh
-rwxrwxr-x 1 emr-user emr-user      7315 May 01 00:00 apply.sh
-rw-rw-r-- 1 emr-user emr-user        40 May 01 00:00 hosts
-rwxrwxr-x 1 emr-user emr-user      1112 May 01 00:00 revert_all.sh
-rwxrwxr-x 1 emr-user emr-user      2042 May 01 00:00 revert.sh

步骤二：配置回滚节点信息

  • 手动配置节点信息

    1. 编辑patch包中的hosts文件。

      vim hosts

    2. 添加集群所有节点的hostname，例如master-1-1或core-1-1，文件内容以行分割。

      例如，本文hosts文件内容如下。

      master-1-1
core-1-1
core-1-2

  • 自动填充节点信息

    您也可以执行以下命令获取全部节点信息，如果hosts获取失败，则需要手动补全。

    cat  /usr/local/taihao-executor-all/data/cache/.cluster_context | jq --raw-output '.nodes[].hostname.alias[]' > hosts

步骤三：执行回滚操作

执行以下命令回滚所有更改。

./revert_all.sh

返回信息中包含### DONE时，表示脚本执行完成。

>>> updating ...  master-1-1
>>> updating ...  core-1-1
>>> updating ...  core-1-2
### DONE

步骤四：确认回滚情况

ls -l /opt/apps/JINDOSDK/jindosdk-current/lib

以回滚到6.2.0版本为例，返回示例如下。

-rw-r--r-- 1 emr-user emr-user  1253740 Apr 24 17:40 jindo-core-6.2.0.jar
-rw-r--r-- 1 emr-user emr-user 13110547 Apr 24 17:40 jindo-core-linux-el7-aarch64-6.2.0.jar
-rw-r--r-- 1 emr-user emr-user  4432227 Apr 24 17:40 jindo-sdk-6.2.0.jar
drwxr-xr-x 2 emr-user emr-user     4096 Apr 24 17:40 native

步骤五：重启服务

说明

对于已经在运行的YARN作业（Application，例如：Spark Streaming或Flink作业），需要停止作业后，批量滚动重启YARN NodeManager。

Hive、Presto、Impala、Flink、Ranger、Spark和Zeppelin等服务需要重启后才能完成回滚。

以Hive服务为例，在EMR集群的Hive服务页面，选择右上角的更多操作 > 重启。

上一篇：在非EMR集群中部署JindoSDK下一篇：EMR集群JindoData升级流程
文档推荐
  • 本页导读 （1）