欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Flink on yarn (HA)测试

程序员文章站 2022-06-17 09:06:55
...

  前面已经介绍了Flink on yarn的相关部署,在yarn当中,启动Flink有两种模式,分别是客户端模式和分离式,下面将介绍Flink on yarn HA是如何在宕机后,重启Flink及kill掉进程后,进行主备切换的。

   首先我们在Flink on yarn的配置中采用了2个JobManager。其实在Flink on yarn 模式中,一般选择一个JobManager已经足够了。

一.配置masters

[aaa@qq.com conf]# vim masters 
   192.168.44.128:8081
   192.168.44.142:8081

二.启动Fink yarn session

分离式启动
[root@mdw bin]# /yarn-session.sh -n 3 -jm 1024 -tm 1024  -s 3 -nm FlinkOnYarnSession -d -st

参数:-d代表已分离式模式启动,意味着FlinkOnYarnSession启动后与yarn没有任何关系。

首先我们通过yarn web UI看下application
Flink on yarn (HA)测试
接下来查看进程
Flink on yarn (HA)测试
然后杀死这个Jobmanager(AM)进程YarnApplicationMasterRunner,看看Yarn Cluster的HA情况
Flink on yarn (HA)测试
回到刚才的yarn界面
Flink on yarn (HA)测试
此时可以看到这个应用从0001切换到了0002;

再次在另一个节点看到,yarn session又启动了
Flink on yarn (HA)测试

下面另外介绍一下,启动yarn session时的几个参数:

  • -d:此参数加上代表Flink on yarn属于分离模式;
  • -n: container 指YARN container分配的个数(即TaskManagers的个数);
  • -jm:–jobManagerMemory 指JobManager Containe的内存大小,单位为MB;
  • -tm:–taskManagerMemory 指每个TaskManagerContainer的内存大小,单位为MB;
  • -s :指每个TaskManager的slot个数;

  • -