Confluent/ZooKeeper

来自Gea-Suan Lin's Wiki
Gslin讨论 | 贡献2019年3月13日 (三) 03:08的版本 →‎首段
跳到导航 跳到搜索

设定ZooKeeper

修改/etc/kafka/zookeeper.properties,其中IP address需要填写对应的位置:

#
tickTime=2000
dataDir=/var/lib/zookeeper/
clientPort=2181
initLimit=5
syncLimit=2
server.1=1.2.3.4:2888:3888
server.2=5.6.7.8:2888:3888
server.3=9.10.11.12:2888:3888
autopurge.snapRetainCount=3
autopurge.purgeInterval=24

新增/var/lib/zookeeper/myid,每一台都需要不同,123

1

然后修改档案拥有人:

sudo chown cp-kafka:confluent /var/lib/zookeeper/myid

目前的ZooKeeper(Confluent 2.11版内的ZooKeeper)预设值是使用512 MB的内存,但主机有7.5 GB的内存,所以会想要让ZooKeeper可以用7 GB,因此需要修改ZooKeeper的JVM参数。这边需要新增/lib/systemd/system/confluent-zookeeper.service.d/30-options.conf(目录可能需要自己建立):

[Service]
Environment=KAFKA_HEAP_OPTS="-Xmx7g -Xms7g"

理论上就可以启动了:

sudo systemctl daemon-reload
sudo service confluent-zookeeper start
sudo service confluent-zookeeper status

可以看输出的资讯判断系统状态:

echo stat | nc 127.0.0.1 2181

或是直接透过指令操作测试:

zookeeper-shell 127.0.0.1:2181

接下来可以将TCP Port 2181建立对应的TCP Load Balancer(像是用ELB)。

认证

如果需要让ZooKeeper启用认证,需要先建立对应的账号与密码字串(这个例子里面是adminpassword):

java -cp "$(echo /usr/share/java/kafka/* | sed 's/ /:/g')" org.apache.zookeeper.server.auth.DigestAuthenticationProvider admin:password

会产生像是这样的输出,其中后面的那串值是重点:

admin:password->admin:bjkZ9W+M82HUZ9xb8/Oy4cmJGfg=

然后直接放进设定内:

KAKFA_OPTS=-Dzookeeper.DigestAuthenticationProvider.superDigest=admin:bjkZ9W+M82HUZ9xb8/Oy4cmJGfg=

这样就可以在zookeeper-shell里面认证:

addauth digest admin:password

相关连结