Apache Kafka

Apache Kafka是一套基于Java与Scala，提供Streaming架构的软件。

介绍

Kafka本身不过多处理多节点之间的效能问题，而是透过ZooKeeper处理。可以从“#测试”的章节看到操作时都是指定ZooKeeper当作API Endpoint。在Production环境上，一般我们会用TCP load balancer放在前面，可以让用户端架构比较简单（仅需设定单一主机名称）。

安装

目前在Ubuntu上没有系统套件或是PPA可以安装，一般是自行下载后装到/opt下。最新版的资讯可以在Kafka的Download页面得到，这边使用2.1.1版：

cd /tmp
wget https://ftp.jaist.ac.jp/pub/apache/kafka/2.1.1/kafka_2.12-2.1.1.tgz
cd /opt
sudo tar zxvf /tmp/kafka_2.12-2.1.1.tgz
sudo ln -fs kafka_2.12-2.1.1 kafka

设定

• 修改/opt/kafka/config/server.properties内的broker.id，这边一台设1，另外一台设2。
• 修改/opt/kafka/config/server.properties内的zookeeper.connect，改成三台ZooKeeper主机的位置，像是zookeeper.connect=1.2.3.4:2181,5.6.7.8:2181,9.10.11.12:2181。

测试

/opt/kafka/bin/kafka-topics.sh --describe --zookeeper 1.2.3.4:2181,5.6.7.8:2181,9.10.11.12:2181
/opt/kafka/bin/kafka-topics.sh --create --zookeeper 1.2.3.4:2181,5.6.7.8:2181,9.10.11.12:2181 --replication-factor 2 --partitions 1 --topic my-replicated-topic
/opt/kafka/bin/kafka-topics.sh --describe --zookeeper 1.2.3.4:2181,5.6.7.8:2181,9.10.11.12:2181

外部链接

• 官方网站 （英文）
• Quickstart （英文）