RocketMQ 主从集群模式搭建 | Eddie'Blog
RocketMQ  主从集群模式搭建

RocketMQ 主从集群模式搭建

eddie 217 2021-07-07

目录

RocketMQ 单Master搭建

00:41:37

RocketMQ - 主从模式集群环境构建与测试

  • 主从模式环境构建可以保障消息的即时性与可靠性
  • 投递一条消息后,关闭主节点
  • 从节点继续可以提供消费者进行消费,但是不能接收消息
  • 主节点上线后, 进行消费进度 offset 同步

终端操作

关闭服务

  • 启动的时候,先 namesrv 后 broker
  • 关闭的时候,先 broker 后 namesrv

这个顺序不能搞混了,不然会出现服务器启动不了或者数据没了。

[eddie@tracker rocketmq]# cd /usr/local/rocketmq/bin/

[eddie@tracker bin]# sh mqshutdown broker
The mqbroker(22683) is running...
Send shutdown request to mqbroker(22683) OK

[eddie@tracker bin]# sh mqshutdown namesrv
The mqnamesrv(22657) is running...
Send shutdown request to mqnamesrv(22657) OK

快速搭建开始

服务器信息

序号IP Addr说明简称
1192.168.8.246master1,nameserver1a_Server
2192.168.8.247master-slave1,nameserver2b_Server

a_Server 配置 (00:49:43)

vim /etc/hosts

192.168.8.246 rocketmq-master1
192.168.8.246 rocketmq-nameserver1

192.168.8.247 rocketmq-nameserver2
192.168.8.247 rocketmq-master-slave1

发送rocketmq包

[root@tracker bin]# cd /opt/software/

[root@tracker software]# ll
total 11368
-rw-r--r--. 1 root root 11639497 Oct 31  2018 rocketmq-all-4.3.0-bin-release.zip

[root@tracker software]# scp rocketmq-all-4.3.0-bin-release.zip 192.168.8.247:/opt/software/
root@192.168.8.247's password: 
rocketmq-all-4.3.0-bin-release.zip                                                            100%   11MB  60.4MB/s   00:00 

配置主从文件部分

vim /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer 地址,分号分割
#namesrvAddr=rocketmq-nameserver1:9876
#namesrvAddr=192.168.8.246:9876;192.168.8.247:9876
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的 topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4 点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

# 多网卡情况下必需指定,不然有可能选择其他网卡导致连接失败
brokerIP1=192.168.8.246
brokerIP2=192.168.8.246

备份 broker-a-s.properties

cd /usr/local/rocketmq/conf/2m-2s-async/
cp broker-a-s.properties broker-a-s.properties.bak

vim /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker 名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer 地址,分号分割
#namesrvAddr=192.168.8.246:9876;192.168.8.247:9876
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的 topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建 Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4 点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog 每个文件的大小默认 1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue 每个文件默认存 30W 条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536

#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000

#Broker 的角色
#- ASYNC_MASTER 异步复制 Master
#- SYNC_MASTER 同步双写 Master
#- SLAVE
brokerRole=SLAVE

#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH

#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

# 多网卡情况下必需指定,不然有可能选择其他网卡导致连接失败
brokerIP1=192.168.8.247

brokerName, brokerId, brokerRole, namesrvAddr 四个属性需要修改和注意的

如若集群服务器是多网卡的情况,参考:
RocketMQ中broker配置brokcerIP1和brokerIP2的作用


发送 a_Server_246 的配置文件到 b_Server_247 (是覆盖形式的)

[root@tracker 2m-2s-async]# scp broker-a.properties broker-a-s.properties 192.168.8.247:/usr/local/rocketmq/conf/2m-2s-async/ 
root@192.168.8.247's password: 
broker-a.properties                                                                           100% 2247     2.8MB/s   00:00    
broker-a-s.properties                                                                         100% 2093     3.0MB/s   00:00 

b_Server 配置

解压包与软连接

unzip /opt/software/rocketmq-all-4.3.0-bin-release.zip && mv rocketmq-all-4.3.0-bin-release /usr/local/apache-rocketmq

ln -s /usr/local/apache-rocketmq /usr/local/rocketmq

创建文件夹

mkdir -p /usr/local/rocketmq/store
mkdir -p /usr/local/rocketmq/store/commitlog
mkdir -p /usr/local/rocketmq/store/consumequeue
mkdir -p /usr/local/rocketmq/store/index
mkdir -p /usr/local/rocketmq/logs

替换日志文件路径

cd /usr/local/rocketmq/conf && sed -i 's#${user.home}#/usr/local/rocketmq#g' *.xml

修改启动脚本的JVM内存(最低配)

vim /usr/local/rocketmq/bin/runbroker.sh

JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn1g"
JAVA_OPT="${JAVA_OPT} -XX:MaxDirectMemorySize=2g"

vim /usr/local/rocketmq/bin/runserver.sh

JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn1g -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

分别启动两台服务器的namesrv和broker

192.168.8.246 (a_Server)

nohup sh mqnamesrv & 
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties >/dev/null 2>&1 &   

192.168.8.247 (b_Server)

nohup sh mqnamesrv & 
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties >/dev/null 2>&1 &  

rocketmq-console-ng 配置集群模式

docker run -e "JAVA_OPTS=-Drocketmq.namesrv.addr=192.168.8.246:9876;192.168.8.247:9876 -Dcom.rocketmq.sendMessageWithVIPChannel=false" -p 8080:8080 --name=rocketmq-cluster -t styletang/rocketmq-console-ng

图片.png


# RocketMQ