irpas技术客

canal整合rabbitmq同步mysql数据到redis_neighbor_hu_canal整合rabbitmq

大大的周 1974

简介

Canal是模拟Mysql主从复制原理。将自己伪装成Slave。向主库发起dump协议,拿到bin_log日志,解析之后对数据做相关操作 ????

mysql配置 [mysqld] server_id=1 # 开启binlog log-bin=mysql-bin # 选择ROW模式(三种模式,Statement:日志文件小,row:日志文件大,但是粒度细,mixed:混合模式) binlog_format=ROW # 需要开启binlog的数据库(如果不指定,表示所有mysql里面的库都开启binlog) binlog-do-db=canal-test 修改后重启mysql服务让配置生效 linux: sudo systemctl restart mysql windows: net stop mysql , net start mysql // 查看是否开启binlog SHOW VARIABLES like 'log_bin' // 查看binlog信息 SHOW BINARY LOGS 为canal创建用户然后赋权 # 创建一个用户叫canal密码为admin123 CREATE USER 'canal'@'%' IDENTIFIED BY 'admin123'; # 为canal用户赋予查询,副本,副本客户端权限 GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'canal'@'%'; # 刷新权限 FLUSH PRIVILEGES;

安全起见只给该用户select的权限,insert update delete都不需要给

下载canal

canalGitHub下载地址

修改conf/example/instance.properties # 该项相当于sliverid 不能和之前mysql的server_id一样 canal.instance.mysql.slaveId=80 # 监控哪个mysql地址,根据实际需求更改 canal.instance.master.address=127.0.0.1:3306 # 刚才建的canal用户的用户名密码,如果使用root这里就填root和root密码 canal.instance.dbUsername=canal canal.instance.dbPassword=admin123 ...... # (因为要整合rabbitmq) 该项为路由键 canal.mq.topic=queue.order # 该项默认是监听的所有表改动, 我只需要监听业务需要的表(pms_product, pms_guarantee) #canal.instance.filter.regex=.*\\..* canal.instance.filter.regex=business.pms_product,business.pms_guarantee 修改conf/canal.properties # tcp, kafka, rocketMQ, rabbitMQ, pulsarMQ canal.serverMode = rabbitMQ ################################################## ######### RabbitMQ ############# ################################################## # 这里为rabbitmq地址 不能带端口 rabbitmq.host =192.168.1.107 rabbitmq.virtual.host =/ # 发送到哪个交换机,这个交换机需要提前建好 rabbitmq.exchange =exchange.direct.user # rabbitmq的账号密码,guest不行 rabbitmq.username =root rabbitmq.password =root123 rabbitmq.deliveryMode =

canal.serverMode是支持的中间件,默认tcp, 我需要整合rabbitmq所以选择rabbitmq 数据库,数据库账户,rabbitmq交换机,rabbitmq路由键都准备好了 注意:数据库地址或者账号密码错误的话canal是能正常启动的

启动canal canal/bin/startup.bat 或者 startup.sh 启动后有问题去看日志文件: canal/logs/canal/canal.log canal/logs/example/example.log canal/logs/example/meta.log

修改数据库后rabbitmq能获取到数据,这个时候就能在代码层面监听rabbitmq做业务处理,同步到es、redis之类的


1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,会注明原创字样,如未注明都非原创,如有侵权请联系删除!;3.作者投稿可能会经我们编辑修改或补充;4.本站不提供任何储存功能只提供收集或者投稿人的网盘链接。

标签: #canal整合rabbitmq #canal主要用途是基于 #MySQL #es中数据更新