当前位置: 首页 > news >正文

canal同步mysql到kafka

 

参考:https://blog.csdn.net/ashic/article/details/104722975

canal的github地址:https://github.com/alibaba/canal

canal安装和canal和kafka结合使用:https://blog.csdn.net/weixin_42191498/article/details/129153667

 

1、需求1,merchantdb库的所有表同步到kafka的subotiz-canal-merchantdb的topic,paymentdb库所有表同步到kafka的subotiz-canal-paymentdb的topic,tradingdb库所有表同步到kafka的subotiz-canal-tradingdb的topic

解决:目前我的canal部署在k8s上,所以配置使用的是configmap,configmap配置如下

apiVersion: v1
data:canal_destinations: canal-merchantdb-dynamiccanal_instance_connectionCharset: UTF-8canal_instance_dbPassword: vGgRTZubA2qsI2mNcanal_instance_dbUsername: canalcanal_instance_filter_regex: (merchantdb|paymentdb|tradingdb)\\..*#canal_instance_filter_regex: merchantdb\\..*canal_instance_filter_black_regex: (mysql|dts|mqbone|oauth2_production|account|act|crab|crawfish|datafountain|email_api_production|exec|fortunecat|kirin|notify_api_production|pangu_db|leopard)\\\\..*,tiger\\\\._order_transactions_new,main\\\\.menus,main\\\\.menu_itemscanal_instance_master_address: pc-rj9y7id894cs4ld05.rwlb.rds.aliyuncs.com:3306#canal_mq_dynamicTopic: merchantdb\\.*:subotiz-canal-merchantdb,paymentdb\\.*:subotiz-canal-paymentdb,tradingdb\\.*:subotiz-canal-tradingdbcanal_mq_dynamicTopic: subotiz-canal-merchantdb:merchantdb,subotiz-canal-paymentdb:paymentdb,subotiz-canal-tradingdb:tradingdbcanal_mq_dynamicTopicPartitionNum: subotiz-canal-merchantdb:3,subotiz-canal-paymentdb:3,subotiz-canal-tradingdb:3#canal_mq_dynamicTopicPartitionNum: subotiz-canal-merchantdb:3canal_mq_flatMessage: "true"canal_mq_maxRequestSize: "52428800"canal_mq_partitionHash: .*\..*:$pk$canal_mq_partitionsNum: "3"canal_mq_servers: alikafka-post-cn-qzm4d4obv002-3-vpc.alikafka.aliyuncs.com:9092canal_mq_topic: subotiz-canal-merchantdb#canal_mq_topic: subotiz-canal-defaultcanal_serverMode: kafkacanal_zkServers: mse-f01be7312-zk.mse.aliyuncs.com:2181kafka_bootstrap_servers: alikafka-post-cn-qzm4d4obv002-3-vpc.alikafka.aliyuncs.com:9092kafka_max_request_size: "92428800"
kind: ConfigMap
metadata:name: canal-cm-merchantdbnamespace: staging

 

http://www.rkmt.cn/news/669.html

相关文章:

  • pb9新建“工具”选项卡中文说明
  • EasyWeChat报错Failed to cache access token.
  • 16 - Metatheory of subtyping
  • 国产项目管理工具崛起:Gitee如何以本土优势赋能企业研发效能
  • 项目调度管理系统(源码+文档+讲解+演示)
  • OB-Oracle百亿级数据存储方案
  • ZeroGPU Spaces 加速实践:PyTorch 提前编译全解析
  • 基于yolo12对目标物体进行自动裁剪和模糊打码
  • 2025.9.9数学课
  • 【Git】在更新项目时“将传入更改合并到当前分支“和”在传入更改上变基当前分支“有什么区别
  • 国内开发者如何选择代码管理平台?Gitee、GitHub等主流工具深度解析
  • 【Git】常见的 commit type 及用法
  • 【IEEE出版】第六届机器学习与计算机应用国际学术会议
  • 跨网文件摆渡软件如何选择?企业数字化转型的关键决策指南!
  • Avalonia 学习笔记02. Fonts and Animations(字体和动画) (转载)
  • 【IEEE出版】第九届电气、机械与计算机工程国际学术会议(ICEMCE 2025)
  • 英语_阅读_useful resources_待读
  • 第五届现代教育技术与社会科学国际学术会议(ICMETSS 2025)
  • 梅剑华:人工智能与因果推断——兼论奇点问题(哈哈,Why框架就是)
  • 真行!Claude 全面封禁中国。。
  • 质量QE的关键四个角色(DQE、SQE、PQE和CQE)
  • 剑指offer-28、数组中出现次数超过⼀半的数字
  • Redis是如何高效管理有限内存的?
  • PB9的数据窗口中文说明
  • PyPI包名的命名规则与pip的兼容性机制——为什么pip install sCIKit.-_LEarN也能成功
  • 一种简单粗暴的网页代理模式
  • 直播App源码功能大揭秘:主播PK、连麦互动与邀请奖励的技术与魅力
  • 这款开源调研系统越来越“懂事”了
  • qoj7511 Planar Graph
  • 30条顶级APT与蓝队攻防单行命令:网络战场终极对决