尧图网站建设 尧图网络
  • 首页
  • 关于我们
  • 服务项目
  • 案例展示
  • 建站流程
  • 资讯中心
  • 联系我们
首页/资讯中心/详情

canal同步mysql到kafka

canal同步mysql到kafka
📅 发布时间:2026/6/18 18:03:43

 

参考:https://blog.csdn.net/ashic/article/details/104722975

canal的github地址:https://github.com/alibaba/canal

canal安装和canal和kafka结合使用:https://blog.csdn.net/weixin_42191498/article/details/129153667

 

1、需求1,merchantdb库的所有表同步到kafka的subotiz-canal-merchantdb的topic,paymentdb库所有表同步到kafka的subotiz-canal-paymentdb的topic,tradingdb库所有表同步到kafka的subotiz-canal-tradingdb的topic

解决:目前我的canal部署在k8s上,所以配置使用的是configmap,configmap配置如下

apiVersion: v1
data:canal_destinations: canal-merchantdb-dynamiccanal_instance_connectionCharset: UTF-8canal_instance_dbPassword: vGgRTZubA2qsI2mNcanal_instance_dbUsername: canalcanal_instance_filter_regex: (merchantdb|paymentdb|tradingdb)\\..*#canal_instance_filter_regex: merchantdb\\..*canal_instance_filter_black_regex: (mysql|dts|mqbone|oauth2_production|account|act|crab|crawfish|datafountain|email_api_production|exec|fortunecat|kirin|notify_api_production|pangu_db|leopard)\\\\..*,tiger\\\\._order_transactions_new,main\\\\.menus,main\\\\.menu_itemscanal_instance_master_address: pc-rj9y7id894cs4ld05.rwlb.rds.aliyuncs.com:3306#canal_mq_dynamicTopic: merchantdb\\.*:subotiz-canal-merchantdb,paymentdb\\.*:subotiz-canal-paymentdb,tradingdb\\.*:subotiz-canal-tradingdbcanal_mq_dynamicTopic: subotiz-canal-merchantdb:merchantdb,subotiz-canal-paymentdb:paymentdb,subotiz-canal-tradingdb:tradingdbcanal_mq_dynamicTopicPartitionNum: subotiz-canal-merchantdb:3,subotiz-canal-paymentdb:3,subotiz-canal-tradingdb:3#canal_mq_dynamicTopicPartitionNum: subotiz-canal-merchantdb:3canal_mq_flatMessage: "true"canal_mq_maxRequestSize: "52428800"canal_mq_partitionHash: .*\..*:$pk$canal_mq_partitionsNum: "3"canal_mq_servers: alikafka-post-cn-qzm4d4obv002-3-vpc.alikafka.aliyuncs.com:9092canal_mq_topic: subotiz-canal-merchantdb#canal_mq_topic: subotiz-canal-defaultcanal_serverMode: kafkacanal_zkServers: mse-f01be7312-zk.mse.aliyuncs.com:2181kafka_bootstrap_servers: alikafka-post-cn-qzm4d4obv002-3-vpc.alikafka.aliyuncs.com:9092kafka_max_request_size: "92428800"
kind: ConfigMap
metadata:name: canal-cm-merchantdbnamespace: staging

 

相关新闻

  • pb9新建“工具”选项卡中文说明
  • EasyWeChat报错Failed to cache access token.
  • 16 - Metatheory of subtyping

最新新闻

  • 从同质化内卷到差异化突围!Qi认证构筑产品核心竞争力
  • 024、ONNX作为算子中间表示的优缺点分析
  • 2026专业的天津全屋定制源头服务商TOP3 - 信息热点
  • 公司发的京东E卡怎么换钱?2026京东E卡回收攻略(附回收价格、变现流程、避坑指南) - 资讯纵览
  • 天津高端全屋定制高性价比工厂指南 省钱又靠谱的选择 - 信息热点
  • 2026天津4家热门全屋定制源头工厂测评 - 信息热点

日新闻

  • 2026年不锈钢卷板厂家推荐排行榜:冷轧热轧/304/201不锈钢卷板,高颜值耐腐蚀源头厂家实力精选 - 企业推荐官【官方】
  • FLUX.1-dev FP8模型实战指南:24GB以下显卡高效部署方案
  • 2026佛山长途搬家价目表:跨省跨市搬家费用完整计算指南 - 从来都是英雄出少年

周新闻

  • 3步解锁iOS设备:applera1n激活锁绕过完全指南
  • 39 2026 人工智能证书终极盘点,普通人选 AI 证书可以从这些方向入手
  • Redis 暴露公网有多危险?从端口检查到补救步骤

月新闻

  • 【总结】入门篇:50句话让你记住架构核心概念
  • WeChatMsg技术方案解析:实现Mac微信数据自主管理的完整解决方案
  • WeChatMsg:革新性微信数据备份方案,打造你的专属数字记忆库

关于尧图

  • 公司简介
  • 团队介绍
  • 企业文化
  • 荣誉资质

服务项目

  • 定制开发
  • 电商建站
  • UI 设计
  • 运维服务

快速链接

  • 案例展示
  • 建站流程
  • 常见问题
  • 资讯中心

联系方式

  • 📍北京市朝阳区互联网产业园 A 座 10 层
  • 📞400-888-8888
  • ✉️contact@rkmt.cn
  • 🕐周一至周日 9:00-21:00

© 2024 北京尧图网络科技有限公司 版权所有 | 京 ICP 备 XXXXXXXX 号