flink cdc 的学习 | server 运维论坛-江南app体育官方入口

参考资料

故障和恢复

当flink的任务意外终止后,可以通过指定恢复点从恢复点继续运行,运行命令如下:
flink run -s file:///c:/addons/checkpoints/e8072d0f5e9cd7d407fe1edd06b679aa/chk-27 path/to/jar

创建恢复点可以用savepoints和checkpoints,两者的区别如下:

配置保存目录 区别1 区别2
state.checkpoints.dir 系统自动创建 文件轻量
state.savepoints.dir 需手动命令创建 文件较大,包含整个状态

消费binlog的数据格式

datachangeevent包含五个字段:

  • table id: table id
  • before: 数据改变前
  • after: 数据改变后
  • operation type: 数据改变类型
  • meta: 数据的元数据

operation type有四个类型:

  • insert: 新数据,此时 before = null and after = new data
  • delete: 删数据,此时 before = removed data and after = null
  • update: 修改数据,此时 before = data before change and after = data after change
  • replace: 暂无

与canal数据格式的区别如下:

本作品采用《cc 协议》,转载必须注明作者和本文链接
讨论数量: 0
(= ̄ω ̄=)··· 暂无内容!

讨论应以学习和精进为目的。请勿发布不友善或者负能量的内容,与人为善,比聪明更重要!
网站地图