您的位置:首页 > 博客中心 > 数据库 >

Hive2MySQL初步架构

时间:2022-03-10 17:48


private String getTabType(String tableName) { if (tableName.equals(Constant.TB_1)) { return x; } else { return d; } }


  • 流程
    1. 通过clientBootstrap监控消息
    2. 当监控到任务时,执行HDFS2MySQL的导出任务
      2.1 通过shell脚本,从HDFS上下载数据
      2.2 将元数据更新到MySQL服务器中
      2.3 删除本地文件
      2.4 根据表中插入行的数目判断数据是否导出成功
      2.5 将执行情况返回给master
    3. 定时向master发送心跳信息
  • 注解
    1. 存储的本地路径:/tmp/ptbalancer/data/${tableName}_${tableType}_${date}_${当前时间戳}

    节点间通信

    • 中间件 netty
      master ServerBootstrap
      client ClientBootstrap

    传输数据 PB
    相比XML,PB有更好的传输效率、压缩率更高、解析速度更快

    Hive2MySQL初步架构,布布扣,bubuko.com

    热门排行

    今日推荐

    热门手游