Hive2MySQL初步架构
时间:2022-03-10 17:48
private String getTabType(String tableName) {
if (tableName.equals(Constant.TB_1)) {
return x;
}
else {
return d;
}
}
- 通过clientBootstrap监控消息
- 当监控到任务时,执行HDFS2MySQL的导出任务
2.1 通过shell脚本,从HDFS上下载数据
2.2 将元数据更新到MySQL服务器中
2.3 删除本地文件
2.4 根据表中插入行的数目判断数据是否导出成功
2.5 将执行情况返回给master - 定时向master发送心跳信息
- 存储的本地路径:
/tmp/ptbalancer/data/${tableName}_${tableType}_${date}_${当前时间戳}
节点间通信
-
中间件
netty
masterServerBootstrap
clientClientBootstrap
传输数据
相比XML,PB有更好的传输效率、压缩率更高、解析速度更快
PB
相比XML,PB有更好的传输效率、压缩率更高、解析速度更快
Hive2MySQL初步架构,布布扣,bubuko.com