Commit Graph

104 Commits

Author SHA1 Message Date
v-zhangjc9
b3ccbce16e feat(all): 移除b5集群 2025-02-12 10:13:52 +08:00
v-zhangjc9
fb79468eee feat(web): 增加指标采集进度显示 2025-02-12 10:13:52 +08:00
v-zhangjc9
28b3fd9ca1 feat(hudi-query): 增加关于hdfs文件数相关的接口 2025-02-12 10:13:52 +08:00
v-zhangjc9
70c2442ff1 fix(forest): 修复接口类型错误 2025-02-12 10:13:52 +08:00
v-zhangjc9
d99e5b261b feat(info-query): 增加单表跨天查询 2024-07-05 11:38:42 +08:00
v-zhangjc9
6f2fce4359 feat(executor-manager): 增加表数据查询10条采样任务 2024-06-04 13:57:53 +08:00
v-zhangjc9
960b020052 feat(monitor): 增加table_version表和compaction_metrics表的定时清理 2024-05-23 11:52:21 +08:00
v-zhangjc9
bff18280f3 perf(hudi-query): 优化hudi时间线的扫描速度 2024-05-22 13:11:50 +08:00
v-zhangjc9
f398b8cdc3 feat(executor-task): 使用Flink SQL查询表总数、业务最后操作时间 2024-05-17 17:32:36 +08:00
v-zhangjc9
a1e0b20e87 feat(executor-task): parquet文件读取增加选择列
指定列名可以提高检索速度,默认选择所有列
2024-05-12 17:41:09 +08:00
v-zhangjc9
7fb5710cb3 feat(all): 升级依赖版本
spring cloud升级到2.x的最后一个小版本,其余依赖配合升级
2024-05-09 11:05:10 +08:00
v-zhangjc9
103bde5cdc perf(scheduler): 优化批量压缩调度接口 2024-05-08 18:35:26 +08:00
v-zhangjc9
10fae04007 fix(hudi-query): 修复写hdfs文件内容取值错误 2024-05-08 14:15:01 +08:00
v-zhangjc9
b2e3a58d27 feat(hudi-query): 新增写hdfs文件接口 2024-05-08 10:02:33 +08:00
v-zhangjc9
864df40f34 feat(forest): 增加基本类型转换
forest使用强制类型转换来处理基本类型,但和意图不符合,如-1无法被强转为long类型,所以覆盖原本的类型转换,使用Java包装类提供的字符串转换
2024-05-06 15:15:05 +08:00
v-zhangjc9
e894c58d7b feat(info-query): 增加更新pulsar backlog数据的接口 2024-04-30 18:28:52 +08:00
v-zhangjc9
5d3f0140f5 feat(hudi-query): 增加一个查询路径大小的接口 2024-04-29 14:41:35 +08:00
v-zhangjc9
572a1dab9f feat(web): 增加HDFS文件管理器
在页面直接查看HDFS文件和目录,还可以查看和下载
2024-04-28 16:28:48 +08:00
v-zhangjc9
053a9222cd feat(launcher): 增加单独指定集群进行手动压缩的接口 2024-04-26 10:16:11 +08:00
v-zhangjc9
2a7e6639e7 feat(info-query): 增加初始化sync_state接口 2024-03-14 17:14:47 +08:00
v-zhangjc9
c038664567 refactor(all): 优化maven插件触发 优化编译打包版本 2024-03-06 10:42:55 +08:00
c6c6919f11 refactor(all): b9配置从主分支移除 2024-03-05 15:16:52 +08:00
adc480e43c fix(cli): 修复b9访问地址 2024-03-05 15:16:52 +08:00
e9aa11a15d feat(all): 补充b9集群配置 2024-03-05 15:16:52 +08:00
d0bbdff61d feat(all): 增加b9集群相关配置 2024-03-05 15:16:52 +08:00
0338a0d579 feat(all): 优化依赖
移除旧common包
2024-03-05 15:16:52 +08:00
474ee6173d feat(scheduler): 迁移service-launcher项目 2024-03-05 15:16:52 +08:00
73f0c4c82c refactor(cli): 优化脚本 增加command脚本的生成 2024-03-05 15:16:51 +08:00
834980f880 feat(configuration): 增加yarn集群的相关配置 2024-03-05 15:16:51 +08:00
ccb5148e53 refactor(forest): 优化指标名称 更具有辨识度 2024-03-05 15:16:50 +08:00
b9175dc1e4 fix(forest): 修复deque接口地址错误 2024-03-05 15:16:50 +08:00
0504f8f05c refactor(forest): 简化指标度量工具的获取
指标度量工具获取本身已经有缓存,不需要再缓存一层
2024-03-05 15:16:50 +08:00
7a1f28b82b feat(forest): 增加接口访问指标 2024-03-05 15:16:50 +08:00
ee22986d6f feat(queue): 队列接口统一改为query 2024-03-05 15:16:50 +08:00
cd3b340270 feat(executor-task): 增加查询指定hudi表base文件最新的timestamp
根据LATEST_OP_TS来判断比较timestamp先后,排序后取最后的
2024-03-05 15:16:50 +08:00
4b2585984c feat(web): 增加一个停止全部压缩任务的小工具 2024-03-05 15:16:50 +08:00
c6c4021930 feat(forest): 压缩调度增加不删除表停止全部压缩的参数 2024-03-05 15:16:50 +08:00
dbd81a09bf refactor(forest): 移除多余依赖 2024-03-05 15:16:50 +08:00
8ba4296670 feat(hudi-query): 增加判断hudi表和hdfs路径是否存在的方法 2024-03-05 15:16:50 +08:00
f4f713130a feat(hudi-query): 增加判断压缩计划是否存在的方法 2024-03-05 15:16:50 +08:00
284571485c test(forest): 一点小测试 2024-03-05 15:16:50 +08:00
9140a39bf1 feat(executor-task): 数据扫描增加pulsar队列读取 2024-03-05 15:16:50 +08:00
521e82104f feat(pulsar-query): 增加按指定url和topic判断是否匹配的接口 2024-03-05 15:16:50 +08:00
2b829519d1 feat(web): 增加调度时间点展示 2024-03-05 15:16:50 +08:00
616eb1e514 feat(queue): 迁移queue到hudi service项目中 2024-03-05 15:16:50 +08:00
820c8438b1 feat(web): overview增加同步任务状态展示 2024-03-05 15:16:50 +08:00
be64de7fe8 feat(executor): 完成文件检索扫描功能
使用flink分布式扫描日志文件和数据文件,检索关键词
2024-03-05 15:16:50 +08:00
86ad6df899 feat(loki-query): 拆分服务和hudi使用的loki,查询服务分开部署 2024-03-05 15:16:50 +08:00
9aec08c43a feat(info-query): 切换旧数据库操作到新服务 2024-03-05 15:16:49 +08:00
ad41ab9683 fix(forest): 修复启动同步没有传参数 2024-03-05 15:16:48 +08:00