Commit Graph

95 Commits

Author SHA1 Message Date
v-zhangjc9
a1e0b20e87 feat(executor-task): parquet文件读取增加选择列
指定列名可以提高检索速度,默认选择所有列
2024-05-12 17:41:09 +08:00
v-zhangjc9
7fb5710cb3 feat(all): 升级依赖版本
spring cloud升级到2.x的最后一个小版本,其余依赖配合升级
2024-05-09 11:05:10 +08:00
v-zhangjc9
103bde5cdc perf(scheduler): 优化批量压缩调度接口 2024-05-08 18:35:26 +08:00
v-zhangjc9
10fae04007 fix(hudi-query): 修复写hdfs文件内容取值错误 2024-05-08 14:15:01 +08:00
v-zhangjc9
b2e3a58d27 feat(hudi-query): 新增写hdfs文件接口 2024-05-08 10:02:33 +08:00
v-zhangjc9
864df40f34 feat(forest): 增加基本类型转换
forest使用强制类型转换来处理基本类型,但和意图不符合,如-1无法被强转为long类型,所以覆盖原本的类型转换,使用Java包装类提供的字符串转换
2024-05-06 15:15:05 +08:00
v-zhangjc9
e894c58d7b feat(info-query): 增加更新pulsar backlog数据的接口 2024-04-30 18:28:52 +08:00
v-zhangjc9
5d3f0140f5 feat(hudi-query): 增加一个查询路径大小的接口 2024-04-29 14:41:35 +08:00
v-zhangjc9
572a1dab9f feat(web): 增加HDFS文件管理器
在页面直接查看HDFS文件和目录,还可以查看和下载
2024-04-28 16:28:48 +08:00
v-zhangjc9
053a9222cd feat(launcher): 增加单独指定集群进行手动压缩的接口 2024-04-26 10:16:11 +08:00
v-zhangjc9
2a7e6639e7 feat(info-query): 增加初始化sync_state接口 2024-03-14 17:14:47 +08:00
v-zhangjc9
c038664567 refactor(all): 优化maven插件触发 优化编译打包版本 2024-03-06 10:42:55 +08:00
c6c6919f11 refactor(all): b9配置从主分支移除 2024-03-05 15:16:52 +08:00
adc480e43c fix(cli): 修复b9访问地址 2024-03-05 15:16:52 +08:00
e9aa11a15d feat(all): 补充b9集群配置 2024-03-05 15:16:52 +08:00
d0bbdff61d feat(all): 增加b9集群相关配置 2024-03-05 15:16:52 +08:00
0338a0d579 feat(all): 优化依赖
移除旧common包
2024-03-05 15:16:52 +08:00
474ee6173d feat(scheduler): 迁移service-launcher项目 2024-03-05 15:16:52 +08:00
73f0c4c82c refactor(cli): 优化脚本 增加command脚本的生成 2024-03-05 15:16:51 +08:00
834980f880 feat(configuration): 增加yarn集群的相关配置 2024-03-05 15:16:51 +08:00
ccb5148e53 refactor(forest): 优化指标名称 更具有辨识度 2024-03-05 15:16:50 +08:00
b9175dc1e4 fix(forest): 修复deque接口地址错误 2024-03-05 15:16:50 +08:00
0504f8f05c refactor(forest): 简化指标度量工具的获取
指标度量工具获取本身已经有缓存,不需要再缓存一层
2024-03-05 15:16:50 +08:00
7a1f28b82b feat(forest): 增加接口访问指标 2024-03-05 15:16:50 +08:00
ee22986d6f feat(queue): 队列接口统一改为query 2024-03-05 15:16:50 +08:00
cd3b340270 feat(executor-task): 增加查询指定hudi表base文件最新的timestamp
根据LATEST_OP_TS来判断比较timestamp先后,排序后取最后的
2024-03-05 15:16:50 +08:00
4b2585984c feat(web): 增加一个停止全部压缩任务的小工具 2024-03-05 15:16:50 +08:00
c6c4021930 feat(forest): 压缩调度增加不删除表停止全部压缩的参数 2024-03-05 15:16:50 +08:00
dbd81a09bf refactor(forest): 移除多余依赖 2024-03-05 15:16:50 +08:00
8ba4296670 feat(hudi-query): 增加判断hudi表和hdfs路径是否存在的方法 2024-03-05 15:16:50 +08:00
f4f713130a feat(hudi-query): 增加判断压缩计划是否存在的方法 2024-03-05 15:16:50 +08:00
284571485c test(forest): 一点小测试 2024-03-05 15:16:50 +08:00
9140a39bf1 feat(executor-task): 数据扫描增加pulsar队列读取 2024-03-05 15:16:50 +08:00
521e82104f feat(pulsar-query): 增加按指定url和topic判断是否匹配的接口 2024-03-05 15:16:50 +08:00
2b829519d1 feat(web): 增加调度时间点展示 2024-03-05 15:16:50 +08:00
616eb1e514 feat(queue): 迁移queue到hudi service项目中 2024-03-05 15:16:50 +08:00
820c8438b1 feat(web): overview增加同步任务状态展示 2024-03-05 15:16:50 +08:00
be64de7fe8 feat(executor): 完成文件检索扫描功能
使用flink分布式扫描日志文件和数据文件,检索关键词
2024-03-05 15:16:50 +08:00
86ad6df899 feat(loki-query): 拆分服务和hudi使用的loki,查询服务分开部署 2024-03-05 15:16:50 +08:00
9aec08c43a feat(info-query): 切换旧数据库操作到新服务 2024-03-05 15:16:49 +08:00
ad41ab9683 fix(forest): 修复启动同步没有传参数 2024-03-05 15:16:48 +08:00
75e01891c3 feat(info-query): 增加简单table meta信息查询 2024-03-05 15:16:48 +08:00
0a4652ddb5 feat(yarn-query): 增加运行时和非运行时任务的搜索 2024-03-05 15:16:48 +08:00
c0b1071a16 refactor(all): 增加源码包打包 2024-03-05 15:16:48 +08:00
cae9fd5dc3 feat(zookeeper-query): 增加查询run meta接口 2024-03-05 15:16:48 +08:00
a101b5adba refactor(forest): 增加b12集群配置 2024-03-05 15:16:48 +08:00
a78ed8520d feature(web): 增加flink job id和alias输入框的联动 2024-03-05 15:16:48 +08:00
1a0bc8b7ef feature(web): 优化flink job id和alias的自动匹配获取 2024-03-05 15:16:48 +08:00
5abfe2d017 feature(info-query): 增加hudi表类型过滤 2024-03-05 15:16:48 +08:00
f0881d65d7 feature(cli,forest): 增加b5sync集群调度
为同步程序上服务准备,不在服务级别区分同步和压缩的调度
2024-03-05 15:16:48 +08:00