杭银随心查

企业服务 数据服务 案例ID:132815
李学捷
5 年经验· 软通动力
微信扫码沟通,客服可协助直接对接工程师;如当前档期不合,也可继续推荐相似案例作者。

案例介绍

--项目名称:杭州银行账单随心查
--相关技术: spring-cloud,hbase, elasticsearch,zookeeper
--项目背景:
由于账单数据的增大,原有的查询系统不符合现在的实时查询要求,要求对5年内近20亿的账单数据达到实时毫秒级的查询,对日汇总数据达到T-1的实时查询
--职 责:
1.架构设计文档编写
2. elasticsearch、springcloud注册中心,网关等脚手架搭建
3.快速海量数据初始化以及后续增量数据导入ES模块编写
4.高并发查询模块编写
5.生产环境项目部署
--项目收获:
1.合理的ES分片和索引字段建立
由于第一次接触ES搜索引擎,通过相关资料结合业务数据量建立最优的ES配置和索引
2.高效并发的数据导入
初期初始化数据量巨大,采用集群模式+分布式日期锁+导入日志表实现快速将HBASE的20亿数据在2天内自动化可断点导入ES
3.ES+HBASE对海量数据高并发下毫秒级的查询
根据条件对ES查询得到rowkey再查询HBASE得到完整数据,通过压力测试,能达到300左右的TPS

杭银随心查

企业服务 · 数据服务 案例ID:132815
联系该工程师
微信扫码,建群沟通
作者: 李学捷 - 5年经验- 软通动力

案例介绍

--项目名称:杭州银行账单随心查
--相关技术: spring-cloud,hbase, elasticsearch,zookeeper
--项目背景:
由于账单数据的增大,原有的查询系统不符合现在的实时查询要求,要求对5年内近20亿的账单数据达到实时毫秒级的查询,对日汇总数据达到T-1的实时查询
--职 责:
1.架构设计文档编写
2. elasticsearch、springcloud注册中心,网关等脚手架搭建
3.快速海量数据初始化以及后续增量数据导入ES模块编写
4.高并发查询模块编写
5.生产环境项目部署
--项目收获:
1.合理的ES分片和索引字段建立
由于第一次接触ES搜索引擎,通过相关资料结合业务数据量建立最优的ES配置和索引
2.高效并发的数据导入
初期初始化数据量巨大,采用集群模式+分布式日期锁+导入日志表实现快速将HBASE的20亿数据在2天内自动化可断点导入ES
3.ES+HBASE对海量数据高并发下毫秒级的查询
根据条件对ES查询得到rowkey再查询HBASE得到完整数据,通过压力测试,能达到300左右的TPS

相似案例推荐

发布任务

企业点击发布任务,工程师会在任务下报名,招聘专员也会在 1 小时内与您联系确认。

1小时精推人才

需求方专属客服,免费梳理匹配

需求方客服微信二维码
扫码加微信 · 客服人工对接
更多案例
微信沟通 客服 看中这位工程师了?客服帮你 1 小时对接沟通 → ×