项目1、机票大数据采集与分析系统
描述:通过市场价格采集系统为航线或运价人员提供可靠、及时的竞争对手数据源和基本分析工具,使市场策略的制定更加科学,效果更加有效,响应市场更为及时;并通过市场价格采集项目搭建国航大数据平台。
职责:
1)参与分布式集群搭建与维护;
2)每天定时采集机票定价信息;
3)数据清洗并存储到Hbase集群;
4)基于Hive做离线分析,结果导入mysql;
项目2、网安大数据舆情分析系统
描述:在当前互联网日益普及的情况下,网络信息的获取和发布也变得越来越方便,如何对网络信息的识别和监管就变得十分重要,通过构建网安大数据分析平台对可疑信息提供有效的防控方案。
职责:
1、 负责分布式集群的搭建及维护,对已有历史数据进行清洗过滤,并用solr创建索引;
2、 利用机器学习算法对文档及音频数据进行分析(主要做特征提取、分类、内容识别等);
3、搭建web业务系统,提供统计信息的分类展示,以及文本及音频的条件检索;