项目一:用户画像 2017.03-2018.03
项目职务: 机器学习开发
项目描述: 为实现通过对用户提供的身份证和手机号评估用户风险。项目模块主要如下:1.数据获取。通过内置在各商户 APP 中的 SDK 获取用户的操作、手机软硬件、个人信息、运营商等数据,2.数据处理。通过阿里的 ODPS 或公司集群进行数据清洗、统计、存储等。3.规则制定。主要通过自身、关联数据表现及结果、欺诈规则等制定。
项目职责:
1.根据用户可能产生欺诈的通话、短信行为,提取用户一级、二级关联构建用户画像标签。2.通过阿里的 ODPS 对用户的通话、短信记录进行数据清洗、统计。3.通过阿里的 PAI 进行数据分析。4.部分数据通过在公司集群使用 SPARKSQL 处理后推Kafka。
项目架构: 阿里的 ODPS+PAI、SparkSQL+HDFS+Kafka