目前做过的比较大的项目应该是上海移动的物联网项目,上海移动的用户量是1400W以上,每天所产生的需要处理的数据量在2亿条以上,在数据收集,解构,传递,存储的方面都有很大的调整,项目从一开始使用orcale存储数据,使用java直接处理逻辑,使用mq传递数据,在后续的实际生产中出现了较大的性能瓶颈,在硬件设施不足的情况下,对于所使用的工具的要求大大的提高了,我们开始尝试使用redis+orcale作为数据中介,使用redis+kafka做数据的传递,使用spark作为数据仓库处理逻辑,使用hbase+phoenix+orcale作为数据的存储,每一个项目都有一个新的挑战。