什么是大数据开发,很多朋友们都不是很明白什么意思,今天小编整理了一下资料为大家详细的讲解一下关于什么是大数据开发的几点小常识和小知识吧,一起来了解一下吧.
2.大数据开发其实分两种,类是编写一些Hadoop、Spark的应用程序,第二类是对大数据处理系统本身进行开发。类工作感觉更适用于data analyst这种职位吧,而且现在Hive Spark-SQL这种系统也提供SQL的接口。第二类工作的话通常才大公司里才有,一般他们都会搞自己的系统或者再对开源的做些二次开发。这种工作的话对理论和实践要求的都更深一些,也更有技术含量。
2.Scala编程语言核心用法、Spark(sql、shell)大数据处理、Spark—Streaming大数据处理、Spark—Mlib机器学习)大数据处理、Spark—Streaming大数据处理、Spark—Mlib机器学习、hive数仓实战、hbase实战。
2、大数据开发主要学习编程技术,不需要数学基础
2、2018年一线城市大数据开发岗位年薪30w
3、与人工智能、云计算以及电商、旅游、物流等行业的对接将更加深入,发展方向也更加广泛
2、服务各种业务需求,服务日益增长的业务和数据量;
3、深入源码内核改进优化开源项目,解决各种hadoop、spark、hbase疑难l问题,参与到开源社区建设和代码贡献。
2、精通C++/Java/Scala/python程序开发(至少一种),熟悉Linux/Unix开发环境;
3、熟悉常用开源分布式系统,精通Hadoop/Hive/Spark/Storm/Flink/HBase之一源代码;
4、有大规模分布式系统开发、维护经验,有故障处理能力,源码级开发能力;
5、具有良好的沟通协作能力,具有较强的分享精神;
6、对Kudu、Kylin、Impala、ElasticSearch,github等系统有深入使用和底层研究者加分。