大数据领域都有什么发展方向

近年来越来越多的人选择大数据行业，大数据行业前景不错薪资待遇好，各大名企对于大数据人才需求不断上涨。

大数据从业领域很宽广，不管是科技领域还是食品产业，零售业等都是需要大数据人才进行大数据的处理，以提供更好的用户体验，优化库存降低成本预测需求。

大数据开发做什么？

大数据开发分两类，编写Hadoop、Spark的应用程序和对大数据处理系统本身进行开发。大数据开发工程师主要负责公司大数据平台的开发和维护、相关工具平台的架构设计与产品开发、网络日志大数据分析、实时计算和流式计算以及数据可视化等技术的研发和网络安全业务主题建模等工作。

大数据开发应具备的技能：

目前从事大数据应用开发的语言包括Java、Python、Scala、R等，需要熟悉Hadoop、HBbase、hive、spark、Flink、ES、Presto、Flume、Kafka生态的原理和使用方法，掌握数据开发、数据挖掘的各项流程。

要想符合企业用人规范，学历，工作经验，掌握技能都是非常重要的~

先来看几个招聘网站的报告数据：

• Boss直聘发布的，今年春季的招聘数据大数据需求增长排名第二

• 猎聘发布的2019年来新发职位同比增长最快的5大领域，前五名就是：人工智能，生产制造，大数据，医疗健康，能源环保。

• 《2020中国大数据产业发展白皮书》显示，2019年中国大数据产业规模达5397亿元，同比增长23.1%，随后稳定增长，预计到2022年将突破万亿元。

• 根据LinkedIn、赛迪智库、拉勾网等机构的统计结果，大数据时代下的数据人才总体缺口呈现加剧增长状态。近3年，数据人才缺口在以每年50万人增加，预计在2022年，相关大数据专业高校毕业生大规模进入就业市场后，整体缺口增速才会有所放缓，但这一缺口仍会长期存在。

招聘有了，但是应聘者往往因为学历，工作经历找工作会遇到各种各样的问题，那么现在已经从事大数据的开发人员具体情况是怎样的呢？我们来看下面这几个方面：

1、学历层次

从学历层次来看，我国大数据人才的学历层次分为4个大类，分别是硕士及以上、本科、专科、专科以下，其中本科学历的大数据人才最多，占到高达65.45%的比例，其次是硕士及以上，而专科及以下学历的大数据人才仅占一小部分。可以看出，大数据行业作为一个新兴行业，对人才的学历要求普遍较高。

2、专业来源

在专业来源方面，我国大数据人才的专业来源主要由数理类、经济管理类、计算机类及其他专业四大类构成，其中计算机类占比最高，其次是数理类。

3、渠道来源

大数据人才的渠道来源分为4个大类，分别是校招、社招、内部培养和推荐、培训机构招聘。企业大数据人才各渠道来源的人数和占比见下图。

其中社招占比最大，比校招、内培和内推以及培训机构招聘的总和还要高。目前主要依靠社招，说明学校教育与社会需求脱节，内培和培训也不能满足岗位要求。

4、薪资水平分布

当前，大数据人才的薪资处于相对较高水平。薪资在1万元以下，占总人数的34.6%；1万元-2万元占比为35.64%；2万以上占比为29.77%。

5、岗位类型及数量

目前企业提供的大数据岗位按照工作内容要求，可以分为以下几类：

① 初级分析类，包括业务数据分析师、商务数据分析师等。

② 挖掘算法类，包括数据挖掘工程师、机器学习工程师、深度学习工程师、算法工程师、AI工程师、数据科学家等。

③ 开发运维类，包括大数据开发工程师、大数据架构工程师、大数据运维工程师、数据可视化工程师、数据采集工程师、数据库管理员等。

④ 产品运营类，包括数据运营经理、数据产品经理、数据项目经理、大数据销售等。四类岗位的数量和占比见下图。

大数据需求越来越多，国家也在开设相关岗位，从2018年开始就逐年较大的增长。

此时报考大学的学生和家长也对大数据，人工智能非常感兴趣，大数据连续3年进了前5，而且学历主要是本科就可以。

可以预见的将来这几年，这真的是一个朝阳行业，而且现在缺口很大。

那么想知道以后能找什么工作以及工作薪水，那不妨让我们以数据的方式来展示一下~

那么打开Boss直聘，搜大数据工程师：

我们来做下数据分析：

薪资那一列都有一个最低薪资和最高薪资，我们通过不同城市来对比分析一下，发现北京的工资水平最高，最低为22k，最高为38k。

工作年限也是一个制约工资水平的很大因素，从图中可以看出，即使是刚毕业，也能达到一个11-20k的薪资范围。

而学历要求来说，大部分为本科，其次为大专和硕士，其他比较少，以至于在图中并没有显示出来。
企业对不同岗位的要求以3-5年的居多，企业当然是需要有一定工作经验的员工，但是在实际招聘中，如果你有项目经验，且理论知识没问题，企业也会放宽条件。

分析不同行业， 我们发现，大数据岗位需求分布在各行各业，主要还是在计算机软件和互联网最多，也有可能是这个招聘软件决定的，毕竟Boss直聘还是以互联网行业为主。

来看看哪些公司在招聘大数据相关岗位，从这个超过15的数量来看，华为，腾讯，阿里，字节，这些大厂对这个岗位的需求量还是很大的。

那么这些岗位都需要什么技能呢？Spark，Hadoop，数据仓库，Python，SQL，Mapreduce，Hbase等等

根据国内的发展形势，大数据未来的发展前景会非常好。自 2018 年企业纷纷开始数字化转型，一二线城市对大数据领域的人才需求非常强烈，未来几年，三四线城市的人才需求也会大增。

大数据学习路线以及资源：

开发入门：Linux入门 → MySQL数据库
核心基础： Hadoop
数仓技术： Hive数仓项目
PB内存计算： Python入门 → Python进阶→ pyspark框架 → Hive+Spark项目

在选择培训机构之前，可以先学习一下大数据基础的教程，看看到底自己能不能掌握~

本套教程一网打尽了大数据必学的

Hadoop、Hive，云平台实战项目

让零基础同学一站式入门

直通大数据核心技术

这套大数据新教程基于Hadoop、Hive、云平台等技术带领大家由浅入深的进入大数据领域，一起体验大规模数据计算的魅力。

基于零基础学习的内容设计，提供了丰富的补充知识点供零基础学员进行前置学习。

作为2023年全新的大数据入门课程，课程内容采用全新的技术栈体系。基于Hadoop3.3.4、Hive 3.1.3、阿里云和UCloud云平台，为同学们打造一门大数据Hadoop生态体系的入门课程，但又不仅仅只是Hadoop。

2023新版大数据入门到实战教程，大数据开发必会的Hadoop、Hive，云平台实战项目全套一网打尽

课程特色

• 理论+实战完美结合：本套教程采用“理论+实战”的形式，全面介绍了大数据Hadoop、Hive离线开发的相关知识；

• 有内容也有深度：课程采用“入门+提高”的内容设计，入门知识和高阶知识相互独立，先全面入门，后全面进阶，循序渐进让大家学有所成；

• 结合当下热门的云平台（阿里云、UCloud）为大家带来《云原生大数据开发》：基于Hadoop3.3.4、Hive 3.1.3、阿里云和UCloud云平台，采用全新的技术栈体系。

适合人群

＞零基础：小白入门到高阶，再到精通

＞进阶者：有经验的工程师巩固拓展

＞探索者：感兴趣者领略大数据魅力

第一阶段 大数据开发入门

学前导读：从传统关系型数据库入手，掌握数据迁移工具、BI数据可视化工具、SQL，对后续学习打下坚实基础。

1.大数据数据开发基础MySQL8.0从入门到精通

MySQL是整个IT基础课程，SQL贯穿整个IT人生，俗话说，SQL写的好，工作随便找。本课程从零到高阶全面讲解MySQL8.0，学习本课程之后可以具备基本开发所需的SQL水平。

2022最新MySQL知识精讲+mysql实战案例_零基础mysql数据库入门到高级全套教程

第二阶段 大数据核心基础

学前导读：学习Linux、Hadoop、Hive，掌握大数据基础技术。

2022版大数据Hadoop入门教程
Hadoop离线是大数据生态圈的核心与基石，是整个大数据开发的入门，是为后期的Spark、Flink打下坚实基础的课程。掌握课程三部分内容：Linux、Hadoop、Hive，就可以独立的基于数据仓库实现离线数据分析的可视化报表开发。

2022最新大数据Hadoop入门视频教程，最适合零基础自学的大数据Hadoop教程

第三阶段 千亿级数仓技术

学前导读：本阶段课程以真实项目为驱动，学习离线数仓技术。

数据离线数据仓库，企业级在线教育项目实战（Hive数仓项目完整流程）
本课程会、建立集团数据仓库，统一集团数据中心，把分散的业务数据集中存储和处理 ；目从需求调研、设计、版本控制、研发、测试到落地上线，涵盖了项目的完整工序 ；掘分析海量用户行为数据，定制多维数据集合，形成数据集市，供各个场景主题使用。

大数据项目实战教程_大数据企业级离线数据仓库，在线教育项目实战（Hive数仓项目完整流程）

第四阶段 PB内存计算

学前导读：Spark官方已经在自己首页中将Python作为第一语言，在3.2版本的更新中，高亮提示内置捆绑Pandas；课程完全顺应技术社区和招聘岗位需求的趋势，全网首家加入Python on Spark的内容。

1.python入门到精通（19天全）

python基础学习课程，从搭建环境。判断语句，再到基础的数据类型，之后对函数进行学习掌握，熟悉文件操作，初步构建面向对象的编程思想，最后以一个案例带领同学进入python的编程殿堂。

全套Python教程_Python基础入门视频教程，零基础小白自学Python必备教程

2.python编程进阶从零到搭建网站

学完本课程会掌握Python高级语法、多任务编程以及网络编程。

Python高级语法进阶教程_python多任务及网络编程，从零搭建网站全套教程

3.spark3.2从基础到精通

Spark是大数据体系的明星产品，是一款高性能的分布式内存迭代计算框架，可以处理海量规模的数据。本课程基于Python语言学习Spark3.2开发，课程的讲解注重理论联系实际，高效快捷，深入浅出，让初学者也能快速掌握。让有经验的工程师也能有所收获。

Spark全套视频教程，大数据spark3.2从基础到精通，全网首套基于Python语言的spark教程

4.大数据Hive+Spark离线数仓工业项目实战

通过大数据技术架构，解决工业物联网制造行业的数据存储和分析、可视化、个性化推荐问题。一站制造项目主要基于Hive数仓分层来存储各个业务指标数据，基于sparkSQL做数据分析。核心业务涉及运营商、呼叫中心、工单、油站、仓储物料。

全网首次披露大数据Spark离线数仓工业项目实战，Hive+Spark构建企业级大数据平台