菜单 学习猿地 - LMONKEY

java

java

SparkSQL应用开发也是Spack生态的主要技术，在大数据Spack平台生态中处理的数据也可以共享，不同应用之间数据无缝集成 Spark 生态圈是加州大学伯克利分校的 AMP 实验室打造的，是一个力图在算法（Algorithms）、机器（Machines）、人（People）之间通过大规模集成来展现大数据应用的平台。 需要掌握Scala基础语法、数据结构、面向对象编程、函数式编程；Scala应用开发，还要掌握Spark集群的安装、配置、使用； Spark核心概念、基本原理；Spark RDD、Spark SQL、Spark Streaming应用开发。 以及要了解企业大数据应用设计规范和编码规则，掌握大数据应用开发。学完此阶段需要掌握Scala基础语法、数据结构、面向对象编程、函数式编程；Scala应用开发， 掌握Spark集群的安装、配置、使用；Spark核心概念、基本原理；Spark RDD、Spark SQL、Spark Streaming应用开发， ，了解企业大数据应用设计规范和编码规则，掌握大数据应用开发；

java

java

应知应会：

java

1.掌握SparkSQL基础数据类型、基本原理

2.掌握DSL语法

3.掌握与Hive、MySQL、Parquet文件等数据源的集成

4.掌握复杂SQL的编写

java

项目实战：

java

销售数据的统计分析

java

主要知识点：

java
☑ SpringBoot/Cloud技术使用

☑ SparkSQL核心概念、基本原理

☑ RDD、Dataset、DataFrame的转换

☑ DSL语法

☑ 与Hive、MySQL集成

☑ 外部数据源(csv、json、parquet)的访问

☑ 分析函数等复杂SQL应用

☑ 销售数据统计分析

java

java

学习基础：

java

大数据开发需要好的技术辅助， 掌握这些玩大数据才顺手。 除了要有Java基础之外， 做大数开发还需要一些通用的技术， 需要掌握Linux技术，包括Linux安装部署、Linux常用命令、Linux用户和权限、能够编写简单Linux Shell脚本。 还需要掌握数据库， 例数据库的设计、使用、优化、编程，熟练使用Java访问数据库。也需要前端H5、CSS3前端技术应用和开发，熟练进行前端界面设计。 也要掌握JavaWeb常见组件Servlet、JSP，熟练搭建Tomcat服务器和JavaWeb环境。

java

java

java