关于举办 "Hadoop 大数据平台开发与案例分析" 高级工程师 实战培训
一, 课程介绍
1. 需求理解
Hadoop 设计之初的目标就定位于高可靠性, 高可拓展性, 高容错性和高效性, 正是这些设计上与生俱来的优点, 才使得 Hadoop 一出现就受到众多大公司的青睐, 同时也引起了研究界的普遍关注.
对电信运营商而言, 用户上网日志包含了大量用户个性化需求, 喜好信息, 对其进行分析和挖掘, 能更好地了解客户需求. 传统经营分析系统小型机加关系型数据库的架构无法满足对海量非结构化数据的处理需求, 搭建基于 X86 的 Hadoop 平台, 引入大数据处理技术的方式, 实现高效率, 低成本, 易扩展的经营分析系统混搭架构成为电信运营商最为倾向的选择. 本课程将全面介绍 Hadoop 平台开发和运维的各项技术, 对学员使用该项技术具有很高的应用价值.
2. 培训课程架构与设计思路
(1)培训架构:
本课程分为三个主要部分:
第一部分: 重点讲述大数据技术在的应用, 使学员对大数据技术的广泛应用有清晰的认识, 在这环节当中会重点介绍 Hadoop 技术在整个大数据技术应用中的重要地位和应用情况.
第二部分: 具体对 hadoop 技术进行模块化分拆, 从大数据文件存储系统技术和分布式文件系统平台及其应用谈起, 介绍 Hadoop 技术各主要应用工具和方法, 以及在运维维护当中的主流做法, 使学员全面了解和掌握 Hadoop 技术的精华.
第三部分: 重点剖析大数据的应用案例, 使学员在案例当中对该项技术有更深入的感观印象
(2)设计思路:
本课程采用模块化教学方法, 以案例分析为主线, 由浅入深, 循序渐进, 由理论到实践操作进行设计.
(3)与企业的贴合点:
本课程结合企业转型发展及大数据发展战略, 围绕企业大数据业务及行业应用市场拓展发展目标, 重点讲授 Hadoop 的应用技术, 提升企业 IT 技术人员的开发和运维能力, 有很强的贴合度.
二, 培训对象
各地企事业单位大数据产业相关人员, 运营商 IT 信息化和运维工程师相关人员, 金融业信息化相关人员, 或对大数据感兴趣的相关人员.
培训时间地点: 可咨询: 13932327338
2019 年 03 月 21 日 ----24 日 北京(20 号报到)
2019 年 04 月 20 日 ----23 日 上海(19 号报到)
2019 年 05 月 23 日 ----26 日 深圳(22 号报到)
2019 年 06 月 20 日 ----23 日 北京(19 号报到)
2019 年 07 月 19 日 ----22 日 杭州(18 号报到)
2019 年 08 月 22 日 ----25 日 成都(21 号报到)
2019 年 09 月 19 日 ----22 日 北京(18 号报到)
2019 年 10 月 22 日 ----25 日 苏州(21 号报到)
2019 年 11 月 20 日 ----23 日 珠海(19 号报到)
2019 年 12 月 20 日 ----23 日 北京(19 号报到)
三, 培训目标
掌握大数据处理平台 (Hadoop,Spark,Storm) 技术架构, 以及平台的安装部署, 运维配置, 应用开发; 掌握主流大数据 Hadoop 平台和 Spark 实时处理平台的技术架构和实际应用; 利用 Hadoop+Spark 对行业大数据进行存储管理和分析挖掘的技术应用; 讲解 Hadoop 生态系统组件, 包括 Storm,HDFS,MapReduce,HIVE,HBase,Spark,GraphX,MLib,Shark, Elasticsearch 等大数据存储管理, 分布式数据库, 大型数据仓库, 大数据查询与搜索, 大数据分析挖掘与分布式处理技术
四, 培训大纲
(1)课程框架
时间 培训内容 教学方式
第一天 上午 第一部分: 移动互联网, 大数据, 云计算相关技术介绍
第二部分: 大数据的挑战和发展方向 理论讲授 + 案例分析
下午 第三部分: 大数据文件存储系统技术和分布式文件系统平台及其应用
第四部分: Hadoop 文件系统 HDFS 最佳实战 理论讲授 + 案例分析 + 小组讨论
第二天 上午 第五部分: Hadoop 运维管理与性能调优
第六部分: NOSQL 数据库 Hbase 与 Redis 理论讲授 + 案例分析 + 实战演练
下午 第七部分: 类 SQL 语句工具 --Hive
第八部分: 数据挖掘 SPARK 建模基础介绍 理论讲授 + 案例分析 + 实战演练
第三天 上午 第九部分: Kafka 基础介绍
第十部分: 大数据典型应用与开发案例分析: 互联网数据运营 理论讲授 + 案例分析
下午 第十一部分: 当前数据中心的改造和转换分析 - 以国内外运营商, 互联网公司为例
第十二部分: 课程总结与问题答疑
评估培训 理论讲授 + 案例分析 + 小组讨论
第四天 学员考试与业界交流
详细培训内容介绍
课程模块 课程主题 主要内容及案例和演示
模块一 移动互联网, 大数据, 云计算相关技术介绍 1, 数据中心与云计算技术应用
2, 智慧城市与云计算技术应用
3, 移动互联网, 大数据与云计算关联技术
4, 移动云计算的生态系统及产业链
5, 大数据技术在运营商, 金融业, 银行业, 电子商务行业, 零售业, 制造业, 政务信息化, 互联网, 教育信息化等行业中的应用实践
6, 国内外主流的大数据解决方案介绍
7, 当前大数据解决方案与传统数据库方案的剖析比较
8,Cloudera Hadoop 大数据平台方案剖析
9, 开源的大数据生态系统平台剖析
模块二 大数据的挑战和发展方向 1, 大数据时代的挑战
战略决策能力
技术开发和数据处理能力
组织和运营能力
2, 大数据时代的发展方向
云计算是基础设施架构
大数据是灵魂资产
分析, 挖掘是手段
发现和预测是最终目标
3, 大数据挖掘在各行业应用情况
电信行业应用及案例分析
互联网行业应用及案例分析
金融行业应用及案例研究
销售行业应用案例分析
模块三 大数据文件存储系统技术和分布式文件系统平台及其应用 1,Hadoop 的发展历程
Hadoop 大数据平台架构
基于 Hadoop 平台的 PB 级大数据存储管理与分析处理的工作原理与机制
Hadoop 的核心组件剖析
2, 分布式文件系统 HDFS
概述, 功能, 作用, 优势
应用范畴, 应用现状
发展趋势
3, 分布式文件系统 HDFS 架构及原理
核心关键技术
设计精髓
基本工作原理
系统架构
文件存储模式
工作机制
存储扩容与吞吐性能扩展
4, 分布式文件系统 HDFS 操作
SHELL 命令操作
I/O 流式操作
文件数据读取, 写入, 追加, 删除
文件状态查询
数据块分布机制
数据同步与一致性
元数据管理技术
主节点与从节点工作机制
大数据负载均衡技术
HDFS 大数据存储集群管理技术
5,Hadoop 生态系统组件
Storm
HDFS
MapReduce
HIVE
HBase
Spark
GraphX
MLib
Shark
模块四 Hadoop 文件系统 HDFS 最佳实战 1,HDFS 的设计
2,HDFS 的概念
数据块
namenode 和 datanode
联邦 HDFS
HDFS 的高可用性
3, 命令行接口
4,Hadoop 文件系统
5,Java 接口
从 Hadoop URL 读取数据
通过 FileSystem API 读取数据
写入数据
目录
查询文件系统
删除数据
6, 数据流
剖析文件读取
剖析文件写入
一致模型
7, 通过 Flume 和 Sqoop 导入数据
8, 通过 distcp 并行复制
9,Hadoop 存档
使用 Hadoop 存档工具
不足
模块五 Hadoop 运维管理与性能调优 1, 第二代大数据处理框架
Yarn 的工作原理及
DAG 并行执行机制
Yarn 大数据分析处理案例分析
Yarn 框架并行应用程序实践
2, 集群配置管理
Hadoop 集群配置
Hadoop 性能调优与参数配置
Hadoop 机架感知策略与配置
Hadoop 压缩机制
Hadoop 任务负载均衡
Hadoop 集群维护
Hadoop 监控管理
3,HDFS 的静态调优技巧
HDFS 的高吞吐量 I/O 性能调优技巧
MapReduce/Yarn 的并行处理性能调优技巧
Hadoop 集群的运行故障剖析, 以及解决方案
基于 Hadoop 大数据应用程序的性能瓶颈剖析与提
Hadoop 大数据运维监控管理系统 HUE 平台的安装部署与应用配置
Hadoop 运维管理监控系统 Ambari 平台的安装部配置
Hadoop 集群运维系统 Ganglia, Nagios 的安装部署与应用配置
模块六 NOSQL 数据库 Hbase 与 Redis 1,NOSQL 基础
CAP 理论
Base 与 ACID
NOSQL 数据库存储类型
键值存储
列存储
文档存储
图形存储
2,HBase 分布式数据基础
3, 安装 Hbase
4,Hbase 应用
HBase 的逻辑数据模型, HBase 的表, 行, 列族, 列, 单元格, 版本, row key 排序
HBase 的物理模型, 命名空间 (表空间), 表模式(Schema) 的设计法则
HBase 主节点 HMaster 的工作原理, HMaster 的高可用配置, 以及性能调优
HBase 从节点 RegionServer(分区服务节点)的工作原理, 表分区及存储 I/O 高并发配置, 以及性能调优
HBase 的存储引擎工作原理, 以及 HBase 表数据的键值存储结构, 以及 HFile 存储结构剖析
HBase 表设计与数据操作以及数据库管理操作
HBase 集群的安装部署, 参数配置和性能优化
5,HBase 分布式数据库简介, 发展历程, 应用场景, 工作原理, 以及应用优势与不足之处
HBase 分布式数据库集群的主从式平台架构和关键技术剖析
HBase 伪分布式和物理集群分布式的控制与运行配置
HBase 从节点 RegionServer(分区服务节点)的工作原理, 表分区及存储 I/O 高并发配置, 以及性能调优
HBase 的存储引擎工作原理, 以及 HBase 表数据的键值存储结构, 以及 HFile 存储结构剖析
HBase 表设计与数据操作以及数据库管理操作
HBase 集群的安装部署, 参数配置和性能优化
ZooKeeper 分布式协调服务系统的工作原理, 平台架构, 集群部署应用实战
ZooKeeper 集群的原理架构, 以及应用配置
6,Redis 内存数据库介绍, 以及业界应用案例
Redis 内存数据库集群架构以及核心技术剖析
Redis 集群的安装部署与应用开发实战
模块七 类 SQL 语句工具 --Hive 1, 安装 Hive
2, 示例
3, 运行 Hive
配置 Hive
Hive 服务
Metastore
4,Hive 与传统数据库相比
读时模式 vs. 写时模式
更新, 事务和索引
5,HiveQL
数据类型
操作与函数
6, 表
托管表和外部表
分区和桶
存储格式
导入数据
表的修改
表的丢弃
7, 查询数据
排序和聚集
MapReduce 脚本
连接
子查询
视图
8, 用户定义函数
写 UDF
写 UDAF
模块八 数据挖掘 SPARK 建模基础介绍
1,Spark 简介
Spark 是什么
Spark 生态系统 BDAS
2,Spark 架构
Spark 分布式架构与单机多核架构的异同
3,Spark 集群的安装与部署
Spark 的安装与部署
Spark 集群初试
4,Spark 硬件配置
Spark 硬件
Spark 硬件配置流程
模块九 Kafka 基础介绍 1,Kafka 介绍
2,kafka 体系结构
3,kafka 设计理念简介
4,kafka 通信协议
5,kafka 的伪分布安装, 集群安装
6,kafka 的 shell 操作, java 操作
7,kafka 设计理念 *
8,kafka producer 和 consumer 开发
9,Kafka 分布式消息订阅系统的应用介绍, 平台架构, 集群部署与配置应用实战
10,Flume-NG 数据采集系统的数据流模型, 平台架构, 集群部署与配置应用实战
11,Hadoop 与 DBMS 之间数据交互工具 Sqoop 的应用实践,
12,Sqoop 导入导出数据以及 Sqoop 集群部署与配置
13,Kettle 集群的平台架构, 核心技术, 部署配置和应用实战
14, 利用 Sqoop 实现 MySQL 与 Hadoop 集群之间
模块十 大数据典型应用与开发案例分析: 互联网数据运营 1, 案例 1: 贵州数据交易中心
交易所交易形式: 电子交易
交易所服务: 大数据交易, 大数据清洗建模分析, 大数据定向采购, 大数据平台技术开发
大数据交易安全性探讨分析
数据交易中心商业模式探讨分析
2, 案例 2: 大数据应用案例: 公共交通线路的智能规划
UrbanInsights: 为公交公司提供基于订阅访问的大数据工具以及大数据咨询服务
Urban Insights 数据源, 数据收集, 数据仓库, 数据分析 -- 设计运营线路
Urban Insights 通过互联网数据的运营
3, 讨论: 浙江移动大数据应用与开发方向
模块十一 当前数据中心的改造和转换分析 - 以国内外运营商, 互联网公司为例 1, 流商业大数据解决方案比较
2, 主流开源云计算系统比较
3, 国内外代表性大数据平台比较
4, 各厂商最新的大数据产品介绍
5, 案例分析
Facebook 的 SNS 平台应用
Google 的搜索引擎应用
Rackspace 的日志处理
Verizon 成立精准市场营销部
TelefonicaDynamicInsights 推出的名为 "智慧足迹" 的商业服务
中国联通的 "移动通信用户上网记录集中查询与分析支撑系统"
五, 师资介绍
张老师: 阿里大数据高级专家, 国内资深的 Spark,Hadoop 技术专家, 虚拟化专家, 对 HDFS,MapReduce,HBase,Hive,Mahout,Storm,spark 和 openTSDB 等 Hadoop 生态系统中的技术进行了多年的深入的研究, 更主要的是这些技术在大量的实际项目中得到广泛的应用, 因此在 Hadoop 开发和运维方面积累了丰富的项目实施经验. 近年主要典型的项目有: 某电信集团网络优化, 中国移动某省移动公司请账单系统和某省移动详单实时查询系统, 中国银联大数据数据票据详单平台, 某大型银行大数据记录系统, 某大型通信运营商全国用户上网记录, 某省交通部门违章系统, 某区域医疗大数据应用项目, 互联网公共数据大云 (DAAS) 和构建游戏云 (web Game Daas) 平台项目等.
六, 颁发证书
参加相关培训并通过考试的学员, 可以获得:
工业和信息化部颁发的 -《大数据应用开发工程师证书》. 该证书可作为专业技术人员职业能力考核的证明, 以及专业技术人员岗位聘用, 任职, 定级和晋升职务的重要依据. 注: 请学员带一寸彩照 2 张(背面注明姓名), 身份证复印件一张.
七, 培训费用及须知
6800 元 / 人(含教材, 培训费, 考证费以及学习用具等费用) 食宿统一安排, 费用自理.
来源: http://www.jianshu.com/p/9fcd664590a2