大数据系统运维培训课程

培训目标：

了解大数据运维都有什么内容
大数据系统核心组件介绍
性能调优策略实战
离线服务平台介绍
业务实时监控介绍
Hadoop 集群硬件监控
通过应用案例了解工作方法与流程

大数据运维概览	大数据的运维案例回顾：运维内容运维工作流程运维支撑平台大数据运维涉及哪些内容大数据运维关注的问题大数据运维平台的典型架构
大数据系统核心组件介绍	1、集群管理工具—ambari 2、数据仓库—hive 3、分布式计算— MapReduce 4、noSQL数据库—Hbase 5、工作流工具—Oozie 6、数据的并行采集—Flume 7、MapReduce脚本工具—Pig 8、与关系型数据库之间的数据迁移—Sqoop 9、资源管理平台—Yarn 10、数据挖掘算法—Mahout 11、分布式统一服务—Zookeeper 12、流式计算—Strom 13、内存计算—Spark
性能调优策略实战	1、 Linux版本选择 2、安装HDFS系统调优 3、网络优化策略 4、 Hdfs优化策略 5、安装HDFS服务 6、 HDFS配置参数介绍 7、 HDFS运维工具介绍 8、 Hbase服务优化 9、 Hbase表设计 10、 spark服务介绍
离线服务平台介绍	1、大数据平台架构设计 2、底层存储服务平台架构设计与应用场景 3、离线计算框架实现对比 4、元数据服务治理与数据生命周期管理 5、统一调度平台设计 6、海量日志处理架构介绍
业务实时监控介绍	1、流计算框架服务介绍 2、 Storm流计算服务介绍与应用场景 3、 Spark Streaming服务框架介绍与应用场景 4、 Flink服务框架介绍与应用场景 5、流计算案例分享（天猫双十服务） 6、 58业务数据监控方案设计
Hadoop 集群硬件监控	1、查看集群状态 HDFS数据管理 Mapreduce 任务管理 HDFS安全模式添加删除节点数据平衡文件数据跨集群拷贝 2、使用Ganglia 监控Hadoop集群 3、使用Cacti 监控操作系统 4、使用Zabbix监控 5、 ganglia nagios联合使用分析 6、集群监控 7、服务监控运行的进程监控 8、主机状态监控 9、主机磁盘存储情况监控 10、网络状况监控 11、ganglia 监控 12、zabbix监控 13、提供的服务监控监控 14、堡垒机监控 15、任务监控 16、任务运行时常、资源数、读取数量、shuffle数量等 17、按人任务按部门的任务汇总 18、队列监控 19、队列下的任务运行历史监控 20、总量超过一个小时的任务列表监控报表 21、数据量监控 22、各个一级部门目录的数据增长量监控
应用案例	1、互联网行业大数据平台的搭建 2、移动手机上网日志分析系统 3、电信业使用hadoop场景分析 4、电商个性化推荐系统