一.培訓(xùn)時(shí)間和地點(diǎn)
2014年10月25日至10月30日(10月24日?qǐng)?bào)到)西安
2014年11月25日至11月30日(11月24日?qǐng)?bào)到)深圳
2014年12月25日至12月30日(12月24日?qǐng)?bào)到)北京
2015年02月07日至02月12日(02月06日?qǐng)?bào)到)北京
二.課程目標(biāo)
本課程以大數(shù)據(jù)架構(gòu)與案例為驅(qū)動(dòng),采用一個(gè)完整地案例貫穿整個(gè)課程,讓學(xué)員體驗(yàn)大數(shù)據(jù)架構(gòu)的企業(yè)價(jià)值。在課程中學(xué)員將被賦予企業(yè)架構(gòu)師角色,通過剖析企業(yè)對(duì)大數(shù)據(jù)的主要需求,使學(xué)員感悟大數(shù)據(jù)架構(gòu)設(shè)計(jì)的過程與價(jià)值。具體課程目標(biāo)包括:
1. 全面掌握Hadoop的架構(gòu)原理和使用場(chǎng)景;
2. 全程項(xiàng)目實(shí)戰(zhàn)訓(xùn)練;
3. 徹底掌握使用Hadoop進(jìn)行MapReduce程序開發(fā);
4. 熟悉分布式計(jì)算領(lǐng)域的常用算法;
5. 掌握Hive、HBase使用與優(yōu)化技巧。
6. 了解云計(jì)算的發(fā)展歷史
7. 掌握云計(jì)算的實(shí)踐應(yīng)用
8. 學(xué)習(xí)云計(jì)算的核心技術(shù)
9. 通曉云計(jì)算的商業(yè)價(jià)值。
三.培訓(xùn)師資
錢老師 大數(shù)據(jù)專家。在電信、電力、金融行業(yè)從事Java開發(fā)和架構(gòu)設(shè)計(jì)的工作;資深云計(jì)算研發(fā)工程師。作為項(xiàng)目的主要成員和負(fù)責(zé)人參與并領(lǐng)導(dǎo)完成了多個(gè)大型復(fù)雜項(xiàng)目,并成功應(yīng)用于行業(yè)解決方案,如海量數(shù)據(jù)匹配系統(tǒng)、電力行業(yè)實(shí)時(shí)數(shù)據(jù)采集分析系統(tǒng)等。設(shè)計(jì)并實(shí)現(xiàn)了實(shí)時(shí)索引系統(tǒng)-云搜,成功應(yīng)用與某國(guó)企知識(shí)庫(kù)系統(tǒng)。并可應(yīng)用與互聯(lián)網(wǎng)行業(yè)的搜索等應(yīng)用。完成多個(gè)云計(jì)算解決方案的架構(gòu),涉及到金融韓行業(yè)海量數(shù)據(jù)分析與數(shù)據(jù)處理系統(tǒng)、海量日志分析系統(tǒng)、電力用電信息統(tǒng)計(jì)系統(tǒng)等,獲得業(yè)界認(rèn)可。
朱老師 十余年IT行業(yè)經(jīng)驗(yàn),IBM企業(yè)數(shù)據(jù)分析與大數(shù)據(jù)專家,數(shù)據(jù)中心系統(tǒng)架構(gòu)設(shè)計(jì),性能管理與容量評(píng)估專家,主要專業(yè)特長(zhǎng)包括基礎(chǔ)架構(gòu)云平臺(tái)設(shè)計(jì)、服務(wù)器及存儲(chǔ)虛擬化、數(shù)據(jù)庫(kù)優(yōu)化、性能管理、容量評(píng)估等領(lǐng)域。具有豐富的教學(xué)和實(shí)踐經(jīng)驗(yàn),對(duì)IT職業(yè)培訓(xùn)有深刻的理解。曾參與多家大型銀行系統(tǒng)架構(gòu)設(shè)計(jì),在高可用性高性能大容量系統(tǒng)領(lǐng)域的虛擬化和大數(shù)據(jù)處理有深入的研究,能夠結(jié)合實(shí)際,在復(fù)雜的應(yīng)用環(huán)境中選擇適合的分析技術(shù)來降低運(yùn)維風(fēng)險(xiǎn)、縮短停機(jī)時(shí)間、提高系統(tǒng)及數(shù)據(jù)庫(kù)性能。多次全國(guó)巡講。授課過程理論與實(shí)踐并重,深入淺出,講課詼諧幽默、氣氛活躍,深受廣大學(xué)員好評(píng)。
四.學(xué)習(xí)對(duì)象
軟件工程師、數(shù)據(jù)庫(kù)開發(fā)人員、網(wǎng)絡(luò)后臺(tái)開發(fā)人員、運(yùn)維人員;地方政府云計(jì)算物聯(lián)網(wǎng)產(chǎn)業(yè)負(fù)責(zé)人;各地云計(jì)算中心負(fù)責(zé)人;云計(jì)算物聯(lián)網(wǎng)產(chǎn)業(yè)規(guī)劃負(fù)責(zé)人;云計(jì)算產(chǎn)業(yè)投資團(tuán)隊(duì);云計(jì)算應(yīng)用開發(fā)商;云計(jì)算硬件設(shè)備提供商;云服務(wù)運(yùn)營(yíng)服務(wù)提供商;高校、科研院所云計(jì)算項(xiàng)目負(fù)責(zé)人。
五.課程大綱
(第一專題:大數(shù)據(jù)與云計(jì)算架構(gòu))
日程 |
授課主題 |
課程安排 |
第
一
天
|
云計(jì)算概述 |
云的理想
云的挑戰(zhàn)
發(fā)展的趨勢(shì)
云是什么
不同工作負(fù)載適用不同的云
選擇合適的云平臺(tái)
幾個(gè)云應(yīng)用案例
我們身邊的云 |
云架構(gòu) |
云多層架構(gòu)視圖
IaaS、PaaS與SaaS的定位與異同
云平臺(tái)的發(fā)展現(xiàn)狀
云數(shù)據(jù)中心技術(shù)架構(gòu) |
IAAS云層的原理與應(yīng)用 |
IaaS的基礎(chǔ):虛擬化
虛擬化相關(guān)技術(shù)
Power云部署方案介紹
VMWare云部署方案介紹
OpenStack云部署方案介紹
SONAS云存儲(chǔ)方案介紹
應(yīng)用實(shí)例 |
第
二
天
|
PaaS云層的原理與應(yīng)用 |
PaaS的架構(gòu)原理
基于WebSphere的PaaS設(shè)計(jì)實(shí)踐 |
SaaS云層的原理與應(yīng)用 |
SaaS的架構(gòu)原理
一個(gè)公有云SaaS的設(shè)計(jì)實(shí)踐 |
云計(jì)算的性能管理與容量規(guī)劃 |
什么是性能容量管理
性能容量管理參考案例
壓力測(cè)試基本理論
系統(tǒng)性能設(shè)計(jì)與調(diào)優(yōu) |
第
三
天 |
大數(shù)據(jù)云的原理與架構(gòu) |
存儲(chǔ)子系統(tǒng)
傳統(tǒng)文件系統(tǒng)
松耦合網(wǎng)絡(luò)文件系統(tǒng)
共享存儲(chǔ)文件系統(tǒng)
基于對(duì)象的存儲(chǔ)子系統(tǒng)
大數(shù)據(jù)存儲(chǔ)子系統(tǒng)
Google GFS
Facebook Haystack
Amazon Dynamo
Yahoo PNUTS
Google BigTable
云存儲(chǔ)服務(wù)
Amazon Simple Storage Service
Google Storage for Developers |
(第二專題:大數(shù)據(jù)分析與Hadoop開發(fā))
日程 |
模塊單元 |
模塊單元 |
第
四
天 |
第1個(gè)主題:Hadoop的來源和動(dòng)機(jī)
1.傳統(tǒng)大規(guī)模系統(tǒng)存在的問題
2.對(duì)一種新的解決方案的需求
3.Hadoop應(yīng)用案例解析
4.Hadoop 版本介紹
5.Hadoop與傳統(tǒng)分布式環(huán)境的區(qū)別
第2個(gè)主題:Hadoop安裝和部署準(zhǔn)備
1. Hadoop系統(tǒng)模塊組件概述
2. Hadoop試驗(yàn)集群的部署結(jié)構(gòu)
3. Hadoop 安裝依賴關(guān)系
4. Hadoop 生產(chǎn)環(huán)境的部署結(jié)構(gòu)
第3個(gè)主題:Hadoop集群安裝和部署
第4個(gè)主題:Hadoop組件詳解
1. Hadoop HDFS 基本結(jié)構(gòu)
2. Hadoop HDFS 副本存放策略
3. Hadoop NameNode 詳解
4. Hadoop SecondaryNameNode 詳解
5. Hadoop DataNode 詳解
6. Hadoop JobTracker 詳解
|
5.Mapper
6.Reducer
7.API 使用Eclipse進(jìn)行快速開發(fā)
8.新MapReduce API
第4個(gè)主題:Hadoop 核心代碼剖析
1. Hadoop Mapper 類核心代碼剖析
2. Hadoop Reducer 類核心代碼剖析
第5個(gè)主題:HDFS分布式文件系統(tǒng)編程
1. Hadoop HDFS 剖析
2. Hadoop NameNode 剖析
3. Hadoop DataNode 剖析
4. hadoop I/O 操作
5. 使用Hadoop HDFS API對(duì)HDFS編程
第5個(gè)主題
|
第
五
天 |
第1個(gè)主題:Hadoop MapReduce
1. Hadoop JobTracker 剖析
2.Hadoop TaskTracker 剖析
3.Hadoop 任務(wù)提交流程剖析
第2個(gè)主題: Hadoop MapReduce Streaming編程
1. Hadoop Streaming 和 Java MapReduce Api 差異
2. 使用 MapReduce 實(shí)現(xiàn)數(shù)據(jù)庫(kù)功能
第3個(gè)主題:MapReduce分布式程序
1. MapReduce流程
2.剖析一個(gè)MapReduce程序
3.基本MapReduceAPI 概念
4.驅(qū)動(dòng)代碼
第4個(gè)主題:Hadoop Mapreduce高級(jí)編程
1.ToolRunner介紹
2.使用MRUnit進(jìn)行測(cè)試
3.利用Combiners來減少中間數(shù)據(jù)
4.使用Configure和Close方法來進(jìn)行Map/Reduce設(shè)置和關(guān)閉
5.編寫Partitioner來優(yōu)化負(fù)載平衡
6.直接訪問Hadoop分布式文件系統(tǒng)(HDFS)
7.使用分布式緩存(Distributed Cache)
|
第5個(gè)主題:MapReduce的優(yōu)化
1. map優(yōu)化
2. reduce優(yōu)化
3. 小文件優(yōu)化
第6個(gè)主題:MapReduce的任務(wù)調(diào)度
1. Queue調(diào)度的使用
2. 公平調(diào)度的使用
3. 能力調(diào)度的使用
第7個(gè)主題Hadoop 生態(tài)系統(tǒng)介紹
分布式管理組件-Zookeeper
分布式數(shù)據(jù)倉(cāng)庫(kù)-Hive
分布式數(shù)據(jù)庫(kù)-HBase
數(shù)據(jù)導(dǎo)入導(dǎo)出-Sqoop
工作流管理- Ozzie
Hadoop數(shù)據(jù)倉(cāng)庫(kù)-Hive
Hive基礎(chǔ)
Hive的作用和原理說明
Hadoop倉(cāng)庫(kù)和傳統(tǒng)數(shù)據(jù)倉(cāng)庫(kù)的協(xié)作關(guān)系;Hive與傳統(tǒng)數(shù)據(jù)庫(kù)的對(duì)接使用
Hadoop/Hive倉(cāng)庫(kù)數(shù)據(jù)數(shù)據(jù)流
|
第
六
天 |
Hadoop數(shù)據(jù)倉(cāng)庫(kù)-Hive
Hive Cli 的基本用法
HQL基本語(yǔ)法
自行編寫數(shù)據(jù)庫(kù)與Hadoop相互ETL工具的思路
|
Hadoop 分布式數(shù)據(jù)倉(cāng)庫(kù)-HBase
Hbase概念與架構(gòu)
hbase核心知識(shí)點(diǎn)
hbase安裝、部署
HBase配置優(yōu)化綜述
表設(shè)計(jì)優(yōu)化相關(guān)參數(shù)
監(jiān)控工具使用方法及注意事項(xiàng)
常見異,F(xiàn)象級(jí)處理方法 |
六.培訓(xùn)證書
1、工業(yè)和信息化部人才交流中心頒發(fā)的《全國(guó)信息化工程師》證書。
2、中國(guó)信息化培訓(xùn)中心頒發(fā)的《高級(jí)數(shù)據(jù)架構(gòu)師》證書。
證書可作為專業(yè)技術(shù)人員職業(yè)能力考核的證明,以及專業(yè)技術(shù)人員崗位聘用、任職、定級(jí)和晉升職務(wù)的重要依據(jù)。
七.培訓(xùn)費(fèi)用
培訓(xùn)費(fèi)4500元單項(xiàng)、8800元兩項(xiàng)(含培訓(xùn)費(fèi)、場(chǎng)地費(fèi)、考試費(fèi)、證書費(fèi)、午餐)。 備注:參加公開課需要安排住宿的學(xué)員請(qǐng)?zhí)崆奥?lián)系,統(tǒng)一安排,費(fèi)用自理。(請(qǐng)學(xué)員自帶筆記本電腦、一寸彩照2張—背面注明姓名、身份證復(fù)印件一張)。 |