我要報名

咨詢電話：
手　　機(jī)：	郵箱：

課程介紹

隨著互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展，我們已經(jīng)切實(shí)地迎來了一個大數(shù)據(jù)的時代。如何對海量數(shù)據(jù)進(jìn)行挖掘和分析，已經(jīng)成為一個非常重要且緊迫的需求。

從2008年Natural正式定義“大數(shù)據(jù)”開始，以Hadoop為代表的大數(shù)據(jù)處理和分析工具，以其可伸縮性、健壯性、計算性能和成本上具有無可替代的優(yōu)勢，事實(shí)上已成為當(dāng)前互聯(lián)網(wǎng)企業(yè)主流數(shù)據(jù)分析平臺。大數(shù)據(jù)相關(guān)技術(shù)最近幾年出現(xiàn)了井噴的趨勢，眾多技術(shù)紛紛出現(xiàn)，典型的系統(tǒng)包括Hadoop、Spark、SparkSQL、Hive、HBase、Kafka、Streaming、Parquet、ElasticSearch、Mahout、MLlib、Docker等，涵蓋網(wǎng)絡(luò)數(shù)據(jù)爬取、日志采集、分布式消息訂閱、大數(shù)據(jù)分析挖掘等方面，涉及離線批處理、實(shí)時處理、流式處理等多種處理方式。

面對如此眾多的新技術(shù)，如何利用這些流行的大數(shù)據(jù)產(chǎn)品，構(gòu)成一個大數(shù)據(jù)系統(tǒng)，如何監(jiān)控其性能，性能指標(biāo)如何分析，性能問題如何定位和解決，成為一個緊迫的亟待解決的問題。

為解決廣大系統(tǒng)設(shè)計人員深入研究與開發(fā)主流大數(shù)據(jù)系統(tǒng)，解決廣大系統(tǒng)設(shè)計人員深入分析及性能監(jiān)控的需要，培訓(xùn)中心特舉辦“主流大數(shù)據(jù)系統(tǒng)的性能監(jiān)控及分析”培訓(xùn)班，具體事宜通知如下：

課程對象

1，系統(tǒng)架構(gòu)師、系統(tǒng)分析師、高級程序員、資深開發(fā)人員。

2，牽涉到主流大數(shù)據(jù)系統(tǒng)分析建模的數(shù)據(jù)中心運(yùn)行、規(guī)劃、設(shè)計負(fù)責(zé)人。

3，政府機(jī)關(guān)，金融保險、移動和互聯(lián)網(wǎng)等大數(shù)據(jù)來源單位的負(fù)責(zé)人。

4，高校、科研院所牽涉到主流大數(shù)據(jù)系統(tǒng)應(yīng)用的項目負(fù)責(zé)人。

5，對大數(shù)據(jù)系統(tǒng)性能監(jiān)控及分析感興趣的人員。

課程特色

本課程教學(xué)過程中還從國內(nèi)外經(jīng)典大數(shù)據(jù)應(yīng)用中，提取了大量的案例分析來幫助學(xué)員了解大數(shù)據(jù)前沿相關(guān)新技術(shù)，并介紹了從海量數(shù)據(jù)中發(fā)現(xiàn)有價值的信息的關(guān)鍵，目標(biāo)是協(xié)助各單位研究人員，對前沿主流大數(shù)據(jù)技術(shù)有一個Overview，在此基礎(chǔ)上幫助各單位技術(shù)專家準(zhǔn)確定位和發(fā)現(xiàn)相關(guān)的大數(shù)據(jù)平臺和工具。

本課程不是一個泛泛的理論性、概念性的介紹課程，而是針對問題討論解決方案的深入課程。教師對于上述領(lǐng)域有深入的理論研究與實(shí)踐經(jīng)驗(yàn)，在課程中將會針對這些問題與學(xué)員一起進(jìn)行研究，在關(guān)鍵點(diǎn)上還會搭建實(shí)驗(yàn)環(huán)境進(jìn)行實(shí)踐演練，加深對于這些解決方案的理解。通過本課程學(xué)習(xí)，希望推動大數(shù)據(jù)應(yīng)用開發(fā)上升到一個新水平。

課程大綱

第一講 大數(shù)據(jù)技術(shù)基礎(chǔ)

1）大數(shù)據(jù)應(yīng)用需求及潛在價值分析

2）大數(shù)據(jù)與數(shù)據(jù)庫解決方案的對比

3）國內(nèi)外主流的大數(shù)據(jù)解決方案

4）開源的大數(shù)據(jù)生態(tài)系統(tǒng)平臺剖析

5）大數(shù)據(jù)下的技術(shù)選型與架構(gòu)設(shè)計

第二講 批處理大數(shù)據(jù)平臺Hadoop

1）Hadoop及其運(yùn)行架構(gòu)

2）HDFS分布式文件系統(tǒng)

3）MapReduce計算模型

4）HBase大表管理技術(shù)

5）Hadoop平臺使用和實(shí)操

6) Hadoop性能監(jiān)控及分析

第三講 快速大數(shù)據(jù)平臺Spark

1) Spark快速處理技術(shù)

2)彈性分布式數(shù)據(jù)集RDD

3) Spark分布式計算框架

4) Spark的BDAS生態(tài)系統(tǒng)

5) Spark平臺使用和實(shí)操

6)Spark性能監(jiān)控及分析

第四講 流式實(shí)時大數(shù)據(jù)平臺Streaming

1) 實(shí)時流數(shù)據(jù)處理工具Streaming

2) Spark Streaming原理

3) Spark Streaming架構(gòu)

4) Spark Streaming實(shí)例

5) Spark Streaming性能監(jiān)控及分析

第五講 云數(shù)據(jù)處理工具HBase

1) NoSQL技術(shù)及云數(shù)據(jù)庫介紹

2) HBase列數(shù)據(jù)存儲機(jī)制

3) HBase數(shù)據(jù)處理機(jī)制分析

4) HBase高并發(fā)讀/寫實(shí)現(xiàn)及案例

5) HBase性能監(jiān)控及分析

第六講 Hive及大數(shù)據(jù)中的SQL工具

1) 大數(shù)據(jù)中的類SQL工具

2) Hive設(shè)計目標(biāo)和數(shù)據(jù)模型

3) Hive關(guān)鍵性技術(shù)分析

4) Hive數(shù)據(jù)操作和案例

5) Hive性能監(jiān)控及分析

第七講 SparkSQL類SQL工具

1) Spark SQL和BDAS數(shù)據(jù)分析棧

2) SparkSQL設(shè)計目標(biāo)和數(shù)據(jù)模型

3) Spark SQL數(shù)據(jù)操作

4) SparkSQL關(guān)鍵性技術(shù)和案例

5) SparkSQL性能監(jiān)控及分析

第八講 分布式消息訂閱工具Kafka

1) Kafka應(yīng)用介紹

2) Kafka平臺架構(gòu)

3) Kafka集群部署與配置

4) Kafka應(yīng)用案例實(shí)操

5) Kafka性能監(jiān)控及分析

第九講 大數(shù)據(jù)存儲格式Parquet

1) 大數(shù)據(jù)存儲格式的要求

2) Parquet文件格式介紹

3) Parquet的組成分析

4) Parquet的應(yīng)用情況

5) Parquet性能監(jiān)控及分析

第十講 大數(shù)據(jù)分析挖掘工具

1）大數(shù)據(jù)挖掘及知識模型的發(fā)現(xiàn)

2）大數(shù)據(jù)挖掘工具M(jìn)ahout和MLlib

3）推薦方法及MLlib電影推薦案例

4）分類方法及Mahout新聞分類案例

5）聚類方法及K-Means聚類案例

第十一講 Elasticsearch搜索分析工具

1) 全文檢索與Elasticsearch工具

2) Elasticsearch索引及檢索

3) Elasticsearch信息擴(kuò)展索引結(jié)構(gòu)

4) ELK和Elasticsearch集群

5) Elasticsearch性能監(jiān)控及分析

第十二講 資源虛擬化工具Docker

1）虛擬化和容器技術(shù)

2）LXC和Docker的發(fā)展

3）Docker架構(gòu)及特性

4）鏡像、容器和倉庫

5）Docker的執(zhí)行及其案例實(shí)操

第十三講 大數(shù)據(jù)技術(shù)展望

1）大數(shù)據(jù)分析技術(shù)展望

2）大數(shù)據(jù)平臺的發(fā)展展望

3）大數(shù)據(jù)挖掘的應(yīng)用展望

楊老師

楊老師 主要研究網(wǎng)絡(luò)信息分析以及云計算相關(guān)技術(shù)，長期從事人工智能、大數(shù)據(jù)處理、云計算以及數(shù)據(jù)分析決策支持系統(tǒng)的研究開發(fā)工作，主持和參與了多個國家和省部級基金項目，具有豐富的工程實(shí)踐及軟件研發(fā)經(jīng)驗(yàn)。

我要報名

在線報名：主流大數(shù)據(jù)系統(tǒng)性能監(jiān)控及分析(北京)