大數(shù)據(jù)培訓(xùn)課程介紹 大數(shù)據(jù)學(xué)習(xí)課程要學(xué)習(xí)哪些
2018-04-16 14:04:28
4279瀏覽
今天扣丁學(xué)堂給大家主要介紹的課程是針對零基礎(chǔ)大數(shù)據(jù)工程師每個階段進(jìn)行通俗易懂簡易介紹,方面大家更好的了解大數(shù)據(jù)學(xué)習(xí)課程。課程框架是扣丁學(xué)堂大數(shù)據(jù)的零基礎(chǔ)大數(shù)據(jù)工程師課程。
一、第一階段:靜態(tài)網(wǎng)頁基礎(chǔ)(HTML+CSS)
1.難易程度:一顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:html常用標(biāo)簽、CSS常見布局、樣式、定位等、靜態(tài)頁面的設(shè)計制作方式等
4.描述如下:
從技術(shù)層面來說,該階段使用的技術(shù)代碼很簡單、易于學(xué)習(xí)、方便理解。從后期課程層來說,因為我們重點是大數(shù)據(jù),但前期需要鍛煉編程技術(shù)與思維。經(jīng)過我們多年開發(fā)和授課的項目經(jīng)理分析,滿足這兩點,目前市場上最好理解和掌握的技術(shù)是J2EE,但J2EE又離不開頁面技術(shù)。所以第一階段我們的重點是頁面技術(shù)。采用市場上主流的HTMl+CSS。
二、第二階段:JavaSE+JavaWeb
1.難易程度:兩顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:java基礎(chǔ)語法、java面向?qū)ο?類、對象、封裝、繼承、多態(tài)、抽象類、接口、常見類、內(nèi)部類、常見修飾符等)、異常、集合、文件、IO、MYSQL(基本SQL語句操作、多表查詢、子查詢、存儲過程、事務(wù)、分布式事務(wù))JDBC、線程、反射、Socket編程、枚舉、泛型、設(shè)計模式
4.描述如下:
稱為Java基礎(chǔ),由淺入深的技術(shù)點、真實商業(yè)項目模塊分析、多種存儲方式的設(shè)計
與實現(xiàn)。該階段是前四個階段最最重要的階段,因為后面所有階段的都要基于此階段,也是學(xué)習(xí)大數(shù)據(jù)緊密度最高的階段。本階段將第一次接觸團隊開發(fā)、產(chǎn)出具有前后臺(第一階段技術(shù)+第二階段的技術(shù)綜合應(yīng)用)的真實項目。
三、第三階段:前端框架
1.難易程序:兩星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力):64課時
3.主要技術(shù)包括:JavaScript、Jquery、注解反射一起使用,XML以及XML解析、解析dom4j、jxab、jdk8.0新特性、SVN、Maven、easyui
4.描述如下:
前兩個階段的基礎(chǔ)上化靜為動,可以實現(xiàn)讓我們網(wǎng)頁內(nèi)容更加的豐富,當(dāng)然如果從市場人員層面來說,有專業(yè)的前端設(shè)計人員,我們設(shè)計本階段的目標(biāo)在于前端的技術(shù)可以更直觀的鍛煉人的思維和設(shè)計能力。同時我們也將第二階段的高級特性融入到本階段。使學(xué)習(xí)者更上一層樓。
四、第四階段:企業(yè)級開發(fā)框架
1.難易程序:三顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:Hibernate、Spring、SpringMVC、log4jslf4j整合、myBatis、struts2、Shiro、redis、流程引擎activity,爬蟲技術(shù)nutch,lucene,webServiceCXF、Tomcat集群和熱備、MySQL讀寫分離
4.描述如下:
如果將整個JAVA課程比作一個糕點店,那前面三個階段可以做出一個武大郎燒餅(因為是純手工-太麻煩),而學(xué)習(xí)框架是可以開一個星巴克(高科技設(shè)備-省時省力)。從J2EE開發(fā)工程師的任職要求來說,該階段所用到的技術(shù)是必須掌握,而我們所授的課程是高于市場(市場上主流三大框架,我們進(jìn)行七大框架技術(shù)傳授)、而且有真實的商業(yè)項目驅(qū)動。需求文檔、概要設(shè)計、詳細(xì)設(shè)計、源碼測試、部署、安裝手冊等都會進(jìn)行講解。
五、第五階段:初識大數(shù)據(jù)
1.難易程度:三顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:大數(shù)據(jù)前篇(什么是大數(shù)據(jù),應(yīng)用場景,如何學(xué)習(xí)大數(shù)據(jù)庫,虛擬機概念和安裝等)、Linux常見命令(文件管理、系統(tǒng)管理、磁盤管理)、LinuxShell編程(SHELL變量、循環(huán)控制、應(yīng)用)、Hadoop入門(Hadoop組成、單機版環(huán)境、目錄結(jié)構(gòu)、HDFS界面、MR界面、簡單的SHELL、java訪問hadoop)、HDFS(簡介、SHELL、IDEA開發(fā)工具使用、全分布式集群搭建)、MapReduce應(yīng)用(中間計算過程、Java操作MapReduce、程序運行、日志監(jiān)控)、Hadoop高級應(yīng)用(YARN框架介紹、配置項與優(yōu)化、CDH簡介、環(huán)境搭建)、擴展(MAP端優(yōu)化,COMBINER使用方法見,TOPK,SQOOP導(dǎo)出,其它虛擬機VM的快照,權(quán)限管理命令,AWK與SED命令)
4.描述如下:
該階段設(shè)計是為了讓新人能夠?qū)Υ髷?shù)據(jù)有一個相對的大概念怎么相對呢?在前置課程JAVA的學(xué)習(xí)過后能夠理解程序在單機的電腦上是如何運行的?,F(xiàn)在,大數(shù)據(jù)呢?大數(shù)據(jù)是將程序運行在大規(guī)模機器的集群中處理。大數(shù)據(jù)當(dāng)然是要處理數(shù)據(jù),所以同樣,數(shù)據(jù)的存儲從單機存儲變?yōu)槎鄼C器大規(guī)模的集群存儲。
(你問我什么是集群?好,我有一大鍋飯,我一個人可以吃完,但是要很久,現(xiàn)在我叫大家一起吃。一個人的時候叫人,人多了呢?是不是叫人群啊!)
那么大數(shù)據(jù)可以初略的分為:大數(shù)據(jù)存儲和大數(shù)據(jù)處理所以在這個階段中呢,我們課程設(shè)計了大數(shù)據(jù)的標(biāo)準(zhǔn):HADOOP大數(shù)據(jù)的運行呢并不是在咋們經(jīng)常使用的WINDOWS7或者W10上面,而是現(xiàn)在使用最廣泛的系統(tǒng):LINUX。
六、第六階段:大數(shù)據(jù)數(shù)據(jù)庫
1.難易程度:四顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:Hive入門(Hive簡介、Hive使用場景、環(huán)境搭建、架構(gòu)說明、工作機制)、HiveShell編程(建表、查詢語句、分區(qū)與分桶、索引管理和視圖)、Hive高級應(yīng)用(DISTINCT實現(xiàn)、groupby、join、sql轉(zhuǎn)化原理、java編程、配置和優(yōu)化)、hbase入門、HbaseSHELL編程(DDL、DML、Java操作建表、查詢、壓縮、過濾器)、細(xì)說Hbase模塊(REGION、HREGIONSERVER、HMASTER、ZOOKEEPER簡介、ZOOKEEPER配置、Hbase與Zookeeper集成)、HBASE高級特性(讀寫流程、數(shù)據(jù)模型、模式設(shè)計讀寫熱點、優(yōu)化與配置)
4.描述如下:
該階段設(shè)計是為了讓大家在理解大數(shù)據(jù)如何處理大規(guī)模的數(shù)據(jù)的同時。簡化咋們的編寫程序時間,同時提高讀取速度。
怎么簡化呢?在第一階段中,如果需要進(jìn)行復(fù)雜的業(yè)務(wù)關(guān)聯(lián)與數(shù)據(jù)挖掘,自行編寫MR程序是非常繁雜的。所以在這一階段中我們引入了HIVE,大數(shù)據(jù)中的數(shù)據(jù)倉庫。這里有一個關(guān)鍵字,數(shù)據(jù)倉庫。我知道你要問我,所以我先說,數(shù)據(jù)倉庫呢用來做數(shù)據(jù)挖掘分析的,通常是一個超大的數(shù)據(jù)中心,存儲這些數(shù)據(jù)的呢,一般為ORACLE,DB2,等大型數(shù)據(jù)庫,這些數(shù)據(jù)庫通常用作實時的在線業(yè)務(wù)。
總之,要基于數(shù)據(jù)倉庫分析數(shù)據(jù)呢速度是相對較慢的。但是方便在于只要熟悉SQL,學(xué)習(xí)起來相對簡單,而HIVE呢就是這樣一種工具,基于大數(shù)據(jù)的SQL查詢工具,這一階段呢還包括HBASE,它為大數(shù)據(jù)里面的數(shù)據(jù)庫。納悶了,不是學(xué)了一種叫做HIVE的數(shù)據(jù)“倉庫”了么?HIVE是基于MR的所以查詢起來相當(dāng)慢,HBASE呢基于大數(shù)據(jù)可以做到實時的數(shù)據(jù)查詢。一個主分析,另一個主查詢
七、第七階段:實時數(shù)據(jù)采集
1.難易程序:四顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:Flume日志采集,KAFKA入門(消息隊列、應(yīng)用場景、集群搭建)、KAFKA詳解(分區(qū)、主題、接受者、發(fā)送者、與ZOOKEEPER集成、Shell開發(fā)、Shell調(diào)試)、KAFKA高級使用(java開發(fā)、主要配置、優(yōu)化項目)、數(shù)據(jù)可視化(圖形與圖表介紹、CHARTS工具分類、柱狀圖與餅圖、3D圖與地圖)、STORM入門(設(shè)計思想、應(yīng)用場景、處理過程、集群安裝)、STROM開發(fā)(STROMMVN開發(fā)、編寫STORM本地程序)、STORM進(jìn)階(java開發(fā)、主要配置、優(yōu)化項目)、KAFKA異步發(fā)送與批量發(fā)送時效,KAFKA全局消息有序,STORM多并發(fā)優(yōu)化
4.描述如下:
前面的階段數(shù)據(jù)來源是基于已經(jīng)存在的大規(guī)模數(shù)據(jù)集來做的,數(shù)據(jù)處理與分析過后的結(jié)果是存在一定延時的,通常處理的數(shù)據(jù)為前一天的數(shù)據(jù)。
舉例場景:網(wǎng)站防盜鏈,客戶賬戶異常,實時征信,遇到這些場景基于前一天的數(shù)據(jù)分析出來過后呢?是否太晚了。所以在本階段中我們引入了實時的數(shù)據(jù)采集與分析。主要包括了:FLUME實時數(shù)據(jù)采集,采集的來源支持非常廣泛,KAFKA數(shù)據(jù)數(shù)據(jù)接收與發(fā)送,STORM實時數(shù)據(jù)處理,數(shù)據(jù)處理秒級別
八、第八階段:SPARK數(shù)據(jù)分析
1.難易程序:五顆星
2.課時量(技術(shù)知識點+階段項目任務(wù)+綜合能力)
3.主要技術(shù)包括:SCALA入門(數(shù)據(jù)類型、運算符、控制語句、基礎(chǔ)函數(shù))、SCALA進(jìn)階(數(shù)據(jù)結(jié)構(gòu)、類、對象、特質(zhì)、模式匹配、正則表達(dá)式)、SCALA高級使用(高階函數(shù)、科里函數(shù)、偏函數(shù)、尾迭代、自帶高階函數(shù)等)、SPARK入門(環(huán)境搭建、基礎(chǔ)結(jié)構(gòu)、運行模式)、Spark數(shù)據(jù)集與編程模型、SPARKSQL、SPARK進(jìn)階(DATAFRAME、DATASET、SPARKSTREAMING原理、SPARKSTREAMING支持源、集成KAFKA與SOCKET、編程模型)、SPARK高級編程(Spark-GraphX、Spark-Mllib機器學(xué)習(xí))、SPARK高級應(yīng)用(系統(tǒng)架構(gòu)、主要配置和性能優(yōu)化、故障與階段恢復(fù))、SPARKMLKMEANS算法,SCALA隱式轉(zhuǎn)化高級特性
4.描述如下:
同樣先說前面的階段,主要是第一階段。HADOOP呢在分析速度上基于MR的大規(guī)模數(shù)據(jù)集相對來說還是挺慢的,包括機器學(xué)習(xí),人工智能等。而且不適合做迭代計算。SPARK呢在分析上是作為MR的替代產(chǎn)品,怎么替代呢?先說他們的運行機制,HADOOP基于磁盤存儲分析,而SPARK基于內(nèi)存分析。我這么說你可能不懂,再形象一點,就像你要坐火車從北京到上海,MR就是綠皮火車,而SPARK是高鐵或者磁懸浮。而SPARK呢是基于SCALA語言開發(fā)的,當(dāng)然對SCALA支持最好,所以課程中先學(xué)習(xí)SCALA開發(fā)語言。
在課程的設(shè)計方面,市面上的職位要求技術(shù),基本全覆蓋。最后想要了解更多關(guān)于大數(shù)據(jù)發(fā)展前景趨勢,請關(guān)注扣丁學(xué)堂
大數(shù)據(jù)培訓(xùn)官網(wǎng)、微信等平臺,扣丁學(xué)堂IT職業(yè)在線學(xué)習(xí)教育平臺為您提供權(quán)威的大數(shù)據(jù)視頻教程系統(tǒng),通過千鋒旗下金牌講師在線錄制的
大數(shù)據(jù)視頻教程系統(tǒng),讓你快速掌握大數(shù)據(jù)從入門到精通大數(shù)據(jù)開發(fā)實戰(zhàn)技能。扣丁學(xué)堂大數(shù)據(jù)學(xué)習(xí)群:209080834。
【關(guān)注微信公眾號獲取更多學(xué)習(xí)資料】
查看更多關(guān)于“大數(shù)據(jù)培訓(xùn)資訊”的相關(guān)文章>>
標(biāo)簽:
大數(shù)據(jù)分析
大數(shù)據(jù)培訓(xùn)
大數(shù)據(jù)視頻教程
Hadoop視頻教程
大數(shù)據(jù)開發(fā)工程師
大數(shù)據(jù)在線視頻