2019-05-27 14:10:49 3861瀏覽
如今使用大數(shù)據(jù)處理的公司有很多,但是把Hadoop用起來(lái)很容易,但是要“用好”卻很難。本篇文章扣丁學(xué)堂大數(shù)據(jù)培訓(xùn)小編給小伙伴們分享一下如何用好Hadoop,希望對(duì)讀者們有所幫助。
問(wèn):Hadoop適不適用于電子政務(wù)?為什么?
答:電子政務(wù)是利用互聯(lián)網(wǎng)技術(shù)實(shí)現(xiàn)政府組織結(jié)構(gòu)和工作流程的重組優(yōu)化,建成一個(gè)精簡(jiǎn)、高效、廉潔、公平的政府運(yùn)作信息服務(wù)平臺(tái)。因此電子政務(wù)肯定會(huì)產(chǎn)生相關(guān)的大量數(shù)據(jù)以及相應(yīng)的計(jì)算需求,而這兩種需求涉及的數(shù)據(jù)和計(jì)算達(dá)到一定規(guī)模時(shí)傳統(tǒng)的系統(tǒng)架構(gòu)將不能滿(mǎn)足,就需要借助海量數(shù)據(jù)處理平臺(tái),例如Hadoop技術(shù),因此可以利用Hadoop技術(shù)來(lái)構(gòu)建電子政務(wù)云平臺(tái)。
總結(jié)一下,任何系統(tǒng)沒(méi)有絕對(duì)的適合和不適合,只有當(dāng)需求出現(xiàn)時(shí)才可以決定,在一個(gè)非常小的電子政務(wù)系統(tǒng)上如果沒(méi)有打數(shù)據(jù)處理以及計(jì)算分析需求時(shí)就不需要hadoop這樣的技術(shù),而實(shí)際上,商用的電子政務(wù)平臺(tái)往往涉及到大規(guī)模的數(shù)據(jù)和大量的計(jì)算分析處理需求,因此就需要Hadoop這樣的技術(shù)來(lái)解決。
問(wèn):hadoop對(duì)于實(shí)時(shí)在線(xiàn)處理有優(yōu)勢(shì)嗎?
答:直接使用hadoop進(jìn)行實(shí)時(shí)處理時(shí)沒(méi)有優(yōu)勢(shì)的,因?yàn)镠adoop主要解決的是海量批處理作業(yè)計(jì)算問(wèn)題,但是可以使用基于Hadoop的分布式NOSQL系統(tǒng)HBase系統(tǒng)以及相關(guān)實(shí)時(shí)處理系統(tǒng):
1、基于Hadoop的HBase可以做到實(shí)時(shí)處理以及相關(guān)需求的實(shí)時(shí)計(jì)算,主要解決海量相關(guān)查詢(xún)計(jì)算等需求。
2、可以考慮Spark計(jì)算,Spark是基于共現(xiàn)內(nèi)存RDD的系統(tǒng),比Hadoop更快,時(shí)候迭代式計(jì)算,例如數(shù)據(jù)挖掘,機(jī)器學(xué)習(xí)算法等。
3、還有Storm,Storm是一個(gè)免費(fèi)開(kāi)源、分布式、高容錯(cuò)的實(shí)時(shí)計(jì)算系統(tǒng),Storm經(jīng)常用于在實(shí)時(shí)分析、在線(xiàn)機(jī)器學(xué)習(xí)、持續(xù)計(jì)算、分布式遠(yuǎn)程調(diào)用和ETL等領(lǐng)域。
4、考慮S4, S4是Yahoo!在2010年10月開(kāi)源的一套通用、分布式、可擴(kuò)展、部分容錯(cuò)、具備可插拔功能的平臺(tái)。這套平臺(tái)主要是為了方便開(kāi)發(fā)者開(kāi)發(fā)處理流式數(shù)據(jù)(continuous unbounded streams of data)的應(yīng)用。
你可以依據(jù)實(shí)際的需求來(lái)選擇合適的系統(tǒng)。
以上就是扣丁學(xué)堂大數(shù)據(jù)在線(xiàn)學(xué)習(xí)小編給大家分享的如何用好Hadoop,希望對(duì)小伙伴們有所幫助,想要了解更多內(nèi)容的小伙伴可以登錄扣丁學(xué)堂官網(wǎng)咨詢(xún)。
想要學(xué)好大數(shù)據(jù)開(kāi)發(fā)小編給大家推薦口碑良好的扣丁學(xué)堂,扣丁學(xué)堂有專(zhuān)業(yè)老師制定的大數(shù)據(jù)學(xué)習(xí)路線(xiàn)圖輔助學(xué)員學(xué)習(xí),此外還有與時(shí)俱進(jìn)的大數(shù)據(jù)課程體系和大數(shù)據(jù)視頻教程供大家學(xué)習(xí),想要學(xué)好大數(shù)據(jù)開(kāi)發(fā)技術(shù)的小伙伴快快行動(dòng)吧??鄱W(xué)堂大數(shù)據(jù)學(xué)習(xí)群:209080834。
【關(guān)注微信公眾號(hào)獲取更多學(xué)習(xí)資料】 【掃碼進(jìn)入HTML5前端開(kāi)發(fā)VIP免費(fèi)公開(kāi)課】
查看更多關(guān)于“大數(shù)據(jù)培訓(xùn)資訊”的相關(guān)文章>