2019-05-27 14:22:06 3055瀏覽
關于hadoop相信對大數(shù)據(jù)開發(fā)技術感興趣的小伙伴應該有所了解吧,本篇文章扣丁學堂大數(shù)據(jù)培訓小編給讀者們分享一下非大數(shù)據(jù)的項目能否用hadoop及其相關方面內(nèi)容的解析,感興趣的小伙伴就隨小編來了解一下吧。
1、非大數(shù)據(jù)的項目能否用hadoop?
非大數(shù)據(jù)項目是否可以用Hadoop的關鍵問題在于是否有海量數(shù)據(jù)的存儲,計算,以及分析挖掘等需求,如果現(xiàn)有系統(tǒng)已經(jīng)很好滿足當前需求那么就沒有必要使用Hadoop,沒有必要使用并不意味這不能使用Hadoop,很多傳統(tǒng)系統(tǒng)能做的Hadoop也是可以做的,例如使用HDFS來代替LINUXNFS,使用MapReduce來代替單服務器的統(tǒng)計分析相關任務,使用Hbase代替Mysql等關系數(shù)據(jù)庫等,在數(shù)據(jù)量不大的情況下通常Hadoop集群肯定比傳統(tǒng)系統(tǒng)消耗更多的資源。
2、hadoopmapreduce和第三方資源管理調(diào)度系統(tǒng)如何集成?
Hadoop的調(diào)度器設計的一個原則就是可插拔式調(diào)度器框架,因此是很容易和第三方調(diào)度器集成的,例如公平調(diào)度器FairScheduler和容量調(diào)度器CapacityScheduler,并配置mapred-site.xml的mapreduce.jobtracker.taskscheduler以及調(diào)度器本身的配置參數(shù),例如公平調(diào)度器控制參數(shù)則需要編輯fair-scheduler.xml進行配置,同時可以進一步深入學習第9章Hadoop作業(yè)調(diào)度系統(tǒng),在這一章中會詳細介紹各種第三方調(diào)度器以及使用配置方法。
最后想要了解更多關于大數(shù)據(jù)方面內(nèi)容的小伙伴,請關注扣丁學堂大數(shù)據(jù)培訓官網(wǎng)、微信等平臺,扣丁學堂IT職業(yè)在線學習教育平臺為您提供權威的大數(shù)據(jù)視頻,大數(shù)據(jù)培訓后的前景無限,行業(yè)薪資和未來的發(fā)展會越來越好的,扣丁學堂老師精心推出的大數(shù)據(jù)在線視頻教程課定能讓你快速掌握大數(shù)據(jù)從入門到精通開發(fā)實戰(zhàn)技能??鄱W堂大數(shù)據(jù)學習群:209080834。
【關注微信公眾號獲取更多學習資料】 【掃碼進入Python全棧開發(fā)免費公開課】
查看更多關于“大數(shù)據(jù)培訓資訊”的相關文章>