大數(shù)據(jù)經(jīng)典面試題答疑---經(jīng)常問的原理問題總結(jié)(系列文章,持續(xù)更新),幫你解決大數(shù)據(jù)開發(fā)中的困擾.

　　1. HDFS

　　1.1. 讀數(shù)據(jù)

　　1.2. 寫數(shù)據(jù)

　　如果在寫的過程中某個(gè)datanode發(fā)生錯(cuò)誤，會(huì)采取以下幾步：

　　1) pipeline被關(guān)閉掉;

　　2)為了防止防止丟包ack quene里的packet會(huì)同步到data quene里;

　　3)把產(chǎn)生錯(cuò)誤的datanode上當(dāng)前在寫但未完成的block刪掉;

　　4)block剩下的部分被寫到剩下的兩個(gè)正常的datanode中;

　　5)namenode找到另外的datanode去創(chuàng)建這個(gè)塊的復(fù)制。當(dāng)然，這些操作對(duì)客戶端來說是無感知的。

　　6.當(dāng)客戶端結(jié)束寫入數(shù)據(jù)，則調(diào)用stream的close函數(shù)。此操作將所有的數(shù)據(jù)塊寫入pipeline中的數(shù)據(jù)節(jié)點(diǎn)，并等待ack queue返回成功。最后通知元數(shù)據(jù)節(jié)點(diǎn)寫入完畢。

　　校驗(yàn)

　　1.2.1. HDFS在寫入過程中如何保證packet傳輸?shù)囊恢滦?/p>

　　hdfs寫入的時(shí)候計(jì)算出校驗(yàn)和，然后每次讀的時(shí)候再計(jì)算校驗(yàn)和。hdfs每固定長(zhǎng)度就會(huì)計(jì)算一次校驗(yàn)和，這個(gè)值由io.bytes.per.checksum指定，默認(rèn)是512字節(jié)。因?yàn)镃RC32是32位即4個(gè)字節(jié)，這樣校驗(yàn)和占用的空間就會(huì)少于原數(shù)據(jù)的1%。

　　datanode在存儲(chǔ)收到的數(shù)據(jù)前會(huì)校驗(yàn)數(shù)據(jù)的校驗(yàn)和，比如收到客戶端的數(shù)據(jù)或者其他副本傳過來的數(shù)據(jù)。hdfs數(shù)據(jù)流中客戶端寫入數(shù)據(jù)到hdfs時(shí)的數(shù)據(jù)流，在管道的最后一個(gè)datanode會(huì)去檢查這個(gè)校驗(yàn)和，如果發(fā)現(xiàn)錯(cuò)誤，就會(huì)拋出ChecksumException到客戶端。

　　可以在對(duì)FileSystem調(diào)用open()之前調(diào)用setVerifyChecksum()來禁止校驗(yàn)和檢測(cè).

　　也可以通過在shell中執(zhí)行-get,-copyToLocal命令時(shí)指定-ignoreCrc選項(xiàng)做到.

　　1.3. namenode

　　根據(jù)元數(shù)據(jù)增長(zhǎng)趨勢(shì)，參考本文前述的內(nèi)存空間占用預(yù)估方法，能夠大體得到NameNode常駐內(nèi)存大小，一般按照常駐內(nèi)存占內(nèi)存總量~60%調(diào)整JVM內(nèi)存大小可基本滿足需求。

　　為避免GC出現(xiàn)降級(jí)的問題，可將CMSInitiatingOccupancyFraction調(diào)整到~70。

　　NameNode重啟過程中，尤其是DataNode進(jìn)行BlockReport過程中，會(huì)創(chuàng)建大量臨時(shí)對(duì)象，為避免其晉升到Old區(qū)導(dǎo)致頻繁GC甚至誘發(fā)FGC，可適當(dāng)調(diào)大Young區(qū)(-XX:NewRatio)到10~15。

　　據(jù)了解，針對(duì)NameNode的使用場(chǎng)景，使用CMS內(nèi)存回收策略，將HotSpot JVM內(nèi)存空間調(diào)整到180GB，可提供穩(wěn)定服務(wù)。繼續(xù)上調(diào)有可能對(duì)JVM內(nèi)存管理能力帶來挑戰(zhàn)，尤其是內(nèi)存回收方面，一旦發(fā)生FGC對(duì)應(yīng)用是致命的。這里提到180GB大小并不是絕對(duì)值，能否在此基礎(chǔ)上繼續(xù)調(diào)大且能夠穩(wěn)定服務(wù)不在本文的討論范圍。結(jié)合前述的預(yù)估方法，當(dāng)可用JVM內(nèi)存達(dá)180GB時(shí)，可管理元數(shù)據(jù)總量達(dá)~700M，基本能夠滿足中小規(guī)模以下集群需求。

　　參考：https://blog.csdn.net/lingbo229/article/details/81079769

　　結(jié)論：

　　1、Total = 198 ∗ num(Directory + Files) + 176 ∗ num(blocks) + 2% ∗ size(JVM Memory Size)

　　2、受JVM可管理內(nèi)存上限等物理因素，180G內(nèi)存下，NameNode服務(wù)上限的元數(shù)據(jù)量約700M。更多關(guān)于“大數(shù)據(jù)培訓(xùn)”的問題，歡迎咨詢千鋒教育在線名師。千鋒教育多年辦學(xué)，課程大綱緊跟企業(yè)需求，更科學(xué)更嚴(yán)謹(jǐn)，每年培養(yǎng)泛IT人才近2萬人。不論你是零基礎(chǔ)還是想提升，都可以找到適合的班型，千鋒教育隨時(shí)歡迎你來試聽。