GreenPlum數(shù)據(jù)分布機(jī)制
一、介紹
GreenPlum是Coodinator/Segment架構(gòu),集群通常由一個(gè)Coodinator節(jié)點(diǎn)和一個(gè)standby coodinator節(jié)點(diǎn)以及多個(gè)segment節(jié)點(diǎn)組成,其中數(shù)據(jù)放置在segment節(jié)點(diǎn)上。Coodinator是整個(gè)數(shù)據(jù)庫(kù)的入口,客戶(hù)端只會(huì)連接到Coodinator上并執(zhí)行相關(guān)查詢(xún)操作,Standby節(jié)點(diǎn)為Coordinator提供高可用支持,Mirror為primary的備。
數(shù)據(jù)默認(rèn)使用hash分布。
二、插入時(shí)數(shù)據(jù)是如何分布分發(fā)到哪個(gè)segment?
1、插入操作時(shí)值的由來(lái)
我們看下insert語(yǔ)句的執(zhí)行計(jì)劃:
它沒(méi)有Motion節(jié)點(diǎn),僅1個(gè)slice,即root slice。Result節(jié)點(diǎn)是將insert的值物化以構(gòu)建TupleTableSlot進(jìn)行插入。也就是先物化然后insert。
這里主要關(guān)注物化的值從哪來(lái)。Result節(jié)點(diǎn)的執(zhí)行堆棧為:
ExecInterpExpr計(jì)算物化值步驟:EEOP_CONST;EEOP_ASSIGN_TMP。也就是得到個(gè)常量值放到resultslot中。
通過(guò)gdb跟蹤每個(gè)segment進(jìn)程,可以了解到這里的常量值就是INSERT語(yǔ)句中VALUES的值。
此時(shí)就可以了解到,SQL語(yǔ)句中VALUES值是直接發(fā)送到對(duì)于的segment的。
那么,具體是如何發(fā)送的呢?
2、值的發(fā)送
發(fā)送函數(shù)由cdbdisp_dispatchX完成。我們來(lái)跟蹤這個(gè)函數(shù),看下是如何分發(fā)到指定的segment的。
了解GP原理的話(huà),我們知道發(fā)送前需要先在master和segment之間建立一個(gè)連接,然后將執(zhí)行計(jì)劃通過(guò)這個(gè)連接發(fā)送過(guò)去。建立連接就是創(chuàng)建Gang,由函數(shù)AssignGangs完成。
最終創(chuàng)建Gang建立連接會(huì)調(diào)用函數(shù)cdbgang_createGang_async。下面我們看下這個(gè)函數(shù)是如何建立連接的。
cdbconn_doConnectStart連接時(shí),SegmentDatabaseDescriptor segdbDesc中的segment_database_info::GpSegConfigEntry存有segment的端口及IP等信息,即gp_segment_configuration系統(tǒng)表中內(nèi)容;诖诵畔ⅲ梢越⑦B接。
那么segdbDesc內(nèi)容從何而來(lái)?
從上述堆棧,segdbDesc是Gang中的db_descriptors[i],也就是buildGangDefinition函數(shù)生成:
SliceTable.slices[0].segments為入?yún)egments鏈表,存儲(chǔ)著執(zhí)行該slice的所有segment的content id。segdbDesc是根據(jù)content id從系統(tǒng)表gp_segment_config來(lái)獲取。
到這里可以知道,通過(guò)SliceTable中的segment鏈表得到該slice的segment的content。Insert僅一個(gè)slice,insert分發(fā)到執(zhí)行該insert的segment,content就是該segment的content id。通過(guò)該content id從gp_segment_configuration系統(tǒng)表中得到相關(guān)port、IP等信息,從而據(jù)此在master和segment之間建立連接。構(gòu)建鏈接后,insert語(yǔ)句通過(guò)此鏈接發(fā)送到對(duì)應(yīng)的segment。
那么content id又是如何與分布鍵聯(lián)系起來(lái)呢?
經(jīng)過(guò)分析,由函數(shù)DirectDispatchUpdateContentIdsForInsert來(lái)完成映射:
constvalue為分布鍵的key值,然后通過(guò)cdbhash函數(shù)通過(guò)系統(tǒng)hash函數(shù)將key值進(jìn)行hash,最終得到hashcode,該值即為content id,放到contentIds鏈表中。
三、基礎(chǔ)知識(shí)1、gp_segment_configuration
2、Gang、slice與QueryDesc之間關(guān)系
原文標(biāo)題 : GreenPlum數(shù)據(jù)分布機(jī)制
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
即日-11.13立即報(bào)名>>> 【在線(xiàn)會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線(xiàn)會(huì)議
-
12月19日立即報(bào)名>> 【線(xiàn)下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線(xiàn)峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
-
精彩回顧立即查看>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
推薦專(zhuān)題
- 1 【一周車(chē)話(huà)】沒(méi)有方向盤(pán)和踏板的車(chē),你敢坐嗎?
- 2 特斯拉發(fā)布無(wú)人駕駛車(chē),還未迎來(lái)“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰(shuí)是盈利最強(qiáng)企業(yè)?
- 8 比蘋(píng)果偉大100倍!真正改寫(xiě)人類(lèi)歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類(lèi)何去何從?
- 10 Open AI融資后成萬(wàn)億獨(dú)角獸,AI人才之爭(zhēng)開(kāi)啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市