訂閱
糾錯(cuò)
加入自媒體

PG:checkpoint是什么?該如何寫(xiě)數(shù)據(jù)?

2021-03-05 09:13
yzsDBA
關(guān)注

PG:checkpoint是什么

Checkpoint是PG中的核心概念。然而會(huì)有用戶對(duì)此比較陌生,不知道如何調(diào)優(yōu)。本文解釋checkpoint及如何調(diào)優(yōu),希望對(duì)數(shù)據(jù)庫(kù)內(nèi)核理解有所幫助。

PG如何寫(xiě)數(shù)據(jù)

詳細(xì)討論checkpoint前,理解PG是如何write數(shù)據(jù)的非常重要,看下面的圖:

重要的假設(shè)是crash會(huì)發(fā)生在任何時(shí)間。為什么和這個(gè)相關(guān)?需要確認(rèn)數(shù)據(jù)庫(kù)永遠(yuǎn)不會(huì)被破壞。我們不能直接將數(shù)據(jù)寫(xiě)入數(shù)據(jù)文件。為甚?假設(shè)要將“1234”寫(xiě)入數(shù)據(jù)文件,如果在“12”后面崩潰,結(jié)果將是表中某個(gè)位置的一個(gè)元組被破壞,索引條目可能丟失等。我們必須不惜一切代價(jià)防止這種情況發(fā)生。

因此需要更加復(fù)雜的數(shù)據(jù)寫(xiě)入方法。PG首先將數(shù)據(jù)寫(xiě)入WAL,WAL就像一個(gè)包含二進(jìn)制變化的順序磁帶。如果添加一行,WAL可能包含一條記錄,用于記錄數(shù)據(jù)文件哪些地方改動(dòng)了,可能包含一組索引記錄改動(dòng)的指令、可能需要寫(xiě)入一個(gè)額外的頁(yè)等,僅包含一系列變化。

數(shù)據(jù)一旦寫(xiě)入WAL,PG將會(huì)對(duì)共享緩存區(qū)中的數(shù)據(jù)頁(yè)進(jìn)行更改,注意數(shù)據(jù)文件中仍沒(méi)有數(shù)據(jù),F(xiàn)在有了WAL條目及共享緩沖區(qū)的臟頁(yè)。如果一個(gè)讀取請(qǐng)求來(lái)了,可從緩存中找到,而不用到磁盤(pán)上讀取。

某個(gè)時(shí)刻,內(nèi)存中的臟頁(yè)會(huì)由后臺(tái)寫(xiě)入進(jìn)程寫(xiě)入磁盤(pán)。這里最重要的一點(diǎn)是,數(shù)據(jù)可能會(huì)被亂序?qū)懭,這個(gè)是沒(méi)有問(wèn)題的。如果用戶想讀取數(shù)據(jù),PG先從共享緩沖區(qū)中獲取。因此臟頁(yè)的寫(xiě)入順序與此無(wú)關(guān)。甚至可以晚一點(diǎn)寫(xiě)入,以增加一次sync的量。

刪除WAL

WAL不能無(wú)限寫(xiě)入,需要回收空間。這就是CHECKPOINT需要干的活之一。

Checkpoint的目的就是確保臟頁(yè)刷寫(xiě)到磁盤(pán),然后該臟頁(yè)對(duì)應(yīng)的WAL及之前的WAL就可以刪除回收了。PG的方法啟動(dòng)一個(gè)checkpoint進(jìn)程,將bgwriter進(jìn)程沒(méi)有刷寫(xiě)的刷寫(xiě)到磁盤(pán)。但是這個(gè)過(guò)程并沒(méi)有盡可能快的刷,我們需要使IO平穩(wěn),保證穩(wěn)定的響應(yīng)時(shí)間。

控制checkpoint平穩(wěn)的參數(shù)為:

test=# SHOW checkpoint_completion_target;checkpoint_completion_target------------------------------0.5(1 row)

到下個(gè)checkpoint開(kāi)始前完成刷寫(xiě)一半。真實(shí)情況下對(duì)于大多數(shù)負(fù)載0.7-0.9就可以了,但可以隨意設(shè)置。注意PG14中這個(gè)參數(shù)就會(huì)取消了,硬編碼值為0.9。下一個(gè)問(wèn)題是:什么時(shí)候進(jìn)行checkpoint呢?參數(shù)為:

test=# SHOW checkpoint_timeout;checkpoint_timeout--------------------5min(1 row)test=# SHOW max_wal_size;max_wal_size--------------1GB(1 row)

如果系統(tǒng)的負(fù)載比較低,在一段時(shí)間后進(jìn)行checkpoint。默認(rèn)值是5分鐘,但建議增加這個(gè)值以提高寫(xiě)入性能。注意,請(qǐng)隨意修改這個(gè)值,僅會(huì)影響性能,不會(huì)以任何方式傷害數(shù)據(jù)庫(kù),除了性能沒(méi)有數(shù)據(jù)會(huì)有風(fēng)險(xiǎn)。

max_wal_size有點(diǎn)棘手,這個(gè)是個(gè)軟限制,不是硬限制。因此WAL會(huì)超過(guò)這個(gè)值。這個(gè)值為了告訴PG可以堆積多少WAL,從而挑戰(zhàn)checkpoint,F(xiàn)實(shí)中,提高這個(gè)值會(huì)消耗更多空間,但是會(huì)提高性能。

為啥不將max_wal_size設(shè)置成無(wú)限大呢?首先很明顯,這樣就需要更多空間。另外,一旦數(shù)據(jù)庫(kù)崩潰,PG就需要從上個(gè)checkpoint處開(kāi)始回放,這樣回放的時(shí)間就非常長(zhǎng)了。如果檢查點(diǎn)的距離增加,性能確實(shí)會(huì)提升,但是所做的和想要達(dá)到的效果有限,從某種意義上說(shuō),在這個(gè)問(wèn)題上投入更多存儲(chǔ)空間不會(huì)改變?nèi)魏问虑椤?/p>

后臺(tái)寫(xiě)進(jìn)程會(huì)將臟頁(yè)刷寫(xiě)到磁盤(pán),然而許多情況下,更多工作是由checkpoint進(jìn)程本身完成,因此關(guān)注checkpoint比后臺(tái)寫(xiě)進(jìn)程有意義。

min_wal_size:神秘參數(shù)

min_wal_size 和max_wal_size有什么區(qū)別呢?如果PG空閑,會(huì)逐漸將WAL量減少到min_wal_size,這是個(gè)緩慢的過(guò)程,不是立即一蹴而就。假設(shè)本周內(nèi)有高寫(xiě)負(fù)載,但是在周末會(huì)空閑。禮拜五下午,WAL量會(huì)很多,但是周末,會(huì)漸漸減少。當(dāng)?shù)街芤缓,WAL量又會(huì)增加。

因此最后將min_wal_size的值設(shè)置的不要太小。


聲明: 本文由入駐維科號(hào)的作者撰寫(xiě),觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)