更復(fù)雜的體系結(jié)構(gòu)能保證更好的模型嗎?
使用的數(shù)據(jù)集和數(shù)據(jù)預(yù)處理
我們將使用Kaggle的狗與貓數(shù)據(jù)集。它是根據(jù)知識共享許可證授權(quán)的,這意味著你可以免費(fèi)使用它:
該數(shù)據(jù)集相當(dāng)大——25000張圖像均勻分布在不同的類中(12500張狗圖像和12500張貓圖像)。它應(yīng)該足夠大,以訓(xùn)練一個(gè)像樣的圖像分類器。
你還應(yīng)該刪除train/cat/666.jpg和train/dog/11702.jpg圖像,這些已經(jīng)損壞,你的模型將無法使用它們進(jìn)行訓(xùn)練。
接下來,讓我們看看如何使用TensorFlow加載圖像。
如何使用TensorFlow加載圖像數(shù)據(jù)
今天你將看到的模型將比前幾篇文章中的模型具有更多的層。
為了可讀性,我們將從TensorFlow中導(dǎo)入單個(gè)類。如果你正在跟進(jìn),請確保有一個(gè)帶有GPU的系統(tǒng),或者至少使用Google Colab。
讓我們把庫的導(dǎo)入放在一邊:
這是很多,但模型會因此看起來格外干凈。
我們現(xiàn)在將像往常一樣加載圖像數(shù)據(jù)——使用ImageDataGenerator類。
我們將把圖像矩陣轉(zhuǎn)換為0–1范圍,使用用三個(gè)顏色通道,將所有圖像調(diào)整為224x224。出于內(nèi)存方面的考慮,我們將barch大小降低到32:
以下是你應(yīng)該看到的輸出:
讓我們鼓搗第一個(gè)模型!
向TensorFlow模型中添加層會有什么不同嗎?
從頭開始編寫卷積模型總是一項(xiàng)棘手的任務(wù)。網(wǎng)格搜索最優(yōu)架構(gòu)是不可行的,因?yàn)榫矸e模型需要很長時(shí)間來訓(xùn)練,而且有太多的參數(shù)需要檢查。實(shí)際上,你更有可能使用遷移學(xué)習(xí)。這是我們將在不久的將來探討的主題。
今天,這一切都是為了理解為什么在模型架構(gòu)上大刀闊斧是不值得的。我們用一個(gè)簡單的模型獲得了75%的準(zhǔn)確率,所以這是我們必須超越的基線。
模型1-兩個(gè)卷積塊
我們將宣布第一個(gè)模型在某種程度上類似于VGG體系結(jié)構(gòu)——兩個(gè)卷積層,后面是一個(gè)池層。濾波器設(shè)置如下,第一個(gè)塊32個(gè),第二個(gè)塊64個(gè)。
至于損失和優(yōu)化器,我們將堅(jiān)持基本原則——分類交叉熵和Adam。數(shù)據(jù)集中的類是完全平衡的,這意味著我們只需跟蹤準(zhǔn)確率即可:
model_1 = tf.keras.Sequential([
Conv2D(filters=32, kernel_size=(3, 3), input_shape=(224, 224, 3), activation='relu'),
Conv2D(filters=32, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Flatten(),
Dense(units=128, activation='relu'),
Dense(units=2, activation='softmax')
])
model_1.compile(
loss=categorical_crossentropy,
optimizer=Adam(),
metrics=[BinaryAccuracy(name='accuracy')]
)
model_1_h(yuǎn)istory = model_1.fit(
train_data,
validation_data=valid_data,
epochs=10
)
以下是經(jīng)過10個(gè)epoch后的訓(xùn)練結(jié)果:
看起來我們的表現(xiàn)并沒有超過基線,因?yàn)轵?yàn)證準(zhǔn)確率仍然在75%左右。如果我們再加上一個(gè)卷積塊會發(fā)生什么?
模型2-三個(gè)卷積塊
我們將保持模型體系結(jié)構(gòu)相同,唯一的區(qū)別是增加了一個(gè)包含128個(gè)濾波器的卷積塊:
model_2 = Sequential([
Conv2D(filters=32, kernel_size=(3, 3), input_shape=(224, 224, 3), activation='relu'),
Conv2D(filters=32, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Conv2D(filters=128, kernel_size=(3, 3), activation='relu'),
Conv2D(filters=128, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Flatten(),
Dense(units=128, activation='relu'),
Dense(units=2, activation='softmax')
])
model_2.compile(
loss=categorical_crossentropy,
optimizer=Adam(),
metrics=[BinaryAccuracy(name='accuracy')]
)
model_2_h(yuǎn)istory = model_2.fit(
train_data,
validation_data=valid_data,
epochs=10
)
日志如下:
效果變差了。雖然你可以隨意調(diào)整batch大小和學(xué)習(xí)率,但效果可能仍然不行。第一個(gè)架構(gòu)在我們的數(shù)據(jù)集上工作得更好,所以讓我們試著繼續(xù)調(diào)整一下。
模型3-帶Dropout的卷積塊
第三個(gè)模型的架構(gòu)與第一個(gè)模型相同,唯一的區(qū)別是增加了一個(gè)全連接層和一個(gè)Dropout層。讓我們看看這是否會有所不同:
model_3 = tf.keras.Sequential([
Conv2D(filters=32, kernel_size=(3, 3), input_shape=(224, 224, 3), activation='relu'),
Conv2D(filters=32, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
Conv2D(filters=64, kernel_size=(3, 3), activation='relu'),
MaxPool2D(pool_size=(2, 2), padding='same'),
Flatten(),
Dense(units=512, activation='relu'),
Dropout(rate=0.3),
Dense(units=128),
Dense(units=2, activation='softmax')
])
model_3.compile(
loss=categorical_crossentropy,
optimizer=Adam(),
metrics=[BinaryAccuracy(name='accuracy')]
)
model_3_h(yuǎn)istory = model_3.fit(
train_data,
validation_data=valid_data,
epochs=10
)
以下是訓(xùn)練日志:
太可怕了,現(xiàn)在還不到70%!上一篇文章中的簡單架構(gòu)非常好。反而是數(shù)據(jù)質(zhì)量問題限制了模型的預(yù)測能力。
結(jié)論
這就證明了,更復(fù)雜的模型體系結(jié)構(gòu)并不一定會產(chǎn)生性能更好的模型。也許你可以找到一個(gè)更適合貓狗數(shù)據(jù)集的架構(gòu),但這可能是徒勞的。
你應(yīng)該將重點(diǎn)轉(zhuǎn)移到提高數(shù)據(jù)集質(zhì)量上。當(dāng)然,有20K個(gè)訓(xùn)練圖像,但我們?nèi)匀豢梢栽黾佣鄻有浴_@就是數(shù)據(jù)增強(qiáng)的用武之地。
感謝閱讀!
原文標(biāo)題 : 更復(fù)雜的體系結(jié)構(gòu)能保證更好的模型嗎?
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
即日-11.13立即報(bào)名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報(bào)名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報(bào)名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 8 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類何去何從?
- 10 Open AI融資后成萬億獨(dú)角獸,AI人才之爭開啟
- 高級軟件工程師 廣東省/深圳市
- 自動(dòng)化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市