人工智能之樸素貝葉斯(NB)
樸素貝葉斯基本框架,c類別,A特征
樸素貝葉斯分類器:
比較流行的樸素貝葉斯分類器有:
高斯樸素貝葉斯(Gaussian naive Bayes):適用于多個(gè)類型變量,假設(shè)特征符合高斯分布。
多項(xiàng)式樸素貝葉斯(Multinomial naive Bayes):用于離散計(jì)數(shù),如一個(gè)句子中某個(gè)詞語重復(fù)出現(xiàn),我們視它們每個(gè)都是獨(dú)立的,所以統(tǒng)計(jì)多次,概率指數(shù)上出現(xiàn)了次方。
伯努利樸素貝葉斯(Bernoulli naive Bayes):如果特征向量是二進(jìn)制(即0和1),那這個(gè)模型是非常有用的。不同于多項(xiàng)式,伯努利把出現(xiàn)多次的詞語視為只出現(xiàn)一次,更加簡(jiǎn)單方便。
可以根據(jù)特定數(shù)據(jù)集選取上述3個(gè)分類器中的合適者。
算法優(yōu)點(diǎn):
1)既簡(jiǎn)單又快速,預(yù)測(cè)表現(xiàn)良好。
2)如果變量獨(dú)立這個(gè)條件成立,相比Logistic回歸等其他分類方法,樸素貝葉斯分類器性能更優(yōu),且只需少量訓(xùn)練數(shù)據(jù)。
3)相較于數(shù)值變量,樸素貝葉斯分類器在多個(gè)分類變量的情況下表現(xiàn)更好。若是數(shù)值變量,需要正態(tài)分布假設(shè)。
4)對(duì)缺失數(shù)據(jù)不太敏感,算法也比較簡(jiǎn)單。
算法缺點(diǎn):
1) 如果分類變量的類別(測(cè)試數(shù)據(jù)集)沒有在訓(xùn)練數(shù)據(jù)集總被觀察到,那這個(gè)模型會(huì)分配一個(gè)0概率給它,同時(shí)也會(huì)無法進(jìn)行預(yù)測(cè)。這通常被稱為“零頻率”。為了解決這個(gè)問題,可以使用平滑技術(shù),拉普拉斯估計(jì)是其中最基礎(chǔ)的技術(shù)。
2) 樸素貝葉斯也被稱為bad estimator,所以它的概率輸出predict_proba不應(yīng)被太認(rèn)真對(duì)待。
3) 刪除重復(fù)出現(xiàn)的高度相關(guān)的特征,可能會(huì)丟失頻率信息,影響效果。
4) 樸素貝葉斯的另一個(gè)限制是獨(dú)立預(yù)測(cè)的假設(shè)。在現(xiàn)實(shí)生活中,這幾乎是不可能的,各變量間或多或少都會(huì)存在相互影響。
主要應(yīng)用:
1) 實(shí)時(shí)預(yù)測(cè):運(yùn)用樸素貝葉斯進(jìn)行很快地實(shí)時(shí)預(yù)測(cè)。
2) 多類預(yù)測(cè):這個(gè)算法以多類別預(yù)測(cè)功能聞名,因此可以用來預(yù)測(cè)多類目標(biāo)變量的概率。
3) 文本分類/垃圾郵件過濾/情感分析:相比較其他算法,樸素貝葉斯的應(yīng)用主要集中在文本分類(變量類型多,且更獨(dú)立),具有較高的成功率。因此被廣泛應(yīng)用于垃圾郵件過濾(識(shí)別垃圾郵件)和情感分析(分辨積極情緒和消極情緒的用戶)。
4) 推薦系統(tǒng):樸素貝葉斯分類器和協(xié)同過濾結(jié)合使用可以過濾出用戶想看到的和不想看到的東西。
結(jié)語:
樸素貝葉斯模型與其他分類方法相比具有最小的誤差率。但是實(shí)際上并非總是如此,這是因?yàn)闃闼刎惾~斯模型假設(shè)屬性之間相互獨(dú)立,這個(gè)假設(shè)在實(shí)際應(yīng)用中往往是不成立的,在屬性個(gè)數(shù)比較多或者屬性之間相關(guān)性較大時(shí),分類效果不好。而在屬性相關(guān)性較小時(shí),樸素貝葉斯性能最為良好。對(duì)于這一點(diǎn),有半樸素貝葉斯之類的算法通過考慮部分關(guān)聯(lián)性適度改進(jìn)。樸素貝葉斯在有些領(lǐng)域很有用,比如文本分類、垃圾郵件過濾、情感分析等;樸素貝葉斯原理和實(shí)現(xiàn)都比較簡(jiǎn)單,學(xué)習(xí)和預(yù)測(cè)的效率都很高,是一種經(jīng)典而常用的分類算法。在人工智能領(lǐng)域,樸素貝葉斯方法是一種十分有代表性的不確定性知識(shí)表示和推理方法。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 8 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類何去何從?
- 10 Open AI融資后成萬億獨(dú)角獸,AI人才之爭(zhēng)開啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市