訂閱
糾錯(cuò)
加入自媒體

AI性別歧視有救,MIT研究人員給出減少AI預(yù)測(cè)偏差新方法

在社交媒體的應(yīng)用場(chǎng)景中,人工智能算法模型的偏差導(dǎo)致搜索結(jié)果或用戶體驗(yàn)不佳常常出現(xiàn),甚至可以說是無法規(guī)避,如人們熟知的大數(shù)據(jù)殺熟等?梢灶A(yù)見,當(dāng)AI應(yīng)用到醫(yī)療保健、自動(dòng)駕駛汽車、刑事司法或刑事處理等場(chǎng)景中時(shí),更多關(guān)乎生命、公平、道德等的問題將會(huì)出現(xiàn)。此前,亞馬遜用AI招聘出現(xiàn)了性別歧視問題就是有力的證明。

在世界每一個(gè)角落部署AI,這可能導(dǎo)致持續(xù)的系統(tǒng)性歧視,為此MIT計(jì)算機(jī)科學(xué)人工智能實(shí)驗(yàn)室(CSAIL)研究人員創(chuàng)造了一種減少AI偏差,同時(shí)又不降低預(yù)測(cè)結(jié)果準(zhǔn)確性的方法。

據(jù)麻省理工學(xué)院教授DavidSontag所言,傳統(tǒng)方法可能建議將與多數(shù)人群相關(guān)的數(shù)據(jù)集隨機(jī)化,作為解決不同人群不平等結(jié)果的一種方法,但這種方會(huì)權(quán)衡較低的預(yù)測(cè)準(zhǔn)確性,以實(shí)現(xiàn)所有人群的公平性,關(guān)鍵是從代表性不足的群體中挖掘更多數(shù)據(jù)。例如,研究人員發(fā)現(xiàn),在一個(gè)案例中,AI模型將女性標(biāo)記為低收入,男性標(biāo)記為高收入,這是有失客觀性的,因此他們通過將數(shù)據(jù)集中女性的代表性提高10倍,達(dá)到了將不準(zhǔn)確結(jié)果的數(shù)量減少了40%的效果。

Sontag在一份聲明中給出這一設(shè)計(jì)的簡單解釋:“我們認(rèn)為這是一個(gè)工具箱,可幫助機(jī)器學(xué)習(xí)工程師弄清楚他們的數(shù)據(jù)要問什么問題,以便診斷他們的系統(tǒng)為什么會(huì)做出不公平的預(yù)測(cè)!

他進(jìn)一步解釋說:“在這項(xiàng)工作中,我們認(rèn)為預(yù)測(cè)的公平性應(yīng)該在數(shù)據(jù)的背景下進(jìn)行評(píng)估,并且樣本量不足或未測(cè)量的預(yù)測(cè)變量引起的不公平性應(yīng)該通過數(shù)據(jù)收集來解決,而不是通過約束模型來解決!

誠然,預(yù)測(cè)準(zhǔn)確性的差異往往歸因于數(shù)據(jù)缺乏或不可測(cè)量的變量因素,因此該研究團(tuán)隊(duì)建議在進(jìn)行公平標(biāo)準(zhǔn)評(píng)論之前,對(duì)模型偏差,模型方差和結(jié)果噪聲進(jìn)行AI模型分析。

對(duì)于這一研究的成本,Sontag表示,“這揭示并分離了數(shù)據(jù)收集不足和模型選擇對(duì)公平性的不利影響。為了追求公平,其成本也要納入到數(shù)據(jù)收集和模型開發(fā)的投資。但在某些十分重要的應(yīng)用程序中,其好處往往超過成本!

在Sontag與其博士團(tuán)隊(duì)一起撰寫的論文中,有這一方法的詳細(xì)解釋。據(jù)悉,該成果將于下個(gè)月在蒙特利爾的神經(jīng)信息處理系統(tǒng)(NIPS)上公布。

聲明: 本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載,目的在于信息傳遞,并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的,請(qǐng)聯(lián)系我們。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)