訂閱
糾錯
加入自媒體

妙鴨相機爆火之下,AI寫真的安全問題怎么辦?

文/陳根

近日,“妙鴨相機”爆火。

作為一款A(yù)I寫真小程序,我們只要通過這個小程序,上傳一定數(shù)量的照片,選擇好模版,就可以一鍵生成AI風(fēng)格化寫真,包括肖像照、藝術(shù)照、證件照等。

雖然首次生成需要支付9.9元的數(shù)字分身制作費,不過,相比動輒幾百上千的攝影工作室約拍價格,9塊9幾乎是可以“無腦沖”的程度。妙鴨相機在爆火的同時,也引發(fā)了人們對于AI寫真的倫理與安全問題的擔(dān)憂。

AI寫真面臨的倫理與安全問題之所以會被關(guān)注,核心原因就在于基于AI的技術(shù)進入了真正落地應(yīng)用的階段,不論是寫真,還是醫(yī)療,或者是文本,都會面臨安全與倫理的問題。但AI寫真的安全與倫理問題相對比較急迫,不僅牽涉到潛在的詐騙問題,更會牽涉到借助于AI生成技術(shù)導(dǎo)致的一些照片與小視頻換臉問題。

同時,在AI寫真技術(shù)目前,肖像權(quán)的保護與個人肖像隱私,以及基于人臉識別系統(tǒng)的一些安全措施都將面臨著根本性的挑戰(zhàn)。尤其是包括妙鴨在內(nèi)的各種AI照片寫真與合成技術(shù),對于用戶而言在使用之前更重要關(guān)注的是這些平臺數(shù)據(jù)的安全保護措施。

對于擁有這些人像生成AI技術(shù)的平臺而言,當(dāng)前首先考慮的并不是商業(yè)化的問題,而是如何保障用戶數(shù)據(jù)庫的安全,這些數(shù)據(jù)庫的安全不僅牽涉到用戶隱私安全,還牽涉到國家安全層面。

因此,我們看到白宮在前幾日緊急召集AI巨頭企業(yè)到白宮商議對策。這讓我們看到了正在到來的人工智能時代,人類社會已經(jīng)有了明確的基本共識,就是要借助于技術(shù)的約束來讓AI技術(shù)服務(wù)于人類,讓AI成為人類社會的效率提升工具。要借助于有效的技術(shù)方式,保障AI在安全與可控的倫理范圍內(nèi)發(fā)展。 

AI巨頭在白宮的壓力下,提出了八項技術(shù)的安全措施。這可以說是全世界所有從事于AI開發(fā)與訓(xùn)練企業(yè)需要學(xué)習(xí)的地方,就是在追求AI技術(shù)發(fā)展的同時,必須要考慮對AI技術(shù)的監(jiān)管,以及要考慮AI萬一偏離設(shè)想后的風(fēng)險管控與干預(yù)。

訓(xùn)練AI服務(wù)于人類社會很難,但是如何再AI自我學(xué)習(xí)的情況下,能夠管控AI不偏離服務(wù)人類社會的這個設(shè)想更難。

       原文標(biāo)題 : 陳根:妙鴨相機爆火之下,AI寫真的安全問題怎么辦?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號