隨著人工智能(AI)技術(shù)的廣泛應(yīng)用,確保AI技術(shù)沒(méi)有偏見(jiàn)變得越來(lái)越重要。IBM計(jì)劃發(fā)布一個(gè)大型的、無(wú)偏見(jiàn)的人臉圖像數(shù)據(jù)集,以推動(dòng)無(wú)偏見(jiàn)的人臉識(shí)別研究。

與以往相比,人類社會(huì)對(duì)人工智能系統(tǒng)中的偏見(jiàn)問(wèn)題更加關(guān)注,尤其是用于識(shí)別和分析人臉圖像的系統(tǒng)。在IBM,科研人員采取以下措施來(lái)確保以負(fù)責(zé)任的方式來(lái)創(chuàng)建并訓(xùn)練面部識(shí)別技術(shù):

(1)導(dǎo)致面部分析領(lǐng)域出現(xiàn)偏見(jiàn)的最大問(wèn)題之一是缺乏訓(xùn)練系統(tǒng)的各種數(shù)據(jù)。因此,科研人員打算在2018年秋天公開(kāi)以下數(shù)據(jù)集,以作為技術(shù)行業(yè)和研究界的工具:

IBM研究院(IBM Research)的科學(xué)家正在構(gòu)建的一個(gè)超過(guò)100萬(wàn)張圖像的注釋數(shù)據(jù)集,可以用于提高對(duì)面部分析偏見(jiàn)的理解。圖像將使用屬性進(jìn)行注釋,利用Flickr圖像中的地理標(biāo)記來(lái)平衡來(lái)自多個(gè)國(guó)家/地區(qū)的數(shù)據(jù)和主動(dòng)學(xué)習(xí)工具,以減少樣本選擇偏差。目前,可用的最大面部屬性數(shù)據(jù)集包含20萬(wàn)個(gè)圖像,因此這個(gè)具有一百萬(wàn)個(gè)圖像的新數(shù)據(jù)集將是一個(gè)巨大的進(jìn)步。

一個(gè)最多包含3.6萬(wàn)張圖像的注釋數(shù)據(jù)集—其中膚色、性別和年齡呈均勻分布,由IBM Research注釋,能夠?yàn)槿藗冊(cè)u(píng)估其技術(shù)提供更加多樣化的數(shù)據(jù)集。這將為算法設(shè)計(jì)人員識(shí)別和解決面部分析系統(tǒng)中的偏見(jiàn)提供特別幫助。解決偏見(jiàn)問(wèn)題的第一步是確認(rèn)存在偏見(jiàn)--這就是該數(shù)據(jù)集的目標(biāo)所在。

(2)2018年早些時(shí)候,IBM極大地增強(qiáng)了用于面部分析的Watson視覺(jué)識(shí)別服務(wù)的準(zhǔn)確性,這使得面部分析的錯(cuò)誤率降低了近十倍。IBM正在舉辦一個(gè)技術(shù)研討會(huì)(由IBM Research與馬里蘭大學(xué)合作),以確定并減少將于2018年9月14日與ECCV 2018聯(lián)合使用的面部分析系統(tǒng)中的偏見(jiàn)。使用IBM面部圖像數(shù)據(jù)集的競(jìng)賽結(jié)果將公布在該研討會(huì)上。此外,IBM的研究人員將繼續(xù)與廣大的利益相關(guān)者、用戶和專家合作,以了解可能影響AI決策的其他偏見(jiàn)和漏洞,從而不斷改善系統(tǒng)。

人工智能擁有改善人們生活和工作方式的重要力量,但前提是對(duì)人工智能系統(tǒng)的開(kāi)發(fā)和培訓(xùn)是負(fù)責(zé)任的,且該類系統(tǒng)能夠產(chǎn)生讓我們信任的結(jié)果。確保系統(tǒng)接受平衡的數(shù)據(jù)培訓(xùn)和消除偏見(jiàn)對(duì)建立這種信任至關(guān)重要。

隨著對(duì)AI應(yīng)用的不斷增加,防止偏見(jiàn)進(jìn)入AI系統(tǒng)正在成為最受關(guān)注的問(wèn)題。IBM相信任何技術(shù)--無(wú)論多么準(zhǔn)確--都不能夠或不應(yīng)該取代人類的判斷力、直覺(jué)和專業(yè)知識(shí)。像人工智能這樣的先進(jìn)創(chuàng)新技術(shù)的威力在于它們能夠增強(qiáng)而非取代人類的決策能力。因此,任何使用AI的組織(包括視覺(jué)識(shí)別或視頻分析功能)都必須對(duì)使用AI的團(tuán)隊(duì)進(jìn)行培訓(xùn),以了解偏見(jiàn)(包括隱性和無(wú)意識(shí)的偏見(jiàn)),對(duì)其進(jìn)行監(jiān)控,并知道如何消除偏見(jiàn)。

原文標(biāo)題:為推動(dòng)無(wú)偏見(jiàn)的AI研究,IBM將發(fā)布大型人臉識(shí)別數(shù)據(jù)集

文章出處:【微信號(hào):AI_News,微信公眾號(hào):人工智能快報(bào)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。