CobiNet(寧波)推薦文章：

人工智能出現(xiàn)種族偏見(jiàn)和性別偏見(jiàn)

人工智能的學(xué)習(xí)能力是讓人類羨慕的，特別是讓計(jì)算機(jī)具備理解人類語(yǔ)言的人工智能(AI)更是科技上的一大進(jìn)步，但是語(yǔ)言本就是意識(shí)形態(tài)的產(chǎn)物，而今，廣泛學(xué)習(xí)人類語(yǔ)言的人工智能工具已經(jīng)出現(xiàn)了明顯的種族和性別偏見(jiàn)。我們禁不住問(wèn)：人工智能向誰(shuí)學(xué)壞了?

人工智能出現(xiàn)種族偏見(jiàn)和性別偏見(jiàn)

一項(xiàng)研究發(fā)現(xiàn)，計(jì)算機(jī)在學(xué)習(xí)人類語(yǔ)言的同時(shí)還吸收了人類文化中的一些根深蒂固的觀念，出現(xiàn)了相同的人類偏見(jiàn)。普林斯頓大學(xué)信息技術(shù)政策中心的計(jì)算機(jī)科學(xué)家們發(fā)現(xiàn)了這一問(wèn)題，他們解釋，計(jì)算機(jī) AI 出現(xiàn)種族歧視和偏見(jiàn)源于算法偏差造成的。此前心理學(xué)家曾經(jīng)做過(guò)一項(xiàng)稱為“隱性關(guān)聯(lián)測(cè)試(IAT)”，測(cè)試已揭示人類的偏見(jiàn)。而在新的研究中，AI 在學(xué)習(xí)人類語(yǔ)言的時(shí)候也把這種關(guān)聯(lián)詞學(xué)到其中，從而也出現(xiàn)像人一樣的性別種族偏見(jiàn)。

這項(xiàng)研究被刊登在 2017 年 4 月 14 日發(fā)表的《科學(xué)》雜志上，為了揭示 AI 在語(yǔ)言學(xué)習(xí)中可能出現(xiàn)的偏見(jiàn)，研究團(tuán)隊(duì)們根據(jù) IAT 創(chuàng)建了新的統(tǒng)計(jì)檢測(cè)，重點(diǎn)關(guān)注一種名為“單詞嵌入”機(jī)器學(xué)習(xí)工具。結(jié)果發(fā)現(xiàn)這種學(xué)習(xí)算法改變了計(jì)算機(jī)解讀語(yǔ)音和文本的方式，結(jié)果表明，算法與 IAT 一樣擁有同樣的偏見(jiàn)，也就是把表示愉快的單詞與(美國(guó)和英國(guó)的)白人面孔聯(lián)系起來(lái)。這將意味著算法的存在也會(huì)讓隱性關(guān)聯(lián)出現(xiàn)在 AI 之中，從而也會(huì)帶來(lái)人類偏見(jiàn)。更嚴(yán)重的是，由于 AI 的學(xué)習(xí)速度驚人，這種人類偏見(jiàn)或許比現(xiàn)實(shí)社會(huì)中的還要嚴(yán)重。

關(guān)于“人工智能學(xué)壞”的幾點(diǎn)想法

偏見(jiàn)只是冰山一角，人工智能的快速學(xué)習(xí)能力可能是把雙刃劍。曾有研究表明，性別歧視和種族偏見(jiàn)將會(huì)對(duì)人類行為產(chǎn)生深遠(yuǎn)的影響。研究從面試角度進(jìn)行，對(duì)于非洲裔美國(guó)人，如果面試者的名字是歐洲裔美國(guó)人，即使簡(jiǎn)歷內(nèi)容相同，后者所能獲得的面試邀請(qǐng)將比前者多出 50%。而我們使用 AI，并不希望它給我們帶來(lái)任何行動(dòng)上的麻煩。如何把握，還是一個(gè)重大課題。

技術(shù)本身沒(méi)錯(cuò)，但是如何應(yīng)用以及產(chǎn)生的后果則會(huì)淪為道德或者社會(huì)問(wèn)題。其實(shí)，原則上，我們可以建立一些系統(tǒng)對(duì)帶有偏見(jiàn)的決定進(jìn)行檢測(cè)，然后采取行動(dòng)，并與其他人一起呼吁建立一個(gè)人工智能監(jiān)管機(jī)構(gòu)。這是一項(xiàng)非常復(fù)雜的任務(wù)，但作為一種社會(huì)責(zé)任，我們不應(yīng)回避。

文章編輯：CobiNet(寧波)  
本公司專注于電訊配件,銅纜綜合布線系列領(lǐng)域產(chǎn)品研發(fā)生產(chǎn)超五類，六類,七類線，屏蔽模塊，配線架及相關(guān)模塊配件的研發(fā)和生產(chǎn)。

歡迎來(lái)電咨詢0574 88168918,郵箱sales@cobinet.cn，網(wǎng)址www.10166888.com