發(fā)布日期：2018-06-08

　　據(jù)外媒CNET報(bào)道，麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究人員創(chuàng)建出稱為 Norman的“精神病AI”，作為“在機(jī)器學(xué)習(xí)算法中使用有偏差的數(shù)據(jù)時(shí)人工智能出錯(cuò)的案例研究”。研究人員將Norman設(shè)置為執(zhí)行圖像字幕，這是一種深度學(xué)習(xí)方法，可以生成圖像的文本描述，然后將其插入一個(gè)以其死亡圖像而聞名的subreddit版塊。

　　然后，他們讓Norman解釋了一系列羅夏墨跡，將他們的“精神病人AI”與“標(biāo)準(zhǔn)AI”的答案進(jìn)行比較。雖然Norman最初是在4月1日揭幕，但這些答案非常令人不安。

　　在標(biāo)準(zhǔn)AI發(fā)現(xiàn)“在樹(shù)枝上的一群鳥(niǎo)”時(shí)，HAL-9000式的死亡機(jī)器人Norman發(fā)現(xiàn)“一個(gè)人被電死了”。標(biāo)準(zhǔn)AI能看到“桌子上的結(jié)婚蛋糕”，而Norman看到“一名男子因超速駕駛而死亡”。

　　研究人員并沒(méi)有“創(chuàng)造”Norman的“精神病態(tài)”傾向，他們只是通過(guò)只允許它看到特定的圖像標(biāo)題子集來(lái)幫助人工智能。Norman用簡(jiǎn)單的語(yǔ)句描述羅夏墨跡的方式確實(shí)使它看起來(lái)像是在一個(gè)subreddit上發(fā)布內(nèi)容。

　　但為什么要?jiǎng)?chuàng)造一個(gè)“精神病AI”？該研究小組旨在強(qiáng)調(diào)將特定數(shù)據(jù)提供給算法的危險(xiǎn)，以及這可能會(huì)對(duì)其行為產(chǎn)生偏見(jiàn)或影響。

來(lái)源：cnBeta.COM