科客點評：谷歌啊，怎么眼神不大好？

　　7月3日，谷堪稱人工智能和機(jī)器學(xué)習(xí)領(lǐng)域的領(lǐng)軍企業(yè)，但其Google Photos應(yīng)用本周犯了一個十分嚴(yán)重的錯誤，誤把兩名黑人標(biāo)注為“大猩猩”。這表明，即使對谷歌來說，人工智能的道路仍然是“路漫漫其修遠(yuǎn)兮”。

　　Web開發(fā)人員杰基·阿爾西內(nèi)(Jacky Alciné)發(fā)現(xiàn)Google Photos自動把兩位黑人的照片標(biāo)記為“Gorillas”(大猩猩)，并截圖發(fā)布到Twitter上。

　　阿爾西內(nèi)在Twitter上說：“Google Photos，你太混蛋了。我朋友不是大猩猩。”

　　谷歌隨后對此道歉，并表示將調(diào)整算法，以修復(fù)這一問題。

　　“我們對此感到震驚，并致以真誠的歉意，”谷歌發(fā)言人說，“圖片自動標(biāo)記功能顯然還有很多改善空間，我們希望今后能避免此類錯誤再次發(fā)生。”

　　“大猩猩”標(biāo)簽出現(xiàn)在Google Photos應(yīng)用的搜索功能中。當(dāng)用戶搜索照片時，谷歌會推薦幾個由機(jī)器學(xué)習(xí)自動歸納的類別，該公司已經(jīng)移除了“大猩猩”這一類別，因此以后即使是遇到真的大猩猩照片，也不會有這種提示。Google Photos是谷歌在幾周前的I/O大會上發(fā)布的新產(chǎn)品。

　　谷歌首席社交架構(gòu)師Yonatan Zunger在Twitter上回復(fù)阿爾西內(nèi)說：“我們做了很多工作，但是還有很多問題有待解決。我們會更努力的。”。他還說，谷歌正在努力改善膚色識別技術(shù)，在給照片中的人添加標(biāo)簽時將會更加小心。

　　此事表明人工智能和機(jī)器學(xué)習(xí)技術(shù)的不足，尤其是用于普通消費(fèi)市場時。谷歌通常會發(fā)布一些仍然存在瑕疵的產(chǎn)品，然后逐步通過軟件更新修正問題。這種模式可以讓產(chǎn)品很快推向用戶，但如果出現(xiàn)嚴(yán)重漏洞，也會引發(fā)用戶的不滿。

　　谷歌今年早些時候推出了一款YouTube Kids應(yīng)用，使用自動過濾器、用戶反饋和人工評估的方式過濾成人內(nèi)容。但該系統(tǒng)仍然放過了一些不當(dāng)視頻，引發(fā)了用戶的不滿。谷歌發(fā)言人當(dāng)時稱，“幾乎不可能實現(xiàn)100%的精確度。”

　　谷歌推出Google Photos應(yīng)用時也承認(rèn)該應(yīng)用并不完美，但“大猩猩”標(biāo)簽卻集中凸顯了這套系統(tǒng)的短板。

　　人工智能創(chuàng)業(yè)公司Sentient Technologies首席科學(xué)家巴巴克·霍加特(Babak Hodjat)說：“我們需要徹底革新機(jī)器學(xué)習(xí)系統(tǒng)，以便讓其處理更多的背景信息，使之能夠理解人類所看重的敏感文化問題。”

　　他表示，機(jī)器學(xué)習(xí)并不理解不同錯誤之間的差異，把黑猩猩錯看成大猩猩沒有問題，但如果把人錯看成黑猩猩，就會非常冒犯。

　　他說，谷歌的系統(tǒng)可能沒有“見過”足夠多的大猩猩照片以掌握其中的差異，也無法明白這種錯誤的嚴(yán)重性。

　　“人類非常敏感，可以發(fā)現(xiàn)某些具有重要文化意義的差別，”霍加特說。“機(jī)器卻無法做到這一點，它們看不到細(xì)節(jié)，無法理解這種背景信息。”

　　向谷歌機(jī)器學(xué)習(xí)系統(tǒng)導(dǎo)入更多的大猩猩圖片可能有助于解決這個問題，但是這些系統(tǒng)還必須接受訓(xùn)練，方能在特定場合中更加小心。霍加特說，大部分系統(tǒng)經(jīng)過設(shè)置之后，會根據(jù)自己的判斷給出標(biāo)簽，即使它們本身也并非百分之百確定。

　　谷歌表示，隨著更多的圖片加載到Google Photos中，在加上投入更多的人力修復(fù)錯誤標(biāo)簽，這套照片歸類算法的效果將逐步提升。谷歌表示，該公司之所以發(fā)布這款應(yīng)用，一定程度上是為了讓人們?yōu)槠涮峁└嗾掌员闾嵘w識別率。

　　谷歌的語音搜索功能也采用了類似的模式。該服務(wù)最初有很多識別錯誤，但隨著使用量的加大，識別率已經(jīng)逐步改善。

　　Google Photos并不是第一個犯這類錯誤的軟件。雅虎旗下的照片分享網(wǎng)站Flickr在5月推出照片自動識別功能，幫助用戶將其上傳的照片自動標(biāo)記歸類。雅虎的計算機(jī)算法同樣不完美，經(jīng)常會產(chǎn)生偏差。比如把納粹集中營標(biāo)記成“運(yùn)動”。《衛(wèi)報》報道說，此標(biāo)記功能也把一位男性黑人標(biāo)記成“大猩猩”和“動物”。（騰訊科技，原標(biāo)題《谷歌照片應(yīng)用誤把黑人標(biāo)記成“大猩猩”》)