你的臉會告訴別人什么信息呢?人臉識別技術(shù)可以識別出你的年齡、性別以及情緒?，F(xiàn)在，有兩名科學家稱你的臉甚至還可以告訴人們你有沒有犯罪。他們聲稱已經(jīng)開發(fā)出一種系統(tǒng)，這種系統(tǒng)可以從幾千張從未見過的人臉中識別出誰是罪犯。

但另一些研究人員對該系統(tǒng)的功能進行了批判，他們認為這可能會使人臉識別技術(shù)在應用過程中產(chǎn)生道德問題。

研究的參與者，來自加拿大哈密爾頓麥克馬斯特大學的Xiaolin Wu說道，這個問題過于主觀了，他和他的同事，來自中國上海交通大學的Xi Zhang已經(jīng)準備開始反駁那些反對者的觀點。Wu說：“我們對這個結(jié)果感到很吃驚。”

研究人員充分開發(fā)機器的學習能力，要求面部識別軟件判斷身份信息系統(tǒng)中的照片的主人是否是罪犯，最后得到一個正確的反饋。機器在這個過程中將學會如何分辨，要求最終結(jié)果的準確率到達90%。

然而其他的面部識別專家對他們的開發(fā)方法提出了質(zhì)疑。其中有一個問題：罪犯的圖像來自于中國身份證照片的數(shù)據(jù)庫，而無犯罪人員的照片則來自于中國公民在網(wǎng)絡(luò)上發(fā)布的照片，這就意味著這套系統(tǒng)識別的是照片的不同來源而不是人臉。

Wu和Zhang試圖將照片標準化，例如調(diào)整它們的大小和亮度。但來自麻省理工學院的Jonathan Frankle認為這還不夠，他說：“圖片來源不同是這套系統(tǒng)的根本缺陷?！?/p>

來自谷歌的研究人員Francois Chollet稱，這個問題不足以引起爭議，但整個程序需要好好的開發(fā)。他說：“這不是道德問題影響技術(shù)的辯題。”

來自英國法爾茅斯大學的Mike Cook說，這種研究似乎讓機器學習變成“21世紀骨相學”——通過人的頭骨推斷出一個人的特征。看似公正的計算機程序給出了不準確或者有爭議的結(jié)果。

相同的偏差

事實上，這些系統(tǒng)都不客觀，往往和人類一樣帶有偏見。Cook說：“它們是用我們相信的結(jié)果而制造出來的工具?！?/p>

這并不是說電腦無法準確完成人臉識別，它們有時完成的比人類還出色。人臉識別軟件已經(jīng)可以輕松的識別出人鼻子的形狀并且判斷出他是否在笑。來自紐約羅切斯特大學的研究人員稱，他們已經(jīng)開發(fā)出一種算法能夠識別出中國人臉、韓國人臉和日本人臉，準確率達到75%。

聽起來似乎挺科學，但應用在實際情況中時常常會出現(xiàn)道德問題。識別出人的種族，這雖然可以有其他更好的用處，但可能被用來進行人種歧視。

去年微軟開發(fā)了一款軟件，通過照片來判斷人的年齡。他們本來的目的是想開發(fā)出一款有趣的應用，但之后一些英國報紙試圖用這款軟件將本該給予兒童的優(yōu)惠給了成年人，這迫使微軟不得不做出解釋：這款軟件無法對年齡做出準確的評估。

在遇到比鼻子形狀和年齡更加復雜和抽象的問題時，了解技術(shù)的極限便成了十分重要的事。來自普林斯頓大學的Alexander Todorov說，你無法從一個人的照片中了解他的個性和行為習慣，但卻超級容易看出一個人因為缺乏睡眠蒼白的臉色和下垂的眼袋，他說這可以用來防止人們在從事一些需要注意力高度集中的任務例如操作危險的機器，但用它來推測人的外貌和個性，這是錯誤的。

研究人員常常無法控制他們的研究成果如何被人們使用。像Wu和Zhang一樣將自己的成果公開后這就意味著任何人都可以檢測它的正確性。Frankle說：“讓我感到更可怕的事情是，如果一家私人公司開發(fā)出了這樣一套系統(tǒng)，并將它賣給了警察局，那么誰也不知道將會發(fā)生什么。”

今年早些時候，F(xiàn)rankle和他的同事發(fā)現(xiàn)，美國警察部門使用的面部識別軟件的準確率還算高。但隨著隨著該技術(shù)的使用范圍更加廣泛，權(quán)衡其是否符合道德規(guī)范就更加緊迫了。

Chollet說，計算機科學在人們的生活在扮演著越來越重要的角色，但卻沒有相應的道德標準來規(guī)范它，這是我們必須要解決的事。