如果我遇到某個眼睛有問題的人說我看起來像77歲,我可能會對他飽以「老」拳;就像任何一位到了某個年齡階段就自尊心變很強的女性朋友,我對這種事情也是非常敏感。

要是這種情況發生在面對面的接觸,我可能會瞪著那個笨蛋、暗地握緊拳頭,讓他知道我真的非常不爽;至少我知道那個我想扁的對象是誰…如果今天心情不錯,我可能還會放下身段問他為何認為我看起來像77歲。

但是,如果那個令人發火的對象不是個人呢?如果那是一台機器,說我看起來像出生在美國總統羅斯福(Franklin Delano Roosevelt,通常以FDR為簡稱)第二任期(1937~41)那時候呢?這改變了一切…至少我這麼覺得。

本月稍早,我在日本看到一台名為「FieldAnalyst」的影像辨識系統,是日本大廠NEC在年度嵌入式技術大會(Embedded Technology 2016)上展示的;該系統採用瑞薩(Renesas)的晶片。

而就在我站在FieldAnalyst前面對著它拍照,我發現自己的影像被機器掃描到、還在螢幕上標示我是「77歲女性」──你可以想像我有多驚恐!

20161129 FieldAnalyst NT01P1


上圖可以隱約看到拿著相機的我,居然在FieldAnalyst螢幕上被標示為77歲女性

是因為我有眼袋嗎?在日本看展的那幾天,我因為時差還沒調過來以及忙碌的行程累得像狗一樣…還是因為我有幾根來不及染的白頭髮?我忍不住在心裡喊:「為什麼是我?為什麼是77歲?這台笨機器幹嘛跳出這種資訊?又沒人問它!!!」

如果我直接把以上問題全問出口,那台機器…或是某個負責機器展示的人,八成會給的答案是:「那只是個演算法,而且還不夠完美。」

好吧。從我的皮相不能判斷我真正的年齡,而我居然連個抱怨的對象都沒有…我該如何跟一個演算法爭論?我又該怎麼叫一台機器對它「程式編寫出的視力不良」負責?

如果開發那些機器的公司只是叫你別在意,那只是演算法...我又該怎麼回應?該怎麼討回公道?好像沒有能針對一個演算法的完美反擊,因為它根本感覺不到我怒了、連回個「糟糕」都不會…但在現今這個世界,我們已經被各種演算法包圍。

這些日子以來,機器幫我們做了很多的決策,它們知道我們想看什麼新聞、或是可能想買哪本書,Google地圖還知道我從A地到B地的最佳路線…或者試想,有些機器甚至能預測下一個可能暴力犯罪的嫌疑人。

還有,它們知道我幾歲…或者是認為它們知道。

身為EE Times的記者,我知道眾家科技業者包括Google、Facebook、Microsoft與Amazon,都在積極改善各種演算法;畢竟演算法就是王道,它們是科技業者的獨門武器,是讓他們的 各種服務與產品變得更聰明的關鍵。

但問題在於,我看不太出來有哪家公司會對他們的演算法負責,更別說對於那些演算法如何被使用而謹慎考量;而且廠商們似乎會把演算法當成擋箭牌,對於演算法所做的、或是沒做到的,只會把責任推給演算法本身。

美國非營利新聞機構ProPublica最近公佈了一系列實驗,揭開了許多「黑盒子」的秘密....

....繼續閱讀請連結EE Times Taiwan網站