這篇再跟你說一個人工智慧在臉部辨識上犯的錯誤,這次會更嚴重嗎?
人工智慧臉部辨識 不易分辨有色人種
▲ 被亞馬遜「Rekognition」 臉部辨識系統錯認的 28 位國會議員
其實人工智慧在辨識有色人種時，似乎常常犯錯。
如 2018 年，美國公民自由聯盟（American Civil Liberties Union，ACLU）就對亞馬遜提供的「Rekognition」 付費臉部辨識服務做了一項測試。
ACLU 蒐集了 25000 張嫌犯照片做為臉部辨識的資料庫，並使用預設的設定，讓 Rekognition 逐張比對國會議員和資料庫裡的嫌犯照片。結果，最後有 28 名國會議員被誤判，且在誤判的議員中，竟有高達 40% 的議員是有色人種 ── 即便有色人種在全部的國會議員中只占了兩成。
▲眾議員 Sanford Bishop（D-Ga.）被 Amazon Rekognition 臉部辨識系統錯認為罪犯
然而，「Rekognition」 臉部辨識系統也被美國警方使用。這是否會在不知不覺中侵犯到有色人種的權益？目前亞馬遜已因此問題，暫停提供這套系統給美國政府使用。
現有的臉部辨識技術，在分辨有色人種特別容易出錯，也許是以下原因導致：
AI資料庫的白人照片比較多
美國喬治城大學法律中心（Georgetown Law School Center）的隱私與科技領域資深助理 Clare Garvie 表示，原因可能是出在工程師建立 AI 人工智慧的臉部辨識資料庫時，提供的白人照片比有色人種多而導致。
開發工程師以白人居多
一個研究顯示：人們在辨識另一種族的人員時，準確度會低於辨識與自己相同種族的成員。 而大部分 IT 產業的工程師以白人男性居多，他們開發出的臉部辨識系統在辨識有色人種的準確度時，無形中也比白人還差 ── 即使他們無意為之。
其時除了臉部辨識的問題，使用人工智慧來取代真人撰寫、改編新聞，本來就爭議連連：
過去英國《衛報》曾將一則關於英國脫歐的新聞中，第一段中的一些句子餵給人工智慧，結果 AI 馬上產生「可信度高」的假新聞與文章 ── 文中的人名 (如政壇人物的名字)、地名與所提到的片段事件皆為真實存在，不過新聞的內容卻是將這些真實的元素移花接木而成，但是卻符合邏輯，因此易被有心人士用來製造假新聞。(詳細報導：AI寫作能力強過人類，恐成為假新聞製造機?)
人工智慧太會捏造新聞，甚至有人懷疑之前馬斯克離開自己創立的 AI 人工智慧研究團隊「OpenAI」與此有關呢！(詳細報導：馬斯克宣布離開 OpenAI 的真正原因是...研發的 AI 太會寫假新聞?)
無論如何，人工智慧畢竟沒有靈魂，因此沒有明辨是非的能力，所以它產出的文章多少都會與現實有些出入。
也就是說，最好的方法還是把人工智慧新聞的編輯、審稿工作交還給人類，畢竟這世界八卦與謊言已經夠多了！我們需要真實的東西呀！
延伸閱讀看這裡：
留言列表
