🔏壞的是誰？談機器學習與人臉辨識的善與惡／Benedict Evans

人臉辨識是目前指標性的機器學習應用；它讓電腦網路能做很多過去做不到的事情，但也引發了許多關於隱私的爭議。甚至因為治理觀念的不同，這些技術讓世界各國發展出不同的用途和規範，逐漸形成了兩個不同的陣營。

早在1970到80年代初期，科技業就已經創造出一種革命性的新技術，讓政府和企業機構擁有了前所未有的能力，可以用來追踪、分析、和瞭解每個人的行為。

這種叫做「關聯式資料庫」的技術現在看來稀鬆平常，但它確實讓當時原本只涵蓋小範圍的資料庫可以彼此連結，成為涵蓋龐大範圍的資訊來源、創造出更多前所未有的應用。

對於這一點，當時的學者都表達了各種憂心、甚至寫了很多本書，例如：

總括來說，關聯式資料庫技術有兩個令人擔心的問題：

• 這些資料庫可能包含不正確的資料、或是錯誤的假設；尤其某些社會偏見、或是帶有偏見的資料解讀方式，會無意中被編入資料庫中、甚至成為機器處理的規則。

• 或許有人會建構並使用這些系統來做壞事。

換句話說，這類系統如果不能有效運作，我們會擔心；但如果真的可以運作，我們也同樣擔心，因為人們很難預料它的運作結果會是怎樣。

時間快轉到現在，對於人工智慧AI、尤其是人臉辨識方面的問題，我們也有相同的擔心；更縮小範圍來說，我們擔心的是「機器學習」，因為讓人臉辨識技術能夠實現的基礎，正是機器學習的能力。

而且同樣的，這種技術無論能不能如預期運作，我們都會擔心。所以，讓我們來看看這個問題到底有多大、我們到底需不需要擔心、以及我們之所以擔心的基本原因。

首先要看的是「人為錯誤」。