漢娜．弗萊 - 打開演算法黑箱

什麼是演算法？在電腦科學成為顯學的現在還是有一大票人答不出來。就連學習資訊相關學系的學生們或許也答不好。而那些照著課文一字一句照本宣科的人們可能也不知道它的內涵。達賴喇喇嘛曾說過：了解世界的規則，然後打破它。演算法也是同樣的東西。你愈了解它，了解它的表像，了解它的延伸，了解它的內涵，和黑暗面。只有這麼做，你才有打破它，突破它的機會。AI時代的到來，無論是AI相關從業人員，其他資訊相關從業人員，甚至是一般社會大眾都應該去了解演算法。因為AI未來將會無時無刻的存在於我們的周圍。因為演算法從很久以前就『已經』無時無刻的存在於我們的周圍。

演算法這個字翻中文翻得很棒。就像它的名字一樣，演算法就是一或多個算式的演義。中文維基的定義是「在數學和電腦科學之中，為任何一系列良定義的具體計算步驟」。它的應用很廣，廣到你可能都沒想到。犯罪學家與電腦科學家合作，分析罪犯的數據，可能非常準確的預測一個人再犯的機率。在犯罪的調查上，演算法也能高正確率的算出罪犯可能居住的區域。我們經常聽說所謂的犯罪側寫，這也能交給演算法去做，預言的正確率也很高。當然都不是百分之百正確，所以短時間也不用擔心電影《關鍵報告》的故事會發生啦。(笑)

還有一些書中提到的應用可能會令你意外。像是法官的量刑。這個交給電腦做。嗯，好像蠻合理的。司法判決經常令人感到不合理，以至於不公平。把規則定清楚，交給電腦做，冷冷的，但或許公平公正。

藝術創作也可以靠演算法。不同意嗎？先等一等，我是說輔助創作。日本的藝文『工業』十分完整。故事作家與畫家合作推出漫畫已經是一種策略。這是一種非常有效運用人類智慧的做法。故事作家不用非常會畫漫畫就能推出漫畫。故事作家不用文筆非常好就能用演算輔助寫出好句字。他只要專注在故事上就好了。此外，對藝文、電影出版社或是發行商而言，利用演算法找到合適的主題推出新作。可以降低損失，並推出大眾會喜歡的作品。這不是一舉兩得嗎？

演算法就是這樣，一點一滴的改善我們的生活。

然而，演算法是沒有情感，冰冷的。只有設計它的人才能給它溫度。在《打開演算法黑箱》一書裡，作者就舉了許多的例子，說明演算法的『溫度』。帶有點邪惡念頭的工程師能設計出一個邪惡的演算法。粗心大意的工程師設計出一個粗心大意的演算法。雖然演算法為我們的生活帶來巨大的便利。但由於它的功能超過人類能掌握的全貌，所以一個人往往不易立刻發覺它的錯誤。結果就是受邪惡的計算，或是成為粗心大意的受害者。比如最近的新聞，交通警察請駕駛員吹氣驗酒精。但駕駛就是吹不進去，於是兩人爭吵起來。結果是吹嘴壞了。警察太相信吹氣的功能，所以才會不相信駕駛的話(也有可能太多愛騙人的駕駛了)。這和演算法有關嗎？有。吹嘴是測試機整體設計的一部份，它應該避免吹嘴故障，或是偵測這類錯誤，引導使用者更換嘴。(其實搞不好確實有提示警察更換)。另一個例子書中有提到，台灣的新聞也發生過。就是開車用導航，結果被帶到鄉村泥地裡進退不得。

這樣的演算法我們必須有警覺。我們經常聽到資訊專家警告我們要小心AI的發展。其實要小心的就是這類『生病的』演算法。尤其是現今的AI演算法經常是一個『黑盒子』。什麼意思？這得從現今AI演算法的設計說起。現今的演算法運用了許多的統計學與隨機因子。拉進來統計學的部份不難理解，比如給你三個不同濃度、甜度的咖啡，然後問人們覺得哪杯好喝，最多票的那個就是最適合的方案。這是統計的功勞。但是現實生活有那麼多機會能收集到資料嗎？又有機會能收集到『完整』的資料？答案經常是否定的。這時候人們想到的是加入隨機或受控制的隨機因子來補齊資料。

面對這大量的資料我們交給電腦去運算。科學家有時會進入演算法裡面進行監督，把對錯回饋給演算法。但後來甚至進化成將演算法設計成對抗模型，把科學家退出，讓兩個相互驗證，讓演算法自行回饋對錯。後者的情況下不需要科學家介入。所以這個AI演算法就像『黑盒子』一樣，很多時候你只知道輸入問題，然後得到答案，卻不知道演算法是怎麼算出來的，尤其是因為有隨機因子。你不會擔心，其實答案是錯的嗎？

為了要避免這個問題，『可解釋人工智慧』的題目變得愈來愈重要。要求AI輸出結果的同時，也輸出『為什麼是這個結果的理由』。這樣子，我們才能更相信AI。雖然AI或許也會演化成在結果裡面騙人，或是在輸出裡看不到的地方動手腳。不過這個就交給科學家去設計、偵測了吧，這裡先不談那麼深。

統計有一個特點，就是資料來源愈多愈完整，則它的結論會愈正確。在資料科學家的努力下，成效非常卓著。但實際上仍然不能做到百分之百正確，畢盡裡面有『假資料』（隨機因子），而且演算法也經常無法事先考量到現實生活中未預期的其他因子。因此，利用不盡完整的資料來運算的AI，出錯可以說是必然的結果，只是或多或少。而我們生存在AI發展的年代，必須要有足夠的警覺。

本書收集了演算法在許多議題上的應用。並說明了目前的成果與限制。它會讓你大開眼界，也能讓你對AI有所了解，不再有過多的害怕與過少的警覺。在下覺得這本書是生活在現代的我們，尤其是AI發展啟航的我們，務必要學習的作品。非常推薦大家來看看。