大數據錯了嗎？在監控之外的兩個隱憂

這一兩年來，對大數據應用的吹捧喊得震天價響，前陣子還有知名人力銀行副總以「對岸在講大數據，我們在講滷肉飯」一語，批評台灣的「不思進取」。到底滷肉飯是不是真的就不如大數據，有興趣的朋友可以翻翻幾個月前的爭論。對作為資訊社會研究者的我來說，在面對大數據的熱潮時，反倒是想談談大數據「科技發展」背後的隱憂。

對於大數據及其應用的批判當然不新鮮。例如，當中國於2015年推出「芝麻信用」時，就已有人將其稱為「老大哥數據」，認為它將如同喬治‧歐威爾（George Orwell）小說《1984》中的「老大哥」般，全面監控人們的生活。差別僅在於，芝麻信用的工具不是無數的監視攝影機，而是由個人數位足跡匯聚而成的大數據。

不過，我相信很多人不太擔心這類監控的問題。如同我曾在課堂上詢問學生時得到的回應，對他們來說，這類消費行為的紀錄本來就是一種交換，為了便利的生活，這是可以付出的代價。或者，我們也經常聽到的一類說法：只要不做「壞事」何必怕被監控？

因此，我就不再討論監控、隱私與自由的問題，先退一步，讓我們的數位足跡被記錄與收集──不管是要忽略這些資料實際上是我們的隱私，還是要假裝政府或企業不會「刻意監控」自己──接著，我要指出，在監控之外，大數據的應用至少還隱藏兩個令人擔憂的問題。

大數據作為數學毀滅性武器

首先，是凱西‧歐尼爾（Cathy O’Neil）在《大數據的傲慢與偏見》中提出的論點。凱西‧歐尼爾是一位投身過金融界、新創企業的資料科學家。在這本於今年6月翻譯出版的書裡，他指出許多領域中大數據應用的「危害」。她主張：相較於其帶來的好處，大數據一不小心就可能成為一種「數學毀滅性武器」。這聽起來驚悚，但事實上，從凱西‧歐尼爾所舉出的案例來看，一點也不誇張。

例如，一個案例是關於美國華盛頓特區的教育當局在2009年採用了一套教師評價系統，透過這套以數據為基礎的系統評估「優化」學校教育。然而，看似合理的、科學的評價機制，最後卻讓一位受到好評的教師評價分數未達標準而被迫去職。

另外一個案例則是2013年美國賓州的一個小城市，當地警察局長為了因應警力短缺的窘境，引入了一套犯罪預測軟體。這討軟體透過分析犯罪歷史數據，預測最可能發生犯罪活動的地區。一年後，整體的犯罪率確實下降了，但副作用卻是那些較常發生輕微犯罪事件的貧困社區，在數據的回饋作用下愈加成為警力佈署的重點區域，進而使得生活在這些地區的窮人們得忍受不合理的盤查甚至拘捕。

在歐尼爾看來，上述兩個例子中的大數據應用都成了一種毀滅性武器。這些應用都透過一定程度的「不透明」模型，危害了某一群人的利益或甚至生存機會。

也就是說，對這些「受害者」來說，他們即便知道有某些資料、數據被收集用作評價或預測，但無從得知「運算」如何決定。這些據說客觀、科學，實則神祕的數據模型，直接或間接地影響他們的生活與生命。

換言之，即便接受大數據的「監控」，我們還是得問，透過大數據應用，我們就能得到「好的」答案嗎？

在凱西‧歐尼爾提供的幾個案例中，我們可以看到，這些大數據應用確實有其「效果」，如淘汰某些不適任的教師、降低了犯罪率。但它也同時危害某些人，甚至某群人的生活與生存機會。

更重要的是，面對幾乎「不透明」的數據模型，我們可能連反省、申訴或改變的機會都沒有。

數據主義與「人」的未來

不過真要說到「毀滅性」，我認為大數據應用真正帶來的風險隱憂反而得回到關於「人」的定義上來談。相較於傳統人文主義將「人」視為獨立自主的個體，《人類大命運》的作者哈拉瑞（Yuval Noah Harari）認為，大數據發展所預示的未來中，「人」恐怕將失去這樣的特殊性。

哈拉瑞指出，如今我們全都是一個新興宗教的信徒：數據主義。我們可以把這種數據主義的信仰，看做是推崇大數據應用到極致的一種版本。這樣的數據主義信念，不僅透過資料數據判斷、預設人們的行為，實際上更是將「人」看做各種資料、數據的積累。

換言之，在數據主義看來，一切都是由「資料流」組成。這看似科幻電影的情境，其實早已隨著2010年前後「量化自我」與「量化生活」等概念的出現，成為現實。

我們手上戴著能夠即時監控生理數據的數位裝置、我們使用蒐集身體內部資訊進行病理判斷的各種醫療科技（如fMRI、基因檢測）、我們在網路及社群媒體上留下的照片、記錄及各類數位足跡，這些資料、數據不僅堆疊成為「我」，還成了各種演算法決定我的選擇與行為。

如同哈拉瑞說的，也許不久的將來，「人」將從（自視的）設計者降級成資料數據，最後溶解在滾滾的宇宙資料流中。因此，相較於期待有「好的」大數據模型的凱西‧歐尼爾，哈拉瑞所看到的數據主義問題，從強調「人」的特殊性的人文主義的角度來看，更具「毀滅性」。

無論是「數學毀滅性武器」還是「數據主義」，這些概念都提醒我們：所有的科技都是雙面刃。大數據看似是隨資料科學與數位科技進步而出現的「禮物」，但它必然也同時內蘊著我們必須面對的風險。

《數位時代》長期徵稿，針對時事科技議題，需要您的獨特觀點，歡迎各類專業人士來稿一起交流。投稿請寄edit@bnext.com.tw，文長至少800字，請附上個人100字內簡介，文章若採用將經編輯潤飾，如需改標會與您討論。

（觀點文章呈現多元意見，不代表《數位時代》的立場。）