📝📝：社群媒體演算法的推薦圈套

你所選擇的推薦影片可能都是演算法的精心策畫（Picture from Lin Huang on Pinterest）

  原文刊載於獨立評論@天下《一個英國少女之死：社群媒體演算法的推薦圈套》

╴

2022 年 9 月 30 日，BBC 報導了一則震撼資訊科技界的新聞：英國倫敦法院宣判社群媒體演算法的推薦內容導致英國 14 歲少女 Molly Russel 最終自殺身亡。有鑒於該事件裡的主角 Molly Russel 是目前為止第一個遭到法院判決認定因為演算法推薦的內容而死的使用者，世界各地陸續開始有不少媒體報導該議題、專家學者加入討論。受理該次案件的驗屍官 Andrew Walker 不以自殺說明 Molly Russel 的死因，反而特別提到社群媒體的影響：

在這次事件曝光以前，人們或多或少都知道社群媒體演算法有時會推播不合適的內容給觀看者，更甚者，可能會因為這些推播的內容，而影響人們的身心狀況。然而，從來沒有人拿出證據並且確切地宣稱「演算法推薦給我的內容就是我的焦慮症元凶」，而科技巨頭們也極力宣稱「個人化的內容是基於使用者的習慣作為推薦的依據」。Molly Russel 的不幸離世，直接敲響了資訊科技界的叩問：

在演算法的推薦機制下，使用者還有選擇的自由嗎？如果演算法推播的內容會損害人們的身心健康，那麼，誰又該為此負責？

一場於美國舉辦的聽證會也許可以回答這些問題。

╴

Tristan Harris 來源：《智能社會：進退兩難》劇照

科技巨頭對演算法的刻意為之

2019 年 6 月 25 日，前 Google 軟體工程師 Tristan Harris 出席美國國會聽證會，說明科技巨頭所打造的演算法正在讓社會變得愈來愈極端。Tristan 多次提及演算法的推薦內容並不是偶然產生，而是刻意設計（It’s not by accident but by design.）。每個使用者開啟軟體時會觸發屬於他的個人模型（Avatar），使用者在網路上留下的足跡通通都會被該模型紀錄下來，作為分析行為模式的數據原料。現今科技巨頭在競逐的是，誰的模型可以更準確預測使用者的行為，再將該行為模型賣給商人。史丹佛大學（Stanford University）教授 Shoshana Zuboff 將這樣的商業模式稱為「監控資本主義」（Surveillance Capitalism）。

以 Google 旗下的影音平台 YouTube 為例，每當我在觀看影片時，影片背後的演算模型也在不斷收集分析我的個人數據，演算法則會依據這些數據分析，並推薦我可能會喜歡的影片內容。Tristan 提到「YouTube 的影片閱覽數有 70% 是演算法的推薦內容貢獻的。」換句話說，演算法的推薦機制創造了一種自由選擇的假象：我所選擇的影片，實際上是一場精心設計的預測，我的每一個選擇只是為了印證這個模型的精確性。

類似的效應也能從魔術師的手法窺見。在紙牌魔術的手法中，有一種稱為「迫牌」的手法。魔術師會洗亂整副撲克牌，甚至交由觀眾洗牌也沒問題；接者，魔術師會邀請觀眾抽一張牌，而這張牌正是魔術師預設要讓觀眾抽到的牌。換句話說，藉由魔術師的手法操作，讓觀眾有「自由選擇」的錯覺；然而，這一切都是在魔術師的操控之下，如同演算法的推薦機制。只不過，魔術師只能進行一對一的操弄，而 YouTube 的演算法可以一次操弄 20 億用戶，不分日夜、全年無休。

╴