要保證未來社會能良好發展,我們要對自動化加以限制。我們要改變對進步的認識,強調社會和個人發展,而不是技術進步。
我們可能甚至需要接納一種原來認為無法想像的觀點,至少在商業領域:在人與機器之間賦予人類優先權。
現世標榜著「科技進步 = 人類福祉 = 勢在必行」的論述,想像力扁平,而且充斥科技樂觀病,因此讀到上面這段時,我超有共鳴,即使手邊事情一堆,仍想做些書摘貼給大家。
書名是《被科技綁架的世界:無人駕駛、人工智慧、穿戴式裝置將帶你去哪裡?》
故事、脈絡、論點都有,翻譯也還不錯,不直接給標準答案,而是拉出思考,人類追求自動化的過程中,帶著什麼願景,以及 #自動化如何重塑了人、生活與認知?
更深切的,其實在陪伴讀者思考,有意義的生活,理想的科技社會,該是什麼樣子?
#致駕駛員的安全警告
開頭第一段是這樣寫的:2013 年 1 月 4 日美國聯邦航空總署發布了僅有一頁紙的通告。該通告沒有標題,只有被歸在「致駕駛員的安全警告」中,發佈在美國聯邦航空總署網站上,並被發送給美國所有航空公司。
作者進一步說明這個公告內容:過度使用自動駕駛會削弱飛行員快速處理飛機不良飛行狀態的能力,簡言之,過度依賴自動駕駛會將飛機及機上乘客置於危險之中。
我想起之前看過的一些飛機失事報導,正是駕駛一連串的判斷失誤所導致墜機,當然,並不是每一位機師都像《薩利機長:哈德遜奇蹟》的故事般,擁有豐富經驗所累積的直覺判斷,進而生命突圍。
「在自動化正逐漸吞沒我們的浪潮中,飛行員身先士卒。」
所以之前一堆研究說大量使用了 ChatGPT 後的人腦變化,會有那些結論也就不足為奇了。用進廢退,不變的道理。
顯性與隱性知識
作者 Carr 提到他的經歷(學開手排車)可以被看作人類獲取複雜技能的一個例子。……他很快就發現,只有當某項任務具有心理準備和認知基礎時,顯性知識才會發揮一定的作用。
「要掌握一項技能,你需要先具備隱性知識,而隱性知識只有在通過真實的經驗才能獲得。……
如果你用電腦解決你沒學過的或是不理解的數學問題,而不去學習數學的相關知識,這個工具就不會給你帶來新的見解,也不會幫助你獲得新的數學知識和技能。
它只是一個黑盒,一個神秘的數字產生裝置,它將阻礙高級思維的生成。」
這一段好適合用來思辨我們和 AI 協作的趨勢。
#自動化背後不大會被思考的面向
「並不是所有自動化(也可以用技術一詞替代)都是有益的。自動化能分擔我們的工作,也能弱化我們的才能,偷走我們的生活。它會限制我們的視野,縮小我們的選擇範圍,將我們暴露於監控之中,操控我們。
當電腦成為我們日常伴侶,成為我們熟悉的、盡責的幫手時,我們還要留心它們到底是如何改變我們的行為和身份。」
#事實是_勞動讓我們有存在感
這是最後一章的標題,一樣有很多很棒的段落。
「無論是建築師還是攝影師,都拒絕使用電腦(指書裡的案例)。這不是出於對喪失工具或自主性的那種抽象的擔憂,也不是因為他們是鬥士。他們只是想在工作中使用最佳工具,可以鼓勵並幫助他們做出最好的、最令人滿意的作品。
他們明白,對技術的選擇正是對工作方式和生活方式的選擇,他們選擇了控制權,而不是拱手讓他人或者讓步於先進的勢頭。他們只是退後一步,批判性地看待技術。」
「一個工具優於其他工具並不存在它的新舊,重要的是它能增強還是削弱我們的能力,它能如何塑造我們對自然和文化的體驗。把對我們日常生活的選擇拱手讓給被稱為「進步」的宏大抽象改念,是愚蠢的行為。」
「活的靈魂是明亮的靈魂。透過將工具是為經驗,視為自己的一部分而不只是生產的手段,我們可以在技術將世界更完整地呈現在我們面前時,享受其帶來的自由。」
#書中提到的一段寓言故事,是我最喜歡的段落
一九八六年,加拿大人種論學者理查·庫爾(Richard Kool)給米哈里·契克森米哈(Mihaly Csikszeatmibalyi)寫了一封信。
庫爾閱讀了一些契克森米哈早期的關於心流的文章,並且,康爾也提及了自己深入蘇斯渥普(Shushwap)部落所進行的研究,這個原住民部落居住在湯普森河谷,也就是現在的英屬哥倫比亞。
庫爾提到,蘇斯渥普部落擁有大面積的領地,領地內資源豐富,獵物眾多,還生長著可食用的草和梅子。他們不必為生存擔憂。
他們建起村子,發展「複雜的技術」,「高效利用環境資源」。他們認為生活是美好且富足的。
但是,部落中年紀稍長的人注意到,舒適的環境背後暗藏著危險。「世界是可以預知的,生命中沒有了挑戰。這樣生活也就沒有了意義。」
因此,每隔三十年,蘇斯渥普人就在長者的帶領下進行遷徙。他們離開家園,放棄村子,前往野外。
庫爾寫到:「所有人都要到另外一個地方。」這樣,生活又充滿了全新的挑戰。
「他們要探試新的河流,認識新獵物留下的蹤跡,在新領地裡種植許多鳳仙花。現在,他們的生命又重獲意義,又有了生存的價值。所有人都感到活力充沛、內心愉悅。」
這本書在 2014 年出版,2016 年繁中上市,我想再過十年來看,裡頭的敘述一樣貼切,觀點也依然重要。很開心你讀到這裡。📖
