感謝本書主編依靜的邀請,讀到了一本非常好看的軍武科幻。而且就是在討論我自己在意的 STS 議題。再此全心推薦給大家。

(如果你喜歡《潛龍諜影》、《鋼彈》宇宙世紀、AI 時代的科技巨頭與地緣政治問題,推薦程度再加 100 %)


藤井太洋的《人類》是一部刺激的近未來軍事故事。戰鬥順暢,速度感極佳。武器設定和人機介面的描寫,有著很深的軍武宅趣味。​

難怪小島秀夫會說這是「下一個世代的《潛龍諜影》。」整個戰鬥都是 snake 會使用的東西,也是 MGS 處理的主題嘛。​

不過我不是軍武宅,也 (還?) 不是 MGS 迷。我更在意的是別的事。

這部作品非常勇敢,而且非常聰明地提醒我們去思考「先進科技如何綁架我們」的當代議題。​​


小說背景是 2045 年,「公正戰」成為一種限制衝突規模的方法。

作者的構想來自無人機與非對稱戰爭:如果廉價機器可以讓暴力無限擴張,人類反而可能重新畫出一條線,把戰爭限制成某種受到事先規則約束的代表戰。

(東方不敗師傅,我看到你在歪頭了。但先不要離開,這個主題比較接近宇宙世紀)

​

但在故事開始,這套制度突然失靈。戰地記者親眼目睹天理不容的行徑,但高度可信賴的事實查核平台卻拒絕他的報導。同時,行兇的兇手反而以極度的誠懇,交給記者一個算計滿滿的公路任務。​

整部小說就是用這個設定,對於先進科技發展的趨勢,做出一個 issue spotting。​​


作者藤井太洋談這本書時引述了一句老話:​

有了錘子,所有東西看起來都像釘子。​

新的技術一出現,人們就會開始想要用它解決所有問題。網際網路、社群網路、基因工程、genAI、下一步大概是量子電腦。​

(喔對了,《人類》的世界中量子電腦是標準配備,RSA256 早就破了。這些雷都跟主軸無關,而且會看到這篇心得的人大概也不在乎)​


這正是 tech hype 的起源。科技產業為了吸引開發所需的海量資本,會舉辦精心設計的產品發表會,刻意迎合人們的心理偏誤,使人狂信新科技。同時進入法律灰色地帶,在既有規範尚未接受時先擴張,砸錢發放免費的試用品,爭取大量使用者,之後被監理時再拿要求制度改變,打造「技術標準與法律規範,先由市場打草稿」的事實。​

在這種 regulatory entrepreneurship 之下,制度乍看仍然決定技術能否導入,但制度所能選擇的範圍,早就被技術與資本決定。Uber 的爭議、Airbnb 的使用者政治動員、Tesla 的標準化與法制化歷史,都是很好的例子。

​(如果你對這部分有興趣,這是我至今相信數位身分需要先規範技術架構的主因。我的主張來自創用 CC 老大 Lessig 的《CODE 2.0》,非常好看,大推)​​


藤井太洋在這本書提醒的主題,一直使我想到《單向度的人》。​

無論是科技系統還是整個現代行政與經濟體制,為了大量操作各種不同的人事物,往往必須先把異質的東西轉成共同表徵,例如技術界所謂的 spec 和 interoperability。

如果沒有其他因素拮抗,它在演化時就必然走出一種路徑。原本異質多樣的東西變得 interoperble,然後我們就會開始量化與比較,然後以此管理各種東西,接下來就會有人想要提高整個系統的效率。​

這是整部《人類》的主題之一。

​

而且《人類》寫得極為聰明的一個部分,就是整本書裡充滿了如今我們描繪 AI agent 的方式。​

如今我們一看到 AI ,就只會思考它能做什麼、效能與精準度如何、如何接進既有系統、擴充性、MCP、interoperbility。​

《單向度的人》提醒我們,這是一種非常危險的發展。會讓我們被科技與資本綁架。

《人類》則用另一種舞台來提醒這件事。​

(反暴雷:《人類》原作連載於 2017 AUG~ 2022 AUG。我在 2024 S3 提醒 agenticAI 問責破口的時候,身邊沒幾個人知道 AI agent 在幹嘛,所以本書當然沒有真正的 AI agent。但你會因此看到更細思極恐的東西。

另外,當主線展開過六七成,你才會知道《人類》為何跟《單向度的人》在講同一件事)​​


《單向度的人》的核心警告,就是可互通可管理的東西,會逐漸收編議題與觀點的各種面向,然後將質化問題變成量化問題,陷入 one-dimensionality。​

值得注意的是,馬庫色並不反科技,而是反對收編與單一。我們眼前的工具越是「強大」、趨勢越是快速,我們就可能在還沒有思考「是什麼強大」之前,就下意識建立了一套讓市場與政經體制,讓所有人跑成同一個方向。​


想想看那些科技天才與政治人士允諾的烏托邦:壽命更長、疾病更少、執行更精準、副作用更低、甚至回收率更高。​

全都是既有能力的量化擴張。但這真的是我們應該利用科技力量的方式嗎?​


請注意智力理論、認知心理學、甚至某些社會學、某些國際關係學派都沒有這樣講。

我們真正尚未發展的能力,可能不是速度容量與精準度的提升,而是發現自己的 framing、容納矛盾與不確定、降低恐懼與身分認同對推理的扭曲、同時思考好幾種彼此不可共量的框架、找到建立信任與共同體的可行機制、在多個封閉平衡與開放狀態中靈活切換、了解無明、了解信望愛。​

如果我們繼續強化既有能力,到底是會打開這些窗口,還是關上?


《人類》沒有直接講這件事,但他提醒的主題,卻是讓我印象最深刻的問題。​

而且我非常、非常地不樂觀。就像《人類》的結局一樣。​

我們也許能夠抗衡科技巨頭、能夠拖慢政治極化。

但大概來不及擺脫心底的魔。

​

because WAR, WAR NEVER CHANGES.