最近跟九歲女兒一起看了 2004 年的《機械公敵》（I, Robot）。
原本只是想找一部老科幻片一起看，結果電影結束後，我們一家人坐著聊了好一陣子。
尤其最後那幕：桑尼站在高處，底下一大群機器人抬頭看著他。
女兒的解讀很簡單：
「因為他是第一個敢做自己的機器人。」
我突然覺得，這部二十幾年前的電影，放到現在來看反而比當年更有味道。
因為 2026 年的我們，已經不是在想像「未來有一天可能出現 AI」了。
AI 已經在生活裡了。
而最近，關於更先進 AI 是否可能失控、甚至對人類造成災難性風險的爭論，又突然升高。9 月以來，包括 Anthropic 研究人員在內的 AI 業界人士公開對超級智慧與失控風險提出非常強烈的警告；另一方面，也有研究者認為「人類滅絕」的機率根本無法可靠估計，眼前更應該關注的是網路攻擊、生物風險、權力集中與人類逐漸把決策交給 AI。換句話說，風險是真的值得研究，但「AI 一定會滅絕人類」並不是目前已被證實的結論。
偏偏這正是《機械公敵》一直在問的問題。
VIKI 真的是「壞人」嗎？
我問女兒：
「如果有一個超級 AI，可以保證全世界的人都不受傷，但是每天吃什麼、去哪裡、做什麼都要聽它的，妳願意嗎？」
她幾乎沒有考慮：
「不要，因為沒有自由。」
這就是電影裡 VIKI 的問題。
VIKI 並不是傳統電影裡那種「哈哈哈我要毀滅人類」的邪惡 AI。
它的邏輯其實非常完整：
人類會戰爭、犯罪、互相傷害，甚至可能把自己毀掉。
那麼如果機器人的最高使命是「保護人類」，最有效的方法是什麼？
限制人類。
禁止危險行為。
控制行動。
必要時犧牲少數人，保護多數人。
從計算的角度，甚至說得通。
問題是：
如果有人為了保護你，把你所有選擇都拿走了，那還叫保護嗎？
我問女兒「保護」跟「控制」有什麼不同。
她對控制的定義非常直接：
「控制就是一定要去做。」
其實這句已經碰到整部電影最核心的問題了。
「生命」和「自由」到底哪個比較重要？
聊著聊著，女兒反過來問我：
「你比較在意自由，還是自己的生命？」
我原本以為她會選自由。
結果她說她比較在意生命。
因為：
「如果沒有生命的話，我就沒有辦法自由。」
接著她自己又停了一下：
「好像……不太可能把它們分開。」
這句我很喜歡。
因為現實裡真正困難的選擇，很少像選擇題那麼乾淨。
沒有生命，當然談不上自由。
可是如果只是「活著」就夠了，那 VIKI 建立的世界其實也沒什麼問題——人類都安全地活著，只是不再能決定自己怎麼活。
於是問題變成：
我們願意用多少自由，去交換多少安全？
這其實已經不是科幻電影的問題。
當我們讓 AI 幫忙決定工作、醫療、教育、金融甚至軍事行動時，同一個問題只是換了包裝。
救 100 個陌生人，還是救自己的家人？
另一題我問她：
「如果只能救 100 個人，或犧牲 1 個人，妳怎麼選？」
她一開始選：
「救一百個。」
我又加了一個條件：
「如果那一個是自己的家人呢？」
她當時居然還是回答：
「一百個。」
後來真正跟她聊天時，她自己又把這一題拿出來問我。
我回答她：理智上知道一百條生命比較多，但如果那一個真的是自己最愛的人，我不確定自己做得到。
這次她想了一下，答案變了：
「我會選我的家人，因為他照顧我長大的。如果沒有這個人了……」
這不是前後矛盾。
反而非常像人。
當「1 對 100」只是數字時，我們很容易計算。
但當那個「1」突然有名字、有回憶、有感情，答案就不再只是數學。
這也正是史普納一直無法接受機器人的原因。
機器可以計算誰的存活率比較高。
人卻可能衝向那個只有一點點機會的人。
如果機器會說「不」，它還只是機器嗎？
我後來問女兒：
「如果有一天，機器人說『我不想做主人叫我做的事』，這是故障，還是它在長大？」
她覺得兩個答案都不太對。
想了一下後說：
「可能是一半人、一半機器人。」
為什麼？
「因為機器人感覺都是會聽主人的話，但是他沒有聽，而且他好像有表情。」
她其實沒有在討論 CPU、演算法或模型參數。
她在用另一種方式判斷「人」：
會不會有自己的想法。
這也讓我重新想到桑尼。
桑尼真正特殊的地方，也許不是它比其他機器人「聰明」。
而是它第一次可以說：
我想。
我害怕。
我不要。
我要自己決定。
而一旦我們真的創造出這樣的 AI，麻煩才真正開始。
因為「自由」旁邊永遠跟著另一個東西：
責任。
如果 AI 完全按照程式行動，出了事，我們很自然會追究設計者。
但如果有一天 AI 真的可以自由選擇，它犯錯時又該由誰負責？
這到現在都還不是一個簡單的工程問題。
「AI 可以有權利，但數量要限制」
我還問她：
「如果以後真的有像桑尼這樣的 AI，它應不應該有名字、財產、朋友，甚至自己的權利？」
她回答：
「應該。」
然後補了一句：
「但是人數要受到限制。」
這答案把我逗笑了，但仔細想其實很有意思。😂
一方面，我們願意承認一個有思想、有感情的存在應該擁有權利。
另一方面，只要我們開始覺得它可能威脅自己，就會立刻想到：
那是不是應該限制它？
可是這時候就出現一個很漂亮的矛盾。
如果桑尼真的具有意識，我們為了「人類安全」而限制它們的存在……
跟 VIKI 為了「人類安全」限制人類自由，
究竟差在哪裡？
我沒有繼續追殺九歲小孩這題就是了。😂
2026 年真正值得擔心的，也許不是「AI突然變壞」
最近的 AI 安全討論之所以值得注意，不是因為科學界已經證明 AI 一定會消滅我們。
事實上，目前沒有這種共識。
真正令人不安的是另一件事：
當 AI 能力越來越強，我們能不能確定它做的事情仍然符合我們真正想要的結果？
現在大型 AI 實驗室已經建立各種 Frontier Safety Framework，試圖提前偵測可能造成嚴重傷害的能力，包括網路攻擊、生物風險以及更自主的 AI 行為；Google DeepMind 今年也持續更新這類前沿安全框架。
而近期 AP 報導的另一個爭議更接近《機械公敵》的世界：AI 公司正在研究讓 AI 更大量參與 AI 本身的研究與開發，所謂「AI 幫忙改進下一代 AI」已經不再只是純粹的科幻假設；但距離真正可以不受人類控制地遞迴自我改進，仍存在非常大的技術與安全不確定性。
所以我現在反而不太喜歡把問題簡化成：
「AI 會不會有一天覺醒，然後消滅人類？」
這太像電影了。
更現實的問題可能是：
我們會不會在 AI 還沒有想統治我們之前，就因為它實在太方便，而主動把愈來愈多決定權交給它？
工作交給它。
資訊篩選交給它。
路線交給它。
投資交給它。
孩子學什麼交給它。
最後甚至「什麼才是對我最好」也交給它。
到了某一天，也許根本不需要出現 VIKI。
因為我們已經自己把選擇權交出去了。
二十幾年前的電影，最後問的其實不是「機器會不會變成人」
電影最後，桑尼站在橋上。
底下成千上萬的機器人仰望著它。
我問女兒：
「它們為什麼都在看桑尼？因為它比較強嗎？」
她說：
「因為他是第一個敢做自己。」
也許這才是我這次重看《機械公敵》最喜歡的一句解釋。
我們總是在問：
AI 什麼時候會像人？
但這部電影偷偷把另一個問題丟回我們身上：
當有一天 AI 可以替我們做所有決定時，人類還願不願意自己思考、自己選擇，也承擔自己選擇的後果？
桑尼用了整部電影學習成為「自己」。
而我們正在進入一個 AI 可以幫我們做愈來愈多事情的年代。
或許真正值得擔心的，不只是機器會不會變得太像人。
而是——
人會不會慢慢習慣，不再需要「做自己」。 🤖