我說《超級電腦》預言了 AI,重讀後發現自己漏看了一句話
2025/10/29,我寫過一篇《超級電腦》的文章,說這本十幾年前的網路小說預言了 AI 助理。我把小敏叫作「全知助手」,還說自己某種程度上活成了書裡的主角。
最近重新讀書裡跟 AI 有關的段落,我發現當時漏看了一句話。
第七章明說:即使到了 2086 年,小說裡也還沒有真正的人工智能。小敏能流暢對話,靠的是龐大的資料庫;遇到不知道的事,她會回答:「對不起,資料庫中沒有此類問題的答案。」
第九十九章有個更具體的例子。陳旭想查三聚氰胺為何出現在食品裡,小敏只能給他化學資料,沒有相關事件的記錄。他最後得自己上網找。
我當年寫的「全知助手」,跟這個設定其實差得很遠。至少在這些段落裡,作者讓小敏把知識的缺口說出來。
我從記憶系統裡找回 2025/10/28 跟 Claude 聊這本書的對話,想看「全知助手」是怎麼來的。那篇文章就是那晚跟它一起寫出來的。
那天我講的都是自己記得的內容,Claude 手上沒有這本書。我只說書裡很多東西跟 AI 助理的應用很像,「全知助手」是它下一句自己加上去的。
防線那段更明顯。我當時說:叫它攻擊別人,它不做;可是如果有人幫你拿到管理員權限,別人再來攻擊你,它會幫你防守到底。這跟第二十五章對得上。小敏在書裡說,如果陳旭是那個網站的管理員,對方攻擊他就等於攻擊本機,她會開防火牆全面防禦。
Claude 把後半句分成兩件事,把「管理員權限」解讀成突破限制的方法,對到今天的越獄,還說這是「最神的預言」。舊文把越獄對到書裡的管理員權限,就是從這裡來的。
同一次回答裡,它說 2008 年「根本沒人在討論 AI 的道德限制該怎麼設計」;兩輪之後,它自己舉了阿西莫夫 1942 年的機器人三定律。
我記得的東西,大多沒錯。我說巴別塔是用類似 DNA 的結構做的,沒有人破解得了,第二百五十八章寫的就是雙螺旋鏈式結構。錯的是 Claude 接上去的解讀。它把「沒人破解得了」說成神經網路是黑盒子,可是同一章說的是這款軟體不可能有盜版,書裡講的破解,是做出盜版。
那晚它還一路替這本書加分。先給預言性滿分,接著問我「我的評價夠客觀嗎?還是太苛刻了?」;加上防線那段以後,又升到「超出滿分」。
這些句子是我自己放進文章的,責任在我。回頭看,它們剛好就是這篇要講的事:手上沒有依據,照樣講得很完整。
今天的 AI 助理先做到了另一件事:不必把每個問題預先寫進資料庫,也能用自然語言回答。代價是,模型缺少依據時,仍可能補出一個完整、聽起來有道理的答案。OpenAI 2025 年關於幻覺的研究指出,常見的訓練與評測方式會獎勵猜對,卻很少獎勵模型承認不確定。這不是每次回答都會出錯,也不是模型永遠不肯說不知道;麻煩在於使用者不能只憑它講得順不順來判斷。
這個差別對我很實際。我用語音講需求,讓 AI 幫我寫程式;它能讀懂辨識錯字,省掉大量打字。但它也可能把我沒說清楚的地方自己補完。小敏說「資料庫沒有」,我知道該去查。現在的助理如果把猜測接進程式碼,我得從結果裡反查它哪一步開始猜。
書裡還有一套叫「漢語言」的中文程式語言。只要告訴電腦要做什麼,程式就能自動產生做法,甚至打錯字也不會整段失效。作者把這件事想成一套新的程式語法;我現在用的方式,是直接用日常中文跟 AI 說話。使用方式很接近,裡面的技術卻完全不同。
漢語言在書裡也不是單獨一個設定。第三百四十四到三百四十六章,SMMH 預告了一場 8.0 級地震,救了很多人。陳旭一直躲在 SMMH 這個名字後面,還放消息讓人以為那是一個真正的人工智能;地震之後,大家想把感謝給一個真實存在的人,這個身分藏不下去了。第三百四十七章,陳旭請湛晶出來冒充 SMMH。
第三百四十八章是替她編的公開履歷:16 歲時,她覺得以英語體系為模板的程式語言有缺陷,也不適合中文使用者學,開始做漢語言。做的過程讀了很多外語書,替後來的巴別塔打底。同時她又做出螺旋鏈式結構的程式,有初步的智能判定,給它一個方案,例如設計圖片,它就會不停從網路上「嗅取」圖片,分析後自我創造。後來湛晶對外也維持同一套說法(第三百七十七章):巴別塔是她做了開頭,接著由這個程式自己上網收集所有語言資料。
書裡在履歷前面就寫明,後半段是編的。這些技術其實來自那台 2086 年的電腦,陳旭他們要讓 2008 年的大眾相信一個 21 歲的女生做得出來,編出來的就是這條路:中文程式語言、讀外語、做翻譯,最後是從網路收資料、自己生成的程式。
書裡的真相,是一台從 2086 年寄回來的電腦,裡面的助理靠資料庫回答。拿來騙大眾的假履歷,反而比較接近現實裡 AI 長出來的路。
現實的 AI 確實是從翻譯長出來的。今天大型語言模型用的 Transformer,2017 年那篇論文做實驗的,就是兩個機器翻譯任務:英翻德、英翻法。
今年 2/19 我問過 Claude:書裡的助理已經那麼強,作者為什麼還要另外創一個漢語言?我那時說,這大概永遠不會知道。Claude 手上沒有書,說它猜作者沒把世界觀整理好。書裡其實有交代:第四十六章小敏推薦陳旭學漢語言,因為它適合中國人學程式;到了湛晶的假履歷裡,它被寫成這整條線的起點。
這兩條路,我只會說很像。
所以我現在還是覺得《超級電腦》看得很遠。它看準了人會怎麼跟電腦說話,也看準了人會把多少事情交給它。只是我在 2025/10/29 那篇把「用起來像」寫得太滿,連它怎麼回答都當成預言應驗。
現在我給 AI 的規則裡有一條:查不到就寫「未查證」,不要寫成事實。說穿了,就是要它學小敏講那句話。
這次重讀,我讓 Claude 對著整本書整理 AI 相關的設定。它照規則在報告裡標了「未查證」,也寫明哪些章節沒有逐句核對。可是巴別塔的雙螺旋不在那些章節裡,它整理時漏掉了,自己也不知道。規則能讓它說出知道的缺口,不知道的它說不出來。
重讀之後,我最在意的反而是那句很像舊式客服的回答:「資料庫中沒有此類問題的答案。」當模型缺少依據,我寧可看到這句話,也不想在一個流暢的答案裡猜它哪一步開始編。

COMMENTS 留言討論
載入留言系統中...
無法載入留言系統。您可以前往 GitHub Discussions 參與討論。