Claude 死機：一場揭示我們數位骨牌效應的AI大規模故障

到依家，你可能已經聽過事後檢討報告。大約喺格林威治時間中午，Anthropic嘅系統開始出現「異常高錯誤率」。業內非官方報告指，全球有數千人受影響。對於一個喺AI競賽中定位為深思熟慮、安全至上嘅平台嚟講，呢下真係有啲尷尬。但當科技傳媒忙緊追蹤故障幾時解決嘅時候，我更關注嘅係，呢件事揭示咗我哋正建造嘅骨牌效應有幾脆弱。呢次唔單止係伺服器短暫失靈；而係俾我哋窺見到一個比聊天機器人供應商想您相信嘅，脆弱得多嘅未來。

系統中的「問題資產」

喺高風險嘅製造業世界，有個概念每個廠房經理都瞭如指掌：問題資產 (Bad Actor)。指嘅就係生產線上某一部機器—例如一部唔穩定嘅裝箱機、一個老化嘅輸送帶摩打—佢造成嘅停工時間佔咗好大比重。就算工廠地板上擺滿閃令令嘅新設備，但只要呢個問題資產一卡住，成個運作就會停擺。你八成嘅問題，就係嚟自兩成嘅資產。

而家，睇返我哋嘅數位基礎建設。我哋建造咗啲咁宏偉、咁靚嘅伺服器農場，訓練咗呢啲咁神奇嘅模型。但星期一Claude死機事件正正話俾我哋知，我哋仲未識得點樣搵出，更唔好話修理，AI供應鏈裡面嘅問題資產。係單一故障點？定係連鎖性軟件錯誤？老實講，「點解」發生嘅重要性，遠不及「發生咗啲乜」：即係全球認知基建嘅一個核心部分，證明了佢可以好似熄燈咁容易就停擺。我哋將由寫程式碼到投資分析嘅所有嘢，都交託俾呢啲系統，但佢哋嘅運作可靠性，仍然停留喺車庫樂隊初創階段。

我哋對自己講嘅故事

呢樣嘢令我諗起最近一路喺度諗嘅嘢， partly 因為重讀咗 Paul Murray 嗰本精彩小說《虛印記》(The Mark and the Void: A Novel)。如果你未睇過，呢本書係一個對金融海嘯嘅狠辣又好笑嘅解構，發生喺愛爾蘭「凱爾特之虎」垂死掙扎時期嘅一間都柏林投資銀行。本書嘅天才之處在於佢剖析咗我哋集體相信嘅虛構故仔——即係話市場係理性、模型係穩健、系統係穩定嗰啲說法。個個都知有泡沫，但佢哋一路跳舞跳到音樂停為止。

呢個唔係正好係我哋對待AI嘅寫照咩？我哋將呢啲聊天機械人神化到不得了。我哋話俾自己聽，佢哋就係終極版嘅《金蛋龍歷險記》(Adventures of Egg Box Dragon)——Richard Adams 童書入面嗰隻乜嘢失物都搵得返嘅神奇生物。我哋將問題掟俾 Claude、ChatGPT 呢類 AI，期望佢哋可以從數位虛空中搵出答案，深信佢哋無所不能。但當一斷電，當「異常錯誤率」飆升，我哋就要面對一個唔舒服嘅真相：根本就冇魔法。只係程式碼，而程式碼係會壞嘅。條龍只係用紙皮做，油上綠色咋。

仲有另一部文學作品都好似。Dominic Smith 嘅《電幻旅館》(The Electric Hotel)，講述默片先驅 Claude Ballard 嘅起跌。佢係一個沉迷於電影魔力嘅人，最後眼睜睜睇住自己嘅藝術形式——同佢嘅傑作——被時間、被忽視、同一場災難性大火所摧毀。呢本小說對藝術同記憶嘅脆弱作出發人深省嘅沉思。而一個世紀後嘅今日，我哋又喺度建造另一種電子夢，同樣不堪一擊，同樣可以因為一個故障點就玩完。我哋嘅數位記憶、我哋嘅AI輔助工作——話咁快就冇咗。冇咗，直到某個數據中心嘅工程師成功重啟部投影機為止。

聖誕禮物嘅幽靈

今次死機亦迫使我哋正視呢啲平台所謂嘅「服務」。我忍唔住諗起嗰本舊童書，《聖誕故事：狗狗Claude》(Claude the Dog: A Christmas Story)，書入面隻狗將自己所有聖誕禮物送晒俾一個潦倒嘅朋友。呢個係關於慷慨同分享真義嘅故事。但放喺我哋嘅處境，當Claude死機，佢唔係俾緊嘢；而係搶緊嘢。搶緊我哋嘅時間、生產力同信心。我哋已經太依賴呢啲數位拐杖，當佢哋一下子被拎走，跛嘅反而係我哋自己。

對於啲急急腳將API整合到核心工作流程嘅企業嚟講，星期一真係一盤冷水照頭淋。如果你將客戶服務機械人、內部數據分析或者程式碼庫，建立喺一個可以毫無預警就消失嘅平台上，咁邊個先係「問題資產」？係壞咗嘅伺服器，定係假設「雲端」就係穩定可靠嘅科技總監？

呢個就係業界需要面對嘅現實，真係唔係幾舒服：

• 復原力並非理所當然：我哋當AI嘅正常運作時間好似電力咁基本，但其實佢目前只係似收費電視頻道。落雨就冇訊號。
• 嗰套說法已經行唔通：我哋要停止將AI神化，開始將佢當成關鍵基礎建設咁看待。即係要有後備方案、離線應變措施，同埋適量嘅懷疑態度。
• 真正價值在於隱藏之處：喺下一階段競賽跑出嘅公司，唔一定係模型最勁嗰啲，而係可以保證穩定可靠嘅公司。喺人哋死機時自己仍然運作暢順嘅平台，先會得到企業真正嘅信任。

隨住呢個星期股市開市，啲人會繼續講Anthropic嘅回應速度同佢哋嘅狀態頁更新。但醒目錢——即係喺2008年學識教訓嗰班人——會問更難答嘅問題。佢哋會喺自己嘅營運風險評估入面，審視公司嘅《虛印記》(The Mark and the Void)。佢哋會喺科技堆疊中搵出「問題資產」，唔好等到佢哋搞到成個廠房寂靜無聲、完全停擺為止。

暫時，啲燈著返喇。Claude又再識答問題，扮到若無其事咁。但我哋已經見過布幕後面嘅嘢。我哋見過嗰個虛空。而佢，喺倫敦一個灰濛濛嘅早上，睇起上嚟就好似一個「504 Gateway Time-out」錯誤咁。