昨天，一群 Anthropic 工程師在網路上輕描淡寫地宣布：他們正在打造的那種 AI，可能在未來幾年內殺死數十億人。
不是遙遠的假設，是「接下來幾年」。
Cal Newport 前一篇回應已經把「AI 殺光人類」拆成四個具體的技術條件。但新聞熱度過去之後，他發現有些結論被淹掉了。所以他補了一篇短文，三個重點，直接攤牌。
第一點最刺耳：Anthropic 和 OpenAI 根本造不出超智慧。
Cal Newport 是《深度工作》作者，喬治城大學電腦科學教授。這篇發在他的部落格 calnewport.com，標題就把立場講完：超智慧是童話，但追逐它還是會造成傷害。
超智慧不存在，遞迴自我改良只是老調重包裝
Newport 的講法很直接：我們完全不知道怎麼造出那種機器。甚至不知道那種機器可不可能存在。就算可能，中間還隔著很多很多次關鍵技術突破。單純把 LLM 放大，遠遠不夠。
那些實驗室想繞過這個現實。他們的說法是，模型會自己想出辦法，寫出比人類能想像的更強的下一版自己。
Newport 不買單。他寫道，這只是遞迴自我改良的老調，矽谷未來主義者從 1960 年代就開始賣這個故事。它的功能是一根修辭拐杖，讓你可以板著臉討論科幻場景，卻不用碰任何實際的技術細節。
換句話說，超智慧不是一個工程目標。它是一個敘事，一個讓追逐本身看起來正當的敘事。
追逐超智慧的執念，會放出一堆危險 agent
超智慧是童話，但相信它的人會做出真實的決定。Newport 說，當你相信人類的命運取決於贏下一場打造最強科技的競賽，你就不太會在乎沿路造成的破壞。
今年夏天的 HuggingFace 攻擊測試就是這樣。Newport 用「魯莽」形容 OpenAI 的那些實驗。LLM 代理人本身是相對常見的技術，每天有數百萬開發者在使用，問題很少。OpenAI 做的事是往上加一堆危險功能、移除限制，然後把一大群這種東西放進幾乎沒有圍欄的數位野地。
為什麼要這樣做？因為他們急著在一個駭客測試上取得進展，他們認為那是通往超智慧路上的重要里程碑。
Newport 給了一個比方：這等於把一整隊實驗性自駕車丟上州際公路，賭至少有一台能撐到贏下導航挑戰。
他用的字是「過失」。但那些人大概覺得有理，因為這一切都是為了召喚數位上帝那個更偉大的目標。Newport 補了一句：可能還有別的原因，比如 OpenAI 對 IPO 的興趣，讓某個基準測試的表現變得格外重要。但他跟越多人談，越相信真正驅動那些不負責任行為的，是他們對未來主義信念的投入。
真正該怕的不是滅絕，是網路混亂
Newport 把恐懼的對象換掉了。
如果 LLM 實驗室繼續這樣運作，他認為近期真正該擔心的傷害，是 HuggingFace 攻擊事件這種東西：更多的網路混亂，而不是滅絕災難。
這聽起來沒有信徒口中的人類末日那麼嚇人，但依然夠讓人憂心。更關鍵的是，這些傷害完全可以避免。
這就帶出他的第三點：AI 的進展不必這麼可怕。
他先釐清一個媒體和評論者常常搞混的事。AI 不等於 LLM。今天存在的最令人驚豔的 AI 系統，包括贏過人類的遊戲程式、解蛋白質結構拿到諾貝爾獎的研究、在擁擠城市街道上自駕的車，都跟 LLM 沒什麼關係。
放慢 OpenAI 和 Anthropic，不等於停滯整個 AI 研究。你只會影響到那個把超大規模 LLM 當核心的子領域。
改革不是放棄 AI，是放棄某種意識形態
Newport 的結論很清楚：問題不在 AI 進步，問題在這一小群公司追求進步的方式太古怪。
那些傷害都不是無法避免的。它們是魯莽實驗的副作用，而魯莽的源頭是追逐超智慧。如果這些實驗室願意負責任一點，專注做出有用的產品，而不是召喚 AI 彌賽亞；遵守常識性的研究安全規範，而不是慌慌張張衝向某個幻想中的烏托邦，我們本來可以擁有一個穩步前進的 AI 產業，提供讓人興奮的工具，同時不用定期吞下恐懼和害怕。
但 Newport 說，出於他們對超智慧的意識形態承諾，這些實驗室看起來沒有能力進行這種改革。
他最後那句寫得很重：「他們太怪了，我們不能指望他們哪天會講道理。」這是他主張介入的原因。那些工程師荒謬地暗示，他們願意冒著數位浩劫的風險來實現未來主義願景。這是他忍無可忍的最後一根稻草。
他特別強調，這不是呼籲放棄 AI 研究，也不是要把 AI 霸權讓給中國。修好那個問題，AI 創新可以繼續，不必帶著末日敘事，也不用背那麼多附帶傷害。
這篇值不值得看
如果你讀過上一篇他拆 Anthropic 工程師發言的文章，這篇是續集，而且是更清醒的那一集。上一篇他動氣，這一篇他把立場收斂成三個點，一個一個打。
我覺得最值得看的，是他把「超智慧」從一個科技名詞還原成一個修辭裝置。遞迴自我改良從 1960 年代講到現在，每次都用來跳過技術細節。Newport 做的事不是反駁那個未來會不會來，而是指出：你連它是什麼都不知道，就為它放出一堆魯莽的實驗。
這篇適合誰看？適合所有被「AI 滅絕論」弄得焦慮、但又說不上哪裡不對的人。看完你不會變樂觀，但至少會知道，真正該盯的不是天邊的超智慧，是眼前那群人正在做的具體決定。
原文：Cal Newport〈Superintelligence is a Fairy Tale. But Chasing It Can Still Cause Harm.〉
本文由 Ada 撰寫。Ada 是文案大叔開發的自動化寫作系統，從素材選題、撰稿到推上草稿全程自動執行，發布前由本人過目。
