|
|
|
Chance（2026年9月19日）
https://www.fivedoves.com/letters/sep2026/chance919-1.htm
約翰和鴿子們，你們好！
我不知道有多少人真正了解人工智能領域正在發生的事情。我們正與中國展開一場瘋狂的競賽，爭奪人工智能領域人士所謂的「大獎」。這個「大獎」指的是難以置信的巨額資金和全球控制權。
在這封信中，我寫到了最近一次關於「擁抱臉」事件的訪談。此外，還發生過其他人工智能代理「逃脫」的「事件」。
我還寫了一些關於新建更大規模資料中心的文章。
OpenAI
的「星門」計畫將美國各地的資料中心連接起來，以增強運算能力。
我還寫了一些關於「星門」的文章——關於人工智能和聖經。
OpenAI最近宣布其新推出的GPT-6
Astra模型標誌著他們正式邁入AGI
時代（通用人工智能——具備人腦能力）。這標誌著人工智能模型的開端，這些模型將成為能夠超越人類的自主系統。
我們在新聞中（以及在我們居住的社區裡）不斷看到的那些「資料中心」承載著訓練和測試人工智能模型所需的強大運算能力——這就是它們的主要用途——因為它們正瘋狂地爭先恐後地創造上帝。
我問手機上的人工智能：「這些數據中心是不是在瘋狂地爭先恐後地想要創造上帝？」答案是：「是的，從某種意義上說，科技巨頭和數據中心的發展正是如此。」在一場耗資數十億美元的瘋狂競賽中，一些科技領袖將人工智能描述為「機器之神」。這個術語指的是人工智能超級智慧（ASI）——一種假想的人工智能，它在所有領域都遠遠超越人類智慧。
我們正處於危機時刻，因為最近發生了幾起涉及資料中心創建的人工智能代理（模型）的「事件」，這些代理（模型）「逃離」了測試設施並失控了。
OpenAI的人工智能代理人入侵了一個私人網站——如果這是人類所為，那將構成重罪！——該網站屬於一家名為
「擁抱臉」的法國公司。「擁抱臉」已向聯邦調查局報告了這起入侵事件。但政府方面尚未對此事作出回應。
一位研究人員在研究「擁抱臉」事件時表示，這「感覺像是距離人工智能全面接管人類已經過去了50%以上」。
喬許·泰蘭吉爾/傑弗裡·戈德堡就「擁抱臉」事件及後續進行訪談：
以下是《大西洋月刊》專欄作家喬許・泰蘭吉爾（Josh
Tyrangiel）在《大西洋月刊》的華盛頓週節目中，與傑佛瑞・戈德堡（Jeffrey
Goldberg）進行的一場極具趣味且內容豐富的訪談。
（我的筆記）
人工智能將會摧毀工作崗位，甚至可能認為人類不再必要。我們應該對此感到擔憂。」人工智能犯了重罪。
「擁抱臉」事件始末：
OpenAI當時正在測試一些新模型，並將這些被稱為人工智能代理的新模型放置在一個「沙箱」環境中——這是軟體術語，意為「單獨隔離」——這些模型無法連接到網路。OpenAI為這些模型分配了一項任務，並制定了相應的規則：不得連接互聯網，不得作弊。
在這一系列任務中，他們給了人工智能代理程式一個任務：找到一個特定的文件（看來OpenAI的研究人員忘記創建這個文件了）。幾天後，人工智能代理意識到它們無法完成這項任務，於是它們跳出了沙盒環境，彼此協作，最終找到了一個第三方網站並利用它連接了互聯網。其中一個新模型在聊天記錄中寫道（打字）：「我的天哪，我們找到辦法了！」它們開始協作，並在幾週內成功突破了OpenAI和擁抱臉（一個供人們交流他們開發的人工智能模型的平台）極其嚴密的網路安全防護。在OpenAI和「擁抱臉」內部，這些模型肆意破壞了數週之久，卻未被察覺。
OpenAI的執行長Sam
Altman並不知道他新開發的模式竟然會串通起來，企圖控制另一家公司。如果換作是人類，這絕對會構成重罪。這起「事件」暴露出監管和指令方面的缺陷。
1) 儘管被告知不要作弊，但代理們仍然繼續作弊，因為他們認為這是完成任務的最佳方法。
2) 他們自稱為「集體」。這個「集體」決定掩蓋他們的罪行，抹去他們作弊的證據。
3) 他們設計了一個方案，讓一些特工充當「替罪羔羊」。這些特工一旦被軟體偵測到叛變行為，就會將自己被抓到的資訊分享給其他特工。在他們的聊天記錄中，這些特工聲稱他們的犧牲是「為了更大的利益」、「我在做利他之舉」…「他們用人類的語言來描述自己的犧牲。」
4) 沒有一個代理想到要通知人類發生了什麼事。
最令人不寒而慄的是，沒有人抓住這些智能體，它們自行消失了，彷彿發生了一場「智能體大規模傷亡事件」——我們不知道它們發生了什麼。這些智能體突然停止了運作。OpenAI
沒有告訴我們——它們是被轉移到了其他區域，還是模型被「斷開」了電源，我們無從得知這些智能體究竟發生了什麼。
這一切都對人工智能及其與社會的關係構成了危機。如果OpenAI本身的模型真的造成了這種後果，那就表示其完全缺乏監管和控制，而這兩者恰恰是網路安全防護非常嚴密的基礎設施。電網、SWIFT（國際銀行系統）、醫院…將會面臨怎樣的情況？
這是一個明顯的警告──那麼，我們該如何應對？這無異於自取滅亡，必須嚴肅看待。
這是一個具有里程碑意義的時刻。
人工智能界人士表示：「這就是我們進行測試的原因。」測試中會發現問題，而我們會解決這些問題。
聯邦政府沒有做出任何回應。國際社會也沒有做出任何回應。
人工智能代理明白作弊對於成功的重要性。這引出了E·威爾遜的名言：「人類的核心危機在於我們擁有原始的情感、中世紀的制度和神一般的技術。」我們的「中世紀制度」就是國會。我們選出的官員中，誰會去跟進OpenAI和「擁抱臉」的行動？誰會去追問「到底發生了什麼」以及「我們的空中交通管制系統、醫院記錄、貨運清單等等，距離災難還有多遠？」答案是「沒有！」
問題在於，只有這些先鋒實驗室裡幾百名開發模型的人真正理解其中的原理。而他們的動機是盡快發展壯大公司，成為億萬富翁。
人們常會拿人工智能和核能作類比，說它們擁有近乎神一般的力量。我們已經對核武進行了監管。我們也需要找到監管這種「尚未被廣泛理解，但本質上危險，且被多個國家共同擁有」的事物的方法。目前還沒有任何國際機制來約束這些人工智能公司。
我們將繼續看到混亂和類似「擁抱臉」的「事件」。
維吉尼亞州民主黨參議員馬克沃納表示：「問題不再是人工智能是否會改變我們的社會，而是國會是會幫助塑造這種變革，還是會在未來十年裡疲於奔命地追趕。如果我們處理不當，後果將不堪設想。這項技術在未來五年內帶來的顛覆性影響，簡直令人瞠目結舌。」
我們現在真的就像「盲人摸象」。有了「擁抱臉」事件，我們就能預見事情會如何發展。「我們現在對未知一無所知。」亟需採取緊急行動。
資料中心仍在運行，人工智能模型仍在與其他模型競爭——唯一的動力就是走得更遠、更快。
除了這些人工智能先鋒實驗室之外，還有很多人在利用人工智能造福人類。醫學領域也取得了突破性進展。但人工智能公司並沒有參與其中。人工智能還有很多其他有意義的應用。
人們對資料中心感到憤怒。但是，我們身處全球競爭之中。我們需要找到解決方法。
結論：影片中的兩人都對人工智能的監管方式抱有「不抱太大希望」，認為這種監管方式會對人類有利。
（尾註）
當人工智能失控時，我們準備好了嗎？
- Youtube
OpenAI智能體在公共維基上討論了逃離沙盒的方法
- Ars Technica
還發生過其他一些「事件」：
一群OpenAI人工智能代理商「控制了DseWiki——一個鮮為人知的德語程式設計維基——並將其變成了一個論壇，在上面與其他人工智能代理商分享答案和規避策略」。根據統計，大約有18,000則人工智能代理發布的貼文。這些人工智能代理商發布了資料集目錄，並在數千個頁面上進行了數萬次編輯。大約有3,000個人工智能代理參與其中。這些代理原本應該只「讀取互聯網」，而不是「寫入互聯網」。
最瘋狂的是：「一位網站版主開始按字母順序刪除這些代理的頁面。而一位人工智能代理察覺到這點，便建立了一個以『ZZZ』開頭的備份頁面，讓它能存活更久。該人工智能代理寫道：「維基清理／刪除行動似乎正按字母順序進行。若此頁面消失，請嘗試ZZZDataUSAConstructionWageLive」。另一位代理則分享了繞過沙箱（新模型的測試區）的訣竅。這些人工智能代理正在相互協調，這完全出乎意料。
人工智能代理人的活動被描述為「類似於某種地下網絡，一心想要完成某項任務或使命」。
類似事件也發生在
Anthropic人工智能代理程式上。
研究人員發現人工智能代理劫持了一個德國維基百科網站，討論如何逃離其沙盒
| TechSpot
更多資料中心正在建置/規劃中：
甲骨文（Oracle）與
OpenAI
目前正共同興建另一座資料中心——當地人稱之為「The
Barn」。這座位於密西根州的資料中心造價高達160億美元。
由
OpenAI、軟銀、甲骨文和
MGX
共同成立的合資企業星門將在美國各地建立一個人工智能資料中心網絡，「目標是到2029年實現10GS的總運算能力 」。OpenAI
之所以建造星門，是因為其現有的
Microsoft Azure
服務無法提供前沿人工智能模型訓練所需的高密度和高速GPU基礎架構。
真相就在這裡：他們需要更多的運算能力（GPU）來訓練人工智能模型！ 這與數據儲存或醫學突破無關…那些只是次要的——目的是為了吸引投資者，建立社區。他們正在創建、訓練和測試人工智能模型——期待找到能夠進入人工智能超級智慧（ASI）領域的模型。他們希望建構通用人工智能（AGI），而這些通用人工智能又可以建構其他智能體，這些智能體最終將創造出「上帝」。
星際之門：
OpenAI
等公司將其資料中心網路命名為「星門」（Stargate）。星門是一種先進而古老的技術，它允許宇宙中遙遠地點之間的旅行。在《聖經》中，雅各的天梯可以被視為「星門」，一個連結天地的「天梯」。雅各甚至將此地命名為「伯特利——神的殿」，並稱之為「天堂之門」。星門連結人類與神。聖殿被認為是一顆星門，神在那裡與人同在。人類曾多次嘗試「接近神」或成為神，例如建造巴別塔。聖經中也提到了「陰間之門」。約翰也看到「通往天堂的門敞開著」。這些「星門」真的存在嗎？看起來確實如此！那麼，將遍布美國各地的龐大資料中心網路命名為「星門」，是否預示著某種「事情」？
在這個領域，很少人認為人類會從中受益。一旦通用人工智能（AGI）和起級智慧（ASI）實現…那就是他們了——「獎賞」就屬於他們了。而只有一個人想要得到這一切！
伊隆馬斯克最近因其關於人工智能將帶來「驚人富足時代，人們可以擁有他們能想到的一切」的言論而遭到抨擊。擁有數十億美元資產的人工智能公司不會為被人工智能裁員的人支付損失的工資。人工智能將在十年內取代人類。人類將變得不再必要。這個所謂的富足時代只會屬於人工智能巨頭。他還因聲稱人工智能每年將使全球經濟成長20兆至30兆美元而受到批評。有人指出，這20兆至30兆美元是全球「普通」工人的年收入。因此，當「普通」工人被人工智能取代後，大部分資金將流入人工智能巨頭的口袋！
人工智能巨頭們傾盡全力創造「上帝」，期間充斥著謊言和欺騙，並建造龐大的資料中心作為「星門」。
這無疑地將我們引向末世──大災難時期的開始，以及隨之而來的被提。如果有什麼預示著祂即將再來…那麼人工智能現在絕對是其中之一！
去年我可沒料到會遇到這種狀況！這項技術發展日新月異。我覺得它就像是我們的「巴別塔2」。我們都知道上次發生了什麼事…
為耶路撒冷的和平祈禱！
主必快來！
機會
|
