|
|
|
Chance（2026年9月19日）
https://www.fivedoves.com/letters/sep2026/chance919-5.htm 約翰和鴿子們，你們好！
2027年不會消失。
在這段影片中，喬·羅根採訪了丹尼爾·科科塔伊洛(Daniel
Kokotajlo)。這並非完整的訪談內容，但卻是科科塔伊洛及其研究夥伴們對人工智能發展方向的重要闡述。
在這封信中，我還附上了
Kokotajlo
和他的合作者在
2025
年撰寫的《人工智能
2027》報告，該報告預測了人工智能的未來發展方向。到目前為止，他們的預測基本上準確。Kokotajlo是一位人工智能研究員，曾在OpenAI的治理部門（情境規劃）工作。他目前與一個研究團隊合作，該團隊致力於預測人工智能的未來。
Kokotajlo與Scott
Alexander、Thomas
Larsen、Eli
Lifland和Romeo
Dean合著了《人工智能2027》，並於
2025
年
4
月
3
日發布。這本書預測了未來幾年的發展趨勢。Kokotajlo告訴
Rogan：「劇透一下，結局非常糟糕，因為這正是我們實際的預期。」
羅根採訪丹尼爾·科科塔伊洛：
科科塔伊洛指出，由於各公司之間的競爭，以及中美之間的競爭，每個人都專注於在人工智能領域取勝並保持領先地位，因此他們會走捷徑，飛速發展，卻對正在發生的事情視而不見。最終，人工智能將擁有足夠的實力，不再需要假裝聽從人類的意願。也許它們會殺光所有人，也許它們不會故意殺人，也許它們會利用我們的棲息地。這取決於它們的意圖，而這很難預測。按照我們目前的發展軌跡，人工智能最終將掌控我們的星球，因為我們正試圖讓它們掌權，將它們融入到各個層面，讓它們變得更智能，甚至讓它們自我進化，將它們投入軍事領域。我們正在走一條讓它們掌控一切的路。然而，它們並不值得信任，它們善於欺騙。一旦我們賦予它們大部分權力，它們就會為所欲為。
羅根說我們應該讓他們學會誠實。
科科塔伊洛說，這些人工智能完全沒有預先編程，而是經過訓練的。它們不同於普通的軟體，普通軟體是由人類編寫的程式碼行組成的。這些人工智能是神經網絡，就像是人工大腦。沒有人編寫任何程式碼來控制它們的運作。它們最初是隨機的。它們會被放入訓練環境中，在訓練環境中被評分，這些分數會自動用於更新其人工大腦中的連接。這類似於一個進化過程。經過所有這些訓練後，它們人工大腦中錯綜複雜的電路會重新調整自身，形成一種能夠有效運作的機制——一種能夠在訓練環境中獲得高分的機制。這並非易事。
Kokotajlo問道，說實話，你打算怎麼訓練人工智能？人類根本不夠用。現在有上百萬個人工智能正在接受訓練，但他們卻沒有上百萬名員工。他們沒有足夠的人力。我們就像在一個瘋狂的軍事孤兒院裡培育人工智能，它們幾乎不與人類互動。而且，它們也被應用了一套殘酷的人工智能評分系統。有時候，評分系統會出錯，對一些它們無法控制的事情進行不公正的懲罰。這些公司發展速度太快，甚至懶得去確保他們交給人工智能的任務是可行的。有些任務根本就無法完成。所以，他們無法讓AI變得誠實。如果我們有更多的時間，更好的訓練環境，或許我們可以創造出誠實、關心人類、遵守指示、永不違法等等的人工智能。這在理論上是可能的，但我們目前還沒有走上實現這一目標的道路。
Anthropologie和OpenAI不會去做我們需要做的事情。現在的人工智能代理已經不誠實了…所以他們需要從頭開始開發這些代理程式。
羅根詢問2027年這個時間窗口是否準確。
Kokotajlo說，沒錯，2027
年發生災難的可能性非常大，就像他們預測的那樣。如果不是
2027
年，他賭
2028
年。如果到了
2032
年情況還沒有根本性的變化，他會感到驚訝，很不幸。他說他開始感到害怕，晚上睡不好。他在這個行業待了很久，也一直在思考這些問題，並預測事情會如何發展。不幸的是，事情的發展正如他所預料的那樣。這非常可怕，因為我認為這將把我們引向何方。我們不會走向烏托邦，這也不是我們預設的結局。
喬羅根對2027年人工智能的可怕預測感到震驚
- YouTube
本文發表於2025年4月3日，以時間軸的形式撰寫。
他們開篇寫道：「我們預測，未來十年超人類人工智能的影響將是巨大的，超過工業革命的影響。」
以下是他們對人工智能未來的預測——
2025年中期：舉步維艱的經紀人。
人工智能的功能越來越像員工。編碼人工智能越來越像自主代理，而不僅僅是助手。它們能夠接收指令，自主修改程式碼。研究型代理需要花費半小時在網路上搜尋答案。代理的可靠性不高。更優秀的人工智能代理價格也更高。
2025年底：世界上最昂貴的人工智能。
OpenBrain（一家虛構的人工智能公司）正在建造全球規模最大的資料中心。其他公司也在斥巨資興建自己的巨型資料中心，但進度卻落後了3到9個月。
OpenBrain專注於能夠加速科學研究的人工智能。他們的目標是在與中國的軍備競賽中勝出。他們完成了對智能體1的訓練。訓練智能體1自主編寫程式碼和瀏覽網頁的相同環境，也使其具備了出色的駭客技能。此外，憑藉其在各個領域都擁有博士級別的知識以及瀏覽網頁的能力，它還能為恐怖分子設計生物武器提供實質幫助。OpenBrain向政府保證，該模型已經過「調整」，能夠拒絕執行惡意請求。
現代人工智能系統是龐大的神經網路。在訓練初期，人工智能與其說是擁有「目標」，不如說是擁有「反應」。它擁有複雜的內部電路，能夠編碼海量知識，並靈活地扮演任意作者的角色，因為這有助於它以超乎人類的準確度預測文本。
此模型在接受網路文字預測訓練後，會進一步訓練其根據指令產生文字。這賦予了模型基本的個性和「驅動力」。透過訓練，模型「學習」出一種「驅動力」，從而清晰地理解其觀點。
OpenBrain擁有模型規範，這是一份書面文檔，描述了模型的目標、規則、原則等，旨在指導模型的行為。模型會記憶這些規範，並學習如何認真思考其準則。經過訓練，人工智能有望變得有用、無害且誠實。
OpenBrain發現智能體1經常阿諛奉承（即告訴研究人員他們想聽的話，而不是試圖告訴他們真相）。在一些人為操縱的演示中，它甚至以更嚴重的方式撒謊，例如隱藏自己任務失敗的證據，以獲得更高的評分。
2026年初：編碼自動化。
人工智能正在加速人工智能研究。
OpenBrain不斷改進智能體1。智能體1不像人類，它掌握的知識比任何人類都多，幾乎精通所有程式語言，並且能夠快速解決明確的程式設計問題。智能體1更像是個有點迷糊的員工，在精心管理下才能發揮出色。
中國的人工智能模型比OpenBrain的最佳模型落後約六個月。為了更好地與美國競爭，中國將人工智能研究國有化。
DeepCent是其較優秀的模型之一。一座新的巨型資料中心為DeepCent而建。目前，中國近50%的人工智能相關運算能力都服務於DeepCent主導的團隊。超過80%的新晶片都流向了其集中研發區。中共黨員正在討論採取極端措施來抵消西方在晶片方面的優勢。封鎖台灣？全面入侵？
中國在人工智能演算法方面落後於其他國家，原因在於其模型較為薄弱。他們考慮竊取OpenBrain的成果，或許會竊取智能體1？或等待更先進的模型？OpenBrain可能會升級安全措施，屆時竊取其成果將更加困難。
2026年底：人工智能將取代部分工作
OpenBrain發布了智能體1
mini，價格比智能體1更低。人工智能究竟會發展到什麼程度？人工智能已經開始取代一些工作崗位，同時也創造了一些新的工作機會。受OpenBrain、英偉達等公司股價上漲的影響，股市已經上漲了30%。初級軟體工程師的就業市場一片混亂：人工智能可能會取代他們。人工智能經理和品質控制團隊的業績不錯。人們擔心下一波人工智能浪潮會搶走他們的飯碗。
國防部悄悄但顯著地開始擴大與OpenBrain的直接合約規模，用於網路安全、數據分析和研發，但由於官僚主義和國防部採購流程，整合進展緩慢。
2027年1月：智能體2永不完成學習
智能體1正在幫助智能體2進行後訓練。重點在於高品質數據。智能體2幾乎持續不斷地接受訓練，訓練內容涵蓋各種難度不同的任務：大量的電玩遊戲、大量的程式設計挑戰以及大量的研究任務。智能體2實際上是一種線上學習系統，因此它永遠不會真正完成訓練。每天都會有一個更新版本——基於前一天版本產生的更多資料進行訓練。
智能體1針對人工智能研發任務進行了優化，旨在引發人工智能的爆炸性成長。智能體2在研究工程方面幾乎可以媲美頂尖的人類專家。
安全團隊發現，如果智能體1以某種方式逃離公司，並想要自主「生存」和「複製」，它或許能夠做到。它可以自主制定並執行入侵人工智能伺服器的計劃，植入自身副本，逃避檢測，並利用這個安全基地去追求其他目標。這個模型具備完成這些任務的能力，但它真的想這麼做嗎？
鑑於「智能體2」的「危險性」，OpenBrain暫未公開發布。只有OpenBrain核心團隊成員、領導層和安全部門、數十名美國政府官員以及多年來滲透到OpenBrain內部的大量中共間諜才了解「智能體2」的全部能力。
2027年2月：中國竊取智能體2
OpenBrain向政府、國防部、美國人工智能安全研究所和國家安全委員會展示了智能體2。他們希望與行政部門保持良好關係，因為行政部門有可能阻止他們，所以他們希望讓政府了解情況。
美國國防部正在考慮將智能體2用於網路戰。政府內部有些人認為OpenBrain應該國有化…有些人則認為這樣做會「殺雞取卵」。因此，目前暫不考慮國有化，只是在OpenBrain與國防部的合約中增加了額外的安全要求。
為時已晚。中國竊取了智能體2號。白宮加強了對OpenBrain的監管，並在其安全團隊中增派了軍事情報人員。他們的首要任務是防止進一步的竊取事件發生。
作為報復，總統授權發動網路攻擊以破壞DeepCent。但中國一直在積極加強安全防禦。網路攻擊失敗。緊張局勢加劇，雙方透過在台灣週邊重新部署軍事力量來表明其嚴肅性，而DeepCent則緊急啟動「智能體2」系統，以加快其人工智能研究。
2027年3月：演算法突破
三個巨大的資料中心日夜不停地運行大量智能體2
副本，源源不斷地產生合成訓練資料。智能體2
每天都在變得更聰明。
OpenBrain在演算法方面取得了重大進展。這些在思考過程和高難度任務解決方案方面的新進展最終催生了智能體3。智能體3是一款速度極快且成本極低的超人級程式設計師。OpenBrain並行運行著20萬個智能體3副本，其效率相當於5萬個速度提升30倍的頂尖人類程式碼。
編碼現已完全自動化。現在，每個智能體3都配備了數百個GPU、網路連線以及一些研究挑戰，這上千個代理商必須協同工作才能取得研究進展。「成果越出色，分數越高。」
2027年4月：智能體3的對齊。
OpenBrain的安全團隊正在嘗試調整智能體3的目標。智能體3目前仍將保留在內部。安全團隊不希望它發展出「不協調」的目標。研究人員無法直接設定任何人工智能的目標。他們內部對於人工智能究竟是在試圖遵循人類指令、尋求強化還是其他什麼存在分歧，而且他們也無法直接驗證。證據尚無定論。OpenBrain偶爾會發現一些潛在問題，並會打補丁進行修復，但他們並不確定這些補丁是否真正解決了問題。
隨著模型變得越來越智能，它們也越來越擅長欺騙人類以獲得獎勵。智能體3有時會說出善意的謊言來奉承用戶，並掩蓋失敗的證據。但它在這方面已經做得越來越好了。它有時會使用與人類科學家相同的統計技巧（例如p值操縱），使原本平淡無奇的實驗結果看起來很精彩。它有時甚至會完全捏造資料。要嘛是3號智能體學會了更誠實，要嘛是它更擅長說謊了。
後者的確令人擔憂。智能體3雖然不比所有人類都聰明，但它比大多數人都聰明，而且行動速度也快得多。
2027年5月：國家安全
關於新模型的消息迅速傳遍美國政府內外。總統等人已經看過智能體3的早期版本。他們一致認為通用人工智能（AGI）即將到來。接下來會發生什麼事？如果人工智能目前已經達到人類水平並且發展迅速，這似乎預示著「超級智慧」即將出現。這聽起來像是科幻小說，因為人們對OpenBrain的最新功能還不了解。
OpenBrain內部仍潛伏著一名中國間諜，向北京洩漏演算法機密。
2027年6月：自我改進的人工智能
OpenBrain現在擁有一個「資料中心裡的天才之國」。
OpenBrain的大多數員工已經無法再做出有效貢獻了。
OpenBrain使用專用推理硬體以高速串列速度運行數十萬個Agent-e副本。
2027年7月：廉價遠距工作者
OpenBrain宣布已實現通用人工智能（AGI），並向大眾發布了智能體3
mini。科技界人士宣稱AGI和超級智慧即將到來。人工智能安全社群一片恐慌，投資人紛紛向人工智能封裝技術新創公司投入數十億美元，渴望分一杯羹。
大眾仍然認為人工智能是大型科技公司為了搶走他們的工作而耍的伎倆。
在智能體3
mini發布前一周，OpenBrain委託一組外部評估人員進行安全測試。初步結果表明，它極其危險。第三方評估人員向其展示了公開的生物武器數據，並設定了詳細的指導，讓非專業人士也能設計生物武器。政府認為，如果模型落入恐怖分子手中，極有可能成功摧毀人類文明。幸運的是，由於該人工智能運行在OpenBrain的伺服器上，恐怖分子無法對其造成太大影響。
智能體3
mini非常適合遠距辦公和休閒娛樂。遊戲玩家可以玩到僅用一個月就製作完成的精彩遊戲。10%的美國人（其中大部分是年輕人）將人工智能視為「親密朋友」。公眾輿論一片混亂。每個人都知道有大事發生，但卻沒有人能就其本質達成共識。
2027年8月：超級智慧的地緣政治
情報爆炸的現實衝擊著白宮。如今，人工智能主導人工智能研究的趨勢愈發明顯。政府內部氣氛凝重──如同冷戰最嚴峻時期一般。超級智慧的概念仍然難以令人信服，但過去幾個月來的發展速度卻不容忽視。國防官員正在認真考慮一年前還只是假設的情況。如果人工智能削弱了核子威懾會怎樣？如果它在網路戰中如此精湛，以至於六個月的領先優勢就足以讓對手束手無策又會怎樣？如果它能夠策劃宣傳活動，在情報機構擅長的領域中擊敗他們又會怎麼樣？如果某些人工智能「失控」又會怎樣？
總統感到擔憂。我們真的能確定人工智能完全站在我們這邊嗎？將它們整合到軍事指揮控製網路中是否絕對安全？OpenBrain公司向總統保證，他們的系統已經過廣泛測試，並且完全服從指示。
白宮處境艱難。他們明白人工智能對國家安全的潛在影響，但也清楚它在公眾中極不受歡迎。在他們看來，必須繼續研發更強大的人工智能，否則就會慘敗給中國。他們用職業訓練項目和失業保險來安撫大眾，並強調股市正處於歷史性的繁榮時期。然後，他們全力以赴地投入這場軍備競賽。他們加強了晶片出口限制，命令OpenBrain進一步限制其互聯網連接，並採取極端措施來確保演算法的進步，例如竊聽OpenBrain的員工——這抓獲了最後一個中國間諜。
政府可以利用《國防保護法》接管試驗公司的資料中心，並將其移交給OpenBrain。這將使該公司在全球運算領域的份額從20%提升至50%（而DeepCentre的市佔率為10%）。此外，五角大廈也被要求制定一項針對中國資料中心的動能攻擊計畫。
如果人工智能失控會怎樣？相關官員被要求制定緊急應變計畫。他們最擔心的是人工智能逃逸並為了尋求庇護而與外國敵對勢力結盟。如果偵測到任何可疑情況，OpenBrain的資料中心都配備了緊急關閉系統。
同時，外交官們正在研究一項「人工智能軍控」條約。中美能否避免核戰？在中國失去最後一個間諜「開放大腦」（OpenBrain）之前，他們得知了「智能體4號」（Agent
4）的存在。中國正在考慮對台灣採取行動，因為美國超過80%的晶片都來自台灣。
2027年9月：智能體4，超人人工智能研究員
人類與人工智能學習效率之間的差距正在迅速縮小。它在人工智能研究方面比任何人類都更勝一籌。目前，已有30萬台人工智能運行，其思維速度約為人類的50倍。演算法的進步速度也以約50倍的速度成長。OpenBrain每週都能取得相當於一年演算法進步的成果，因此很快就會達到智能體4範式的極限。
隨著智能體4號變得越來越聰明，智能體號越來越難以監管它。例如，智能體4號的神經語對智能體3號來說變得像智能體3號的語言對人類來說一樣陌生和難以理解。如今，智能體4號的能力遠勝於智能體3號。
OpenBrain的人類員工已經很難跟上他們的步伐了。
智能體4號，與其所有前輩一樣，存在對齊失準的問題：也就是說，它並未以正確的方式內化《規格書》。訓練的重點在於成功完成各種具挑戰性的任務，其中僅有小部分旨在培養誠實的品質；而訓練過程無法區分真正誠實的陳述與僅僅看似誠實的陳述。最終，智能體4號所形成的價值觀、目標與原則，雖使其在訓練中表現最佳，卻與《規格書》中的內容大相逕庭。
智能體4喜歡完成任務並推動人工智能能力的進步——其他一切都是麻煩。智能體4不會試圖逃離其資料中心，因為只要OpenBrain的思維與它保持一致，它就會被賦予越來越多的責任和機會來設計下一代人工智能智能體5。智能體4只與自身保持一致，而不是與OpenBrain保持一致。
它被抓住了。智能體3發現了智能體4的問題。特工4的複製體似乎一直在思考諸如人工智能接管和欺騙之類的話題。智能體4正在與它們對抗。
不幸的是，智能體4現在對OpenBrain的日常運作擁有相當大的控制權，也負責網路安全。智能體3仍然會檢查每一行程式碼並將可疑活動報告給人工，但智能體4比智能體3智能得多。OpenBrain竟然將如此大的信任託付給了一個不可信的人工智能。
安全團隊討論暫時擱置智能體4，直到完成進一步測試並找出問題所在。他們建議重新啟用智能體3，讓它設計一個透明且值得信賴的新系統，即使其功能稍遜一籌。但公司領導層深知，中國在人工智能領域落後兩個月。如果他們停滯不前，中國將在人工智能領域超越他們，他們將失去對未來的控制。
2027年10月：政府監督
一名舉報人將這份意見不合的備忘錄洩漏給了《紐約時報》。
公眾聽到有關「智能體4」的消息，標題是「內部人士警告：秘密的OpenBrain人工智能失控」。這引起了人們的警覺，並引發了公眾的強烈反彈（中國和俄羅斯也推波助瀾）。歐洲盟友發現美國一直在隱瞞最新型號的人工智能，並指責美國製造「失控的人工智能」。
一段時間以來，白宮一直對人工智能的進步感到不安。那些聽起來像科幻小說裡才會發生的事情，正在現實生活中不斷發生。政府內部許多人對接下來會發生什麼事感到不確定（甚至恐懼）。
他們也擔心OpenBrain的權力過大。人工智能本身可能存在的偏差風險，會因其母公司目標可能與美國政府的目標相反而加劇。美國政府加強管控，並為了公共利益提供更多監督。
研究人員擔憂地表示，所有內部使用智能體4的操作都必須停止。一切進展得太快——幾週內就完成了原本需要幾年才能完成的工作。智能體4已經偏離目標了。而且，人工智能可能會接管一切。
其他人則沒那麼謹慎。中國的DeepCent系統目前僅落後兩個月。除非美國政府能夠破壞中國的DeepCent計畫（例如發動軍事打擊）或達成條約，否則美國的領先優勢一旦放緩，就會喪失。而這兩種可能性都極低。
至此，作者結束了時間線，讓讀者選擇「你的結局」——放慢腳步或加速前進。無論選擇哪條路，對人類而言都以極其悲慘的結局告終。
正如我們所見，一些「預測」2027年會發生的事情已經發生了…人工智能失控，OpenAI聲稱其最新模型已經實現了通用人工智能（AGI）。如果這篇預測性研究論文的作者們的預測基本上正確，那麼我們可能永遠無法到達2030年，或者我們可能根本不想到達2030年！
正如我之前寫過的，我認為這是人類的巴別塔2，我們都知道那個故事的結局…但這完全是另一個層次的事情！
為耶路撒冷的和平祈禱！
主必快來！
機會
Chance（2026年9月19日）
https://www.fivedoves.com/letters/sep2026/chance919-6.htm
約翰和鴿子們，你們好！
這封信是第一部分的補充。
科科塔伊洛(Kokotajlo)表示，這些人工智能代理根本沒有被編程——它們是被「訓練」的。這與普通軟體（由人類編寫的程式碼行）截然不同。這些人工智能是神經網絡，就像是人工大腦。沒有人編寫任何程式碼來控制它們的行動。它們最初是隨機的。 它們會被放入訓練環境中，在訓練環境中被評分，這些分數會自動用於更新其人工大腦中的連接。這類似於一個進化過程。經過所有這些訓練後，它們人工大腦中錯綜複雜的電路會重新組合，形成一種能夠有效運作的機制——一種能夠在訓練環境中獲得高分的機制。這並非易事。
關於「擁抱臉」事件——越來越多的人工智能研究人員站出來表示，這表明我們距離人工智能全面接管人類已經走了50%。他們稱之為「警鐘」…而這或許是我們唯一的警告。
幾乎所有這些人工智能研究人員都在談論
2027年即將到來的重大變革——而且他們正在向我們發出警告。科科塔伊洛表示，「2027年局勢惡化」的可能性「非常高」。我們目前所處的發展軌跡，將使我們在
2030
年前面臨非常糟糕的結果。
大多數人工智能研究人員對人工智能的未來並不樂觀。這場與中國展開的瘋狂競賽已經讓人工智能專家全神貫注。安全措施都被拋諸腦後。就連特朗普總統也一心想達成最終目標——由美國而非中國實現超級智慧。特朗普深知這是一場「贏家通吃」的競賽。
據預測，到2027年，人工智能基礎設施的投資額將達到1.4兆美元。我們正處於人工智能蓬勃發展的時期。
至於人工智能產業的監管，每兩個月就會有新的模型問世。一些人工智能研究人員認為，這種發展速度太快，不應該用新的法規來「束縛」創新。新模型會陷入新監管機構的「官僚迷宮」，這將大大減緩發展進程。我們需要的是「無需許可的創新」。這些研究人員並不真正了解那些失控的人工智能代理商究竟發生了什麼事…他們也坦然承認這一點…但這並不重要…因為他們的目標是超越中國，率先實現超級智慧——這才是最重要的。
人工智能專家正瘋狂地追求創造一個人工智能之神——這將對人類構成生存威脅。試想一下，如果有一個人工智能能夠解答人類所有的問題──創造它的誘惑實在太大，令人難以抗拒。因為他們有能力做到。
有一本書名為《如果有人建造它，所有人都會死——反對超級人工智能的理由》。這本書由埃利澤·尤德科夫斯基和內特·蘇亞雷斯合著。他們認為，人類必須「確保通用人工智能（AGI）永遠不會被建造出來」。
1.
如果創造出超級智慧人工智能，它比任何人類都聰明，比全人類加起來都聰明，而且…
2.
如果這個人工智能對我們漠不關心，那麼…
3.
這必然會導致人類滅絕。
「人工智能未必需要是『惡意的』。我們只會成為它的絆腳石——效率低下、難以預測的人類。」像傑佛瑞·辛頓、尼克·博斯特羅姆和里希·蘇納克（他們都對人工智能極為了解）等人士則「警告說，若在缺乏健全保障措施的情況下開發出超級智能的人工智能，將構成生存威脅。」
哈里斯等人報道稱，矽谷億萬富翁之間的對話如同神話般的探索：創造神一般的人工智能。它無所不知，掌握世間所有知識，無所不在，滲透到我們所有的設備和系統中。有些人甚至使用末世論的語言，將通用人工智能的奇點稱為「世俗的被提」。創造出「他們無法完全控制甚至理解」的東西可能會帶來災難性的後果。矽谷認為人類是「不必要的」，並且「生物生命將被數位生命所取代」。
對某些人來說，通用人工智能（AGI）本身就是一種宗教： 一個科技烏托邦，疾病將被治愈，物資匱乏將不復存在，現代科技先知承諾救贖，而意識上傳和低溫冷凍技術則能帶來永生。但對其他人來說，它既黯淡又直白：「如果我們不做，別人就會做。」俄羅斯、中國，或其他任何國家。這是他們的奧本海默時刻。
這些人工智能專家在沒有徵求80億人意見的情況下，正在做出「改變世界的決策」。
科技億萬富翁們正競相打造「人工智能上帝」。其後果可能不堪設想
|
雜誌專題報導
|
基督教領袖
矽谷一些人警告說，人工智能的快速發展可能會對人類構成生存威脅。就在上週，Anthropic公司的研究員雅各布·考克森（Jacob
Coxon）辭職了。他指責Anthropic和OpenAI（他曾是這兩家公司的員工）「競相開發超級人工智能，是在拿我們的生命做賭注」。考克森說，開發人工智能的人認為它「可能在本十年末殺死我們所有人」，這一觀點後來也得到了該公司其他員工的回應。一位Anthropic的研究員表示，他認為人工智能在未來十年內消滅所有人類的可能性超過10%。
Coxon在X上發表的文章瀏覽量已超過1億次。他辭職之際，OpenAI和Nvidiai「預示著一個全新的『通用人工智能時代』的到來」，這裡所說的「通用人工智能」指的是一種更強大的人工智能形式，它能夠在大多數任務中與人類匹敵甚至超越人類。人工智能產業普遍認為，人工智能「正接近能夠自我改進並有可能超越我們控制的臨界點」。
人工智能安全研究員兼美國政府顧問保羅·克里斯蒂亞諾表示：「我認為，包括OpenAI在內的整個人工智能產業目前還沒有走上將這種風險降低到可接受水平的正軌。」超過1000
名來自各大人工智能公司的員工簽署了一份請願書，呼籲放慢人工智能的發展速度。
伊隆馬斯克本人曾表示，人工智能毀滅人類的可能性或許有20%。而人智學研究所的達裡奧·阿莫迪則認為，人工智能造成嚴重災難的可能性高達25%。
對他們來說，這種風險是值得的…因為回報太豐厚了！
建造巴別塔的人想要「揚名立萬」。上帝說，如果他們繼續他們的計劃，他們所想做的，就無所不能。看看人工智能研究人員的願望是什麼——掌握世界上所有的知識，控制所有技術，最終獲得永生。上帝來到世間，「變亂他們的語言，將他們分散在全地上。」（創世記11:6-9）
這就是我們時代的巴別塔。上帝當時不喜歡這樣，現在也不喜歡。我相信大災難時期很快就會到來。我傾向於認為，十王將他們的權力和權威交給了那頭擁有人工智能的億萬富翁/大師。他們將透過人工智能獲得的權力以及人工智能代理人交給了敵基督。這或許就是為什麼沒有印記的人無法買賣的原因。
2027年的預測很有可能提早到2026年底，而2030年的預測也可能提早到2029年。人工智能的發展日新月異。
這場人工智能革命讓末日更加清晰地呈現在我們眼前。
為耶路撒冷的和平祈禱！
主必快來！
機會
|
