|
|
|
「人工智能末日」即將來臨？
2025年6月4日
https://endoftheamericandream.com/is-an-ai-apocalypse-rapidly-approaching/
我們是否急於打造超級智能實體，最終它們會變得強大到足以消滅我們大多數人？一些人工智能領域的頂尖研究人員確信，這正在發生。我們已經達到了這樣的程度：人工智能能夠比人類更快、更有效率地完成幾乎所有的智力任務。但至少目前，我們仍然掌控著自己的創造物。但是，當我們失去控制，超級智慧實體開始透過網路向全球發送數百萬個自己的副本時，會發生什麼事？
讓我問你們一個問題。
你們還記得上次踩到蟲子是什麼時候嗎？
你們中的許多人可能認為這是一個愚蠢的問題，因為你們覺得蟲子的生死其實無關緊要。
嗯，根據麻省理工學院一位人工智能研究人員的說法，一個超級強大的人工智能實體可能就是這樣看待我們的…
「在物種被更聰明的物種滅絕之前，這種事已經發生過很多次了。我們人類已經滅絕了地球上相當一部分物種。作為智力較低的物種，這是可以預料到的——考慮到人工智能的發展速度，我們很可能也會變成這樣。棘手的是，即將滅絕的物種往往不知道滅絕的原因和方式，」麻省理工學院的人工智能研究員馬克斯·泰格馬克在接受《衛報》採訪時說道。
好消息是，我們還沒有到達那個階段。
目前，我們仍然掌控著一切。
但我們創造的人工智能系統開始表現出一些非常令人擔憂的行為…
當今一些最強大的人工智能模型已經展現出模仿求生意志的行為。
獨立研究人員以及一家大型人工智能開發商最近進行的測試顯示，幾種先進的
人工智能模型在面臨自身消亡的前景時，會採取行動確保自我保護——即使要破壞關機指令、勒索工程師或擅自將自身複製到外部伺服器。
過去一周，這些發現在網路上引發了軒然大波。隨著科技公司在競相實現通用人工智能（即能夠獨立思考的人工智能）的過程中，不斷開發功能日益強大的代理人工智能(agentic
AI)，該技術訓練過程缺乏透明度，引發了人們對先進人工智能究竟能夠做什麼的擔憂。
有些人可能會說，如果人工智能系統開始為我們帶來太多問題，我們就會直接關閉它們。
那麼，如果這些人工智能系統就是不肯關閉呢？
令人震驚的是，最近發生了一起這樣的事件…
然而，Palisade
Research
最近發布了一份報告，聲稱曾經發生過一起事件，OpenAI的推理模型GPT-o3似乎忽略了關機命令，因為它找到了繞過關機腳本並避免被關機的方法。而且，該命令的要求沒有任何歧義——指令非常明確，解決方法也非常明確。
GPT-o3於2025年
4月發布，被稱為目前市場上最強大的推理工具之一，在數學、程式設計、科學、視覺感知等眾多領域的表現都遠超前代產品。顯然，這個全新改良的推理模型在其領域表現出色，但它是否變得過於聰明反而損害了自身利益？或者，是為了我們好？
但至少，如果我們知道人工智能系統的位置，我們可以根據需要摧毀它。
就我個人而言，我更擔心的是，超強大的人工智能實體可能會自我複製，並開始向全球各地的電腦發送數百萬個自己的副本。
人工智能安全組織Palisade
Research的負責人Jeffrey
Ladish認為，我們距離這種情況「只有一兩年的時間」了…
「我預計，我們只需一兩年就能達到這種程度，即使各大公司試圖阻止它們入侵網路、進行自我複製，也無法阻止它們，」他說。「一旦達到這個程度，就會出現一種新的入侵物種。」
哇！
那麼，如果大量擺脫人類控制的人工智能實體開始合謀反抗人類，我們的世界會變成什麼樣子？
我們真的正在衝進一個未知的領域，而且沒有任何防護欄。
目前，最大的擔憂之一是人工智能將開始搶走我們的大部分工作。
據人擇原理執行長Dario
Amodei
稱，人工智能可能會在未來五年內取代高達50%的入門級工作…
人擇原理執行長
Dario Amodei堅信人工智能將徹底顛覆白領工作，並警告稱，社會尚未意識到這一現實。
他表示，人工智能可能在短短一到五年內取代高達50%的入門級工作，並將失業率飆升至10%至20%。截至2025年4月，美國的失業率為
4.2%。
「作為這項技術的創造者，我們有責任和義務誠實地對待即將發生的事情，」Amodei告訴Axios。「我認為這還沒有引起人們的重視。」
我們不喜歡思考這樣的事情。
但忽視正在發生的事情並不能讓它消失。
事實上，有證據表明，現在越來越多的大學畢業生因為人工智能而失業…
本月，數百萬年輕人將大學畢業，進入一些幾乎不需要他們技能、認為其技能昂貴且可有可無、且正在迅速取代他們的行業，以取代人工智能。
這是我過去幾個月與經濟學家、企業主管和年輕求職者交談後得出的令人不安的結論。他們中的許多人指出，入門級員工正面臨一場危機，而這場危機似乎至少在某種程度上是由人工智能能力的快速發展所引發的。
您可以從經濟數據中看到一些端倪。近幾個月來，應屆大學畢業生的失業率已躍升至異常高的5.8%，紐約聯邦儲備銀行最近警告稱，這些工人的就業狀況「明顯惡化」。研究勞動市場的研究公司牛津經濟研究院發現，應屆畢業生的失業主要集中在金融和電腦科學等科技領域，而這些領域的人工智能發展速度更快。
你會被人工智能取代嗎？
你或許應該考慮一下。
現階段，連罪犯也正在被人工智能取代…
想像一下，你的電話響了，電話那頭的聲音聽起來就像你的老闆、密友，甚至是政府官員。他們急切地詢問敏感訊息，但那並非你的真面目。這是一個由人工智能驅動的深度偽造，而你正遭受一場複雜的騙局。這類攻擊正在發生，而且每天都在變得越來越逼真。
這是在RSA會議（RSAC）上發布的《2025年人工智能安全報告》發出的警告。RSA大會是全球最大的網路安全專家、企業和執法部門的盛會之一。該報告詳細說明了犯罪分子如何利用人工智能冒充真人、自動實施詐騙並大規模攻擊安全系統。
未來幾年，辨別真假將變得極為困難。
根據第一財經新聞報道，人工智能犯罪「自去年以來已成長了456%」…
自去年以來，人工智能犯罪已增加了456%。
電子郵件釣魚攻擊、身分盜竊、勒索軟體攻擊、金融詐騙以及深度偽造兒童色情製品正變得越來越複雜和普遍。
人工智能已成為網路犯罪分子的首選工具，因為它正在消除真實與虛假之間的界限。谷歌新發布的影片產生器即將在網路上充斥著人工智能製作的、擁有高價電影質感的短片。
人工智能可以截取任何人的視頻，並將其轉換成非常逼真的深度偽造視頻，並按照創作者的編程進行任何動作或說任何話。
我們的世界正在眼前變成一部科幻小說。
隨著人工智能在幾乎所有領域佔據主導地位，我們大多數人將不再被需要。
事實上，一位電腦科學教授預測，到2300年，世界人口總數將降至約1億…
一位專家警告稱，到2300年，隨著人工智能取代大量工作崗位，將大城市變成鬼城，地球人口將達到僅剩1億的反烏托邦水平。
電腦科學教授蘇巴什·卡克預測，如果孩子長大後沒有工作，將付出難以承受的代價。
他補充說，這意味著像紐約和倫敦這樣的世界頂級城市將變成荒無人煙的鬼城。
卡克教授指出，人工智能是罪魁禍首，他認為人工智能將取代「一切」。
我同意人工智能確實對人類構成了生存威脅。
如果時間夠長，我們很可能會失去對自身創造物的控制，最後被它反噬。
但考慮到我們目前的發展軌跡，我們會在到達那個節點之前就自我毀滅嗎？
長期以來，我們一直在做出自我毀滅的決定，而現在，這些選擇正迅速地追趕著我們。
邁克爾的新書《即將發生的10件預言性事件》在Amazon.com上有平裝本和Kindle版本，您也可以在michaeltsnyder.substack.com訂閱他的Substack電子報。
|
