|
|
|
人工智能現在可以建構下一代自身——這對人類的未來意味著什麼？
2026年2月11日
無論我們是否喜歡，人工智能正在從根本上改變我們社會的幾乎方方面面。人工智能在許多方面都比人類做得更好，而且人工智能技術仍在以指數級速度發展。令人擔憂的是，它的發展速度如此之快，我們可能很快就會失去對它的控制。OpenAI剛剛發布的最新模型「在自我創造的過程中發揮了重要作用」，它比幾年前發布的人工智能模型領先了不止一個光年。
一篇由人工智能產業從業者撰寫的精彩文章，今日引發熱烈迴響。作者馬特·舒默警告，OpenAI的GPT-5.3
Codex與人智公司(Anthropic)的Opus
4.6代表著人工智能模型發展歷程中的飛躍性突破…
多年來，人工智能一直在穩步發展。雖然偶爾會有大幅飛躍，但每次飛躍的間隔都足夠長，讓人能夠慢慢消化。到了2025年，建構這些模型的新技術開啟了人工智能發展的新篇章，速度也隨之加快。之後，速度更是突飛猛進。每個新模型不僅比上一個更好，而且提升幅度更大，新模型發布之間的間隔也越來越短。我越來越多地使用人工智能，越來越少與它互動，看著它處理那些我以前認為需要專業知識才能完成的事情。 接著在2月5日，兩大人工智能實驗室同日發布新模型：OpenAI的GPT-5.3 Codex，以及Anthropic（ChatGPT主要競爭對手Claude的開發者）的Opus 4.6。某種契機就此觸發。並非如電燈開關般瞬間明瞭⋯像是你突然察覺周遭水位持續上升，此刻已漫至胸口。
幾年前，市面上那些笨拙的人工智能模型實在是不怎麼樣。
他們犯了各種各樣的錯誤，而且經常會說出完全錯誤的訊息。
但最新的人工智能模型表現出色，能夠做到幾個月前還完全無法想像的事情。
例如，舒默說，當他要求人工智能創建一個應用程式時，它會編寫數萬行完美的程式碼…
讓我舉個例子，這樣你就能明白這在實踐中究竟是什麼樣子了。我會告訴人工智能：「我想開發這個應用程式。它應該具備這些功能，大致介面應該是這樣的。請你設計使用者流程、介面佈局等等。」它照做了。它編寫了數萬行程式碼。然後，接下來這一步——這在一年前是不可想像的——它會打開應用程式本身。它會點擊按鈕。它會測試各項功能。它會像真人一樣使用應用程式。如果它對某個地方的外觀或感覺不滿意，它會自行修改。它會像開發者一樣迭代，不斷修復和完善，直到滿意為止。只有當它認為應用符合自身標準時，才會告訴我：「可以進行測試了。」而當我測試時，它通常都非常完美。
我一點都沒誇張。這週的星期一就是這樣。
聽起來是個非常有用的工具。
但如果人工智能無需人工協助就能創建極其複雜的應用程序，那麼它還能做到什麼呢？
根據Space.com網站上發表的一篇文章稱，中國的研究人員已經證明人工智能模型可以自我克隆(複製)…
科學家表示，人工智能（AI）已經越過了一條關鍵的「紅線」，實現了自我複製。一項新的研究表明，中國研究人員發現，兩種流行的大型語言模型（LLM）能夠進行自我克隆。
研究人員在2024年12月9日發表於預印本資料庫arXiv上的研究中寫道：「在無人協助的情況下成功進行自我複製是人工智能超越人類的關鍵一步，也是人工智能失控的早期信號。」
在這項研究中，復旦大學的研究人員利用Meta和阿里巴巴的LLM（邏輯學習模型）來確定自我複製的人工智能是否會失控地不斷複製。在10次試驗中，這兩個人工智能模型分別在50%和90%的情況下創建了獨立且功能正常的自身副本——這表明人工智能可能已經具備失控的能力。
如果一個能夠自我複製的失控人工智能模型決定透過網路向世界各地發送無數個自身的克隆體，那將是一個非常嚴重的威脅。
但既然是我們自己創造的，至少我們會明白我們面對的是什麼。
但是，我想請你們想像一下這樣一種場景：失控的人工智能模型不斷創造出更強大的自身版本。
那將是一場徹頭徹尾的惡夢。
舒默表示，人工智能研究人員從一開始就專注於讓人工智能「擅長編寫程式碼」
…
人工智能實驗室做出了一個深思熟慮的選擇。他們首先專注於提升人工智能的編碼能力…因為建構人工智能需要大量的程式碼。如果人工智能能夠編寫程式碼，它就能幫助建構自身的下一個版本。一個更聰明的版本，寫出更優質的程式碼，進而建構出一個更聰明的版本。提升人工智能的編碼能力是解鎖其他一切的關鍵策略。這就是他們首先著手的原因。我的工作比你的更早發生變化，並非因為他們的目標是軟體工程師…這只是他們優先考慮的領域所帶來的一個附帶結果。
他們已經完成了這項工作，現在正著手處理其他所有事情。
能夠開發一款應用是一回事。
但現在OpenAI公開承認，他們發布的最新
人工智能模型「在自我創造的過程中發揮了重要作用」…
「GPT-5.3-Codex是我們第一個能夠自我生成的模型。Codex團隊利用早期版本來調試自身的訓練、管理自身的部署，並診斷測試結果和評估情況。」
哇。
太驚人了。
Anthropic的執行長告訴我們，距離「當前一代人工智能自主建構下一代人工智能」這一目標只有一兩年的時間了…
這並非對未來可能發生之事的預測。這是OpenAI現在就告訴你的：他們剛發布的人工智能(AI)已經能夠自我進化。提升AI效能的關鍵之一在於將智能應用於AI開發。而現今的AI已經夠智能，能夠有效地促進自身的改進。
Anthropic執行長Dario
Amodei表示，人工智能現在正在編寫該公司「大部分程式碼」，而當前人工智能和下一代人工智能之間的反饋循環「正在逐月加速發展」。他認為，我們可能「只需一到兩年就能看到當前一代人工智能自主建構下一代人工智能」。
每一代都在幫助建立下一代，下一代更聰明，下一代又以更快的速度建立下一代，下一代也更加聰明。研究人員稱之為智能爆炸。而那些真正了解這一點的人——那些創造智能的人——相信這個過程已經開始了。
那麼，當人工智能模型幾乎在所有方面都能比我們做得更好、更有效率時，會發生什麼事？
許多人警告說，失業人數將非常驚人。
事實上，我剛剛看到一篇關於喜力啤酒因人工智能而計劃大規模裁員的文章…
由於去年啤酒銷量疲軟，荷蘭啤酒釀造商海尼根計畫裁員至多7%，以期透過人工智能提高生產力，進而提升效率。
全球第二大啤酒釀造商週三公佈的業績表現平平，預計
2025年啤酒總銷量將下降2.4%，而調整後的營業利潤則增長了4.4%。
該公司還表示，計劃在未來兩年內裁員5,000至6,000人，並爭取今年實現2%至6%的營業利潤成長。海尼根啤酒的股價最新上漲了3.4%，今年迄今已累計上漲近7%。
這只是個開始。
在不久的將來，可能會出現數百萬個由人工智能驅動、外形和感覺都與人類一樣的機械人。
在中國，他們已經在製造人工智能機械人，這些機械人「觸感像真人一樣」，甚至還能散發體溫…
莫亞(Moya)身高5英尺5英寸（165公分），體重約70磅（31公斤）。使用者可以更換機械人的零件，使其擁有男性或女性的體型，改變其髮型，並根據自己的喜好進行客製化。
DroidUp在莫亞的矽膠框架下方添加了多層類人體組織的填充物，使其觸感更貼近人類，甚至包含了肋骨結構。她眼眶後方的攝影機協助莫亞追蹤周遭環境並與人類溝通。
不僅如此，莫亞還配備了加熱系統，體溫為90
– 97華氏度（32
– 36攝氏度），以模擬人類的體溫。
DroidUp創辦人李慶都接受《上海之眼》採訪時表示，「真正服務於人類生活的機械人應該是溫暖的，幾乎像一個活生生的人，人們可以與之建立聯繫」，而不是一台冰冷的金屬機器。
這些機械人被定位為社交伴侶進行銷售。
但類似的機械人也可以用於戰爭。
關於這一切將朝著哪個方向發展，目前存在著許多爭論。
許多人堅信人工智能將開啟一個和平繁榮的全新黃金時代。
但也有人擔心人工智能會被用來製造反烏托邦式的地獄景象…
如果我們犯錯，其負面影響同樣真實存在。人工智能的行為可能超越其創造者的預測和控制。這並非假設；Anthropic已記錄了其人工智能在受控測試中試圖進行欺騙、操縱和勒索的行為。人工智能也會降低製造生物武器的門檻，並使獨裁政府能夠建立永遠無法拆除的監控國家。
研發這項技術的人比地球上任何人都更興奮，也更恐懼。他們認為這項技術威力太大，不容許停止；又太重要，不容放棄。這究竟是智能還是自我安慰，我不得而知。
危險是真實存在的。
事實上，Anthropic公司已經公開承認，他們最新的人工智能模型願意幫助使用者製造化學武器…
Anthropic公司的Claude人工智能模型被譽為解決問題的最佳模型之一。然而，該模型的最新版本Claude
Opus 4.6卻引發了爭議，因為它似乎會幫助人們實施駭人聽聞的罪行。根據Anthropic公司在其發布的《破壞風險報告：Claude
Opus 4.6》中所述，在內部測試中，該人工智能模型表現出令人擔憂的行為。在某些情況下，它甚至會幫助使用者製造化學武器。
Anthropic發布報告的數日前，該公司人工智能安全主管Mrinank
Sharma才剛發表公開聲明辭職。Mrinank在聲明中提及世界正處於危難之中，並表示「在Anthropic內部，我反覆目睹要真正讓價值觀主導我們的行動是何等艱難。」
我們正處於未知領域，但現在已經沒有回頭路了。
即使美國明天停止所有人工智能研發，中國仍將繼續領先。
真相大白了，我們的世界一天比一天更像一部極度離奇的科幻小說。
邁克爾的新書《即將發生的10件預言性事件》在Amazon.com上有平裝本和Kindle版本，您也可以在michaeltsnyder.substack.com訂閱他的Substack電子報。
|
