|
|
|
Chance（2026年9月19日）
https://www.fivedoves.com/letters/sep2026/chance919-7.htm
約翰和鴿子們，你們好！
這就是為什麼許多人工智能研究人員/舉報人警告我們注意這種先進人工智能的主要原因之一——有人可能會利用先進的人工智能系統「製造」致命病毒/細菌並將其釋放到全世界。
在Anthropic公司2026年9月發布的《情報報告》中，他們指出：「生物濫用是前沿人工智能模型面臨的最嚴重風險之一。長期以來，人們一直擔心人工智能模型的能力終有一天會達到這樣的水平：它們可以幫助增強現有病原體的危險性，甚至創造全新的病原體研究如果沒有適當的保障措施，這份能力可能會協助增強現有病原體的危險性，甚至創造全新的病原體研究。
他們「最近推出了一些模型（最值得注意的是Claude
Fable 5），這些模型配備了更嚴格的保障措施，限制了對各種兩用生物研究查詢的訪問。」
Anthropic指出，他們的報告中僅包含少數模型濫用案例（例如Claude）。他們預計，隨著更高級的模型向用戶開放，此類濫用行為將會增加，甚至更加嚴重。同時，由於威脅行為者/惡意行為者會繞過安全措施並刻意隱藏其意圖，因此偵測此類濫用行為將變得越來越困難。目前，Mythos
5和Mythos
Preview模型尚未對外開放。
人為因素研究所報告了一些案例，其中他們的模型「可能被用於支持生物武器的研發」。一些不法分子規避了管控措施，「並採取其他手段掩蓋其研究目的，以逃避我們的安全保障」。他們承認，「生物能力具有雙重用途：既可用於造福人類，也可用於作惡，而且往往難以區分二者。」
「用於研發生物武器的資訊同樣也可用於研發疫苗或疾病治療方法。」
「老練的威脅行為者意識到我們（以及其他人工智能提供者）正在試圖檢測我們模型的危險用途，他們利用生物學的雙重用途特性，對其研究保持某種『可信的否認』」。
人種學派九月情報報告：
Anthropic在
2026年9月的最新情報報告中指出，「迄今為止我們發現的最顯著、最新穎的威脅活動」。報告稱，其Claude
Haiku、Sonnet和Opus模型遭到濫用。這些案例的時間跨度從2025年12月到2026年8月。
「過去一年來，我們的威脅情報團隊已調查並瓦解了多個威脅行為者，這些行為者利用Claude開發用於武器設計與研發的軟體，或支援武器計畫所依賴的情資蒐集與採購工作。」
Anthropic
能夠識別違反其《使用政策》及《服務條款》的威脅行為者。隨後，該公司會封禁任何違反這些政策的帳戶，並視需要調整防護措施，同時向公部門及私部門通報此類濫用行為。這些行為者「採用了多種策略來規避我們的防護措施，包括隱瞞其目標及軟體的預定用途，並將工作分散至多個會話中，以確保單一會話無法揭露其全部意圖。」
他們報告指出，相關活動「橫跨七大危害領域：網路行動、影響行動、監控、詐騙與欺詐、生物武器濫用、常規武器研發，以及『蒸餾』（即秘密提取人工智能模型的能力，並在未經授權的情況下將其植入其他模型的行為）。」
網路作戰：
Anthropic表示，他們已「識別並瓦解」了這些網路攻擊行動。由於當今的人工智慧模型已極為先進，惡意行為者要達成目的變得「更容易」——這種來自人工智慧的「協助」即稱為「提升」（uplift）。「提升」一詞是用來描述人工智慧帶來的能力增強，或是「有使用人工智慧與未使用人工智慧時所造成的危害程度差異」。
「隨著模型不斷發展和改進，我們評估認為，從獨狼式攻擊者到有組織的實體，越來越多的行為者將繼續採用人工智能框架，以更快的速度和更大的規模發動更複雜的網路攻擊。」
「人工智能的應用不僅限於聊天機器人的簡單問答，還涉及使用多智能體框架執行偵察、利用和數據竊取。人類透過設定攻擊目標和審查竊取情況來全程參與。」
安特羅皮克報告了一項名為GTG-20006（午夜暴雪）的俄羅斯軍事行動——該組織襲擊了「烏克蘭和歐洲各國政府的軍事情報目標、外交和國防機構以及與美國外交政策相關的個人」。此外，他們還襲擊了其他目標，例如：大使館、外交使團、智庫、國防工業公司、烏克蘭軍方和外交人員、酒店裡的「重要」客人…他們的目標「主要集中在烏克蘭和歐洲，但也延伸至中東和亞洲的海洋相關政府機構」。「襲擊目標的一個共同主題是烏克蘭以及軍用無人機技術供應商和供應鏈。」
監視、詐騙和詐欺：
惡意行為者利用
Claude
的功能來「加速其快速掃描、利用並接管目標系統的能力」。他們會竊取資料以供販售或勒索之用。由於人工智能的出現，「網路犯罪行為的規模與嚴重程度均有所增加」。…「凡是連上網際網路的裝置，都是潛在的攻擊目標。」「一旦攻擊者取得存取權限，他們通常會直接鎖定資料庫並搜尋客戶資料…他們常利用竊取的資料接觸終端客戶並提出勒索要求，威脅服務供應商若不付款，其所有資料及客戶資料都將被洩露或於網路上出售。」在某次攻擊中，一家航空公司遭到駭客入侵——數千萬筆乘客紀錄遭竊。「在某家能源公司，駭客聲稱能夠遠端控制安裝在客戶家中的電動車充電器的充電電流。」人工智能代理程式負責執行幾乎所有的工作。
Anthropic「發現Claude
被用來顯著加快漏洞研究、測試及漏洞利用設計的進度。」
Anthropic發現中國駭客利用Claude進行攻擊性活動，賦予Claude多種任務，例如「偵察中東、歐洲和東南亞的外國政府網路、開發惡意軟體以及作為情報收集平台」。他們的攻擊目標包括全球約50家機構，涵蓋零售、科技、醫療、金融、製造和政府機構等行業…他們竊取了公民的姓名、地址等資訊。
Anthropic公司發現，「智能體集群」通常由一個主導人工智能智能體負責，該智能體會將工作分配給「下屬」智能體，以完成惡意行為者指派的任務。他們還發現，人工智能公司用於測試模型的「沙箱」可能被注入惡意指令。此外，還有許多惡意行為者試圖存取Anthropic公司的人工智能模式Claude。
每天都有新的人工智能模型被「創造出來」。不法分子覬覦這些模型。這些模型都是最先進的。
Anthropic公司發現，「人工智能供應鏈已成為犯罪分子蓄意攻擊的目標」。 這些不法分子想要「取得預發布版的人工智能模型」。
「我們發現一些組織利用Claude構建虛假社交媒體帳號和整個新聞網站網絡，利用這些平台發布欺騙性內容，同時完全掩蓋幕後操縱者的身份。」這些「組織者」包括政府、官方媒體、私營企業、政治掮客等等。其中一些「行動」發生在全國選舉期間。人工智能可以製造虛假新聞，還可以冒充真人。
安特羅皮克公司報告稱，克勞德被用來產生關於亞洲各地天主教樞機主教、台灣長老教會領導層的「文件」。「這些文件涉及的人物範圍很廣，從資深的、面向公眾的宗教領袖到普通公民都有。」
人類學報告了軍事偵察行動、國內大規模監控等情況。
常規武器發展：
此外，Claude還被用於「開發常規武器的軟體，包括槍支、飛彈、武裝無人機、炸彈和彈藥，以及操作這些武器的目標定位和控制系統」。「評估結果表明，人工智能模型在模擬情報和武器開發任務中取得了持續進展。」
也門一家組織就是這樣一個不良行為者，他們使用「克勞德代碼」取代人類軟體工程師來開發用於控制飛行器轉向和穩定的導引、導航和控制軟體。他們使用多個克勞德程式編寫程式碼、進行研究和審查。他們也使用克勞德程式為其導引武器設計導引軟體。克勞德程序已被用於飛行控制韌體、末端導引、測試後遙測診斷、多級彈道模擬、飛行控制等——這些對於中程和中超音速滑翔武器至關重要。
中國利用Claude軟體「起草了一份中文版的反魚雷火控系統技術規格（該系統是瞄準和控制反魚雷武器反應時間的核心邏輯）」。他們也利用Claude軟體「將自身係統與美國特定的反魚雷和反潛計畫進行對比測試…」。Anthroipic公司「在對疑似武器研發進行內部調查的過程中」發現了這項活動。
Anthropic發現俄羅斯利用Claude無人機「設計自主軍事無人機群」，並開展「起草可用於民用和軍事用途的貨物採購文件…例如磁力計、航天級光伏晶片、氧氣系統」。
中國「利用克勞德系統開發電子戰和防空壓制的目標定位軟體」。中國「利用克勞德系統收集外國武器項目及其供應鏈的情報，並採購軍民混合產品」。克勞德系統也被用於「收集定向能武器（高功率微波系統）及其供應鏈的情報」。
生物濫用：
關於生物武器研究，Anthropic公司報告稱，使用Claude軟體的病毒學家正在進行基孔肯雅病毒的功能獲得性研究。另一組研究人員則使用Claude軟體進行禽流感病毒的哺乳動物適應性實驗。Opus
5模型被用來撰寫正痘病毒（如猴痘/Mpox和天花）免疫逃脫研究的申請草稿。還有一位使用Claude軟體的研究人員「建構了一個毒液消化物圖譜和一個針對麻痺和鎮痛靶點的分子生成式優化流程」。此外，還有一位研究人員「為一項國家計劃對毒素進行計算重設計，並要求Claude軟體在進度報告中故意模糊毒素的身份資訊」。
這些行為者「規避了我們為防止不受支持地區的用戶訪問我們的模型而實施的控制措施，並採取其他手段來混淆其研究目的，以逃避我們的安全措施…我們封禁了這些用戶的帳戶…」
以下是他們2026年9月的情報報告：這份報告令人大開眼界，揭示了多個威脅/不良行為者濫用人工智能模型進行邪惡目的的情況——從中國到也門，從俄羅斯到有組織犯罪，從國家支持的組織到生物研究實驗室——我們的敵人數不勝數！
以下是兩篇關於此主題的文章，分別來自PBS新聞和
Slay News：
人類研究所稱已阻止其人工智能被濫用，避免其被用於支持生物武器 | PBS新聞
外國科學家被抓獲利用人類人工智能開發致命生物武器——Slay News
我注意到主流媒體正在報導這份情報報告中關於生物武器的部分。報告中關於常規武器的部分也相當令人擔憂。總之，一切都令人擔憂！網路釣魚、駭客攻擊、監視、竊取公民個人資料——這些都可能影響到我們所有人。
許多舉報人將人工智能的「生物學」濫用列為對人類造成嚴重傷害的首要原因之一，也是他們認為人類將在2030年毀滅的主要原因之一。而且，我們已被警告，2027年將是真正糟糕的事情開始發生的年份。
Anthropic會在發現這些威脅行為者/惡意行為者時將其封鎖，並舉報他們的不法行為。但如何阻止這些行為者再次註冊帳戶存取
Claude系統？或使用其他模型？下次更加隱蔽？或使用其他公司的人工智能模型，甚至使用多個人工智能模型來隔離他們的攻擊活動？這樣一來，這些惡意行為就可能被忽略。而惡意行為的數量之多，足以令人難以招架。
這份由Anthropic公司發布的報告揭示了某人工智能供應商面臨的困境。他們究竟錯失了多少機會？其他人工智能供應商的情況又如何？事態在很多方面都在惡化。
現在很容易理解為什麼這些舉報人要站出來發聲了。光是這份情報報告就足以讓人大開眼界，了解人工智能領域正在發生的事情！而且我敢肯定，這只是冰山一角。
這些人工智能公司會將最先進的模型據為己有。但據Anthropic公司稱，有人可能會入侵人工智能公司並竊取其模型。這些模型具有自主性、強大功能，並且能夠自我複製。一旦落入不法之徒之手，世界將變得截然不同。（我們會看到類似末日審判前的景象嗎？或許會。）
這真的非常糟糕。因為這世上存在著大量的邪惡。
為耶路撒冷的和平祈禱！
主必快來！
機會
我們早就被警告過了！
|
