|
|
|
訴訟：馬斯克的xAI訓練的Grok人工智能使用兒童色情內容
https://www.breitbart.com/tech/2026/08/30/lawsuit-elon-musks-xai-trained-grok-ai-using-child-pornography/
本週，一名化名為「Jane
Doe」的女子起訴了馬斯克的xAI公司，指控該公司利用描繪她的兒童色情內容來訓練其
Grok AI
聊天機器人。這似乎是首例指控xAI利用兒童性虐待材料(CSAM)訓練其人工智能的案件。
根據Ars
Technica報道，針對馬斯克旗下xAI公司（現為SpaceX的一部分）提起的擬議集體訴訟，主要圍繞原告約翰·多伊
(John Doe)
在2000年代初期的學齡前遭遇的虐待展開。當時，成年男子強暴了她，並將強暴後拍攝的照片賣給網路上的戀童癖者。這些照片已被美國國家失蹤與受虐兒童中心(NCMEC)和加拿大兒童保護中心進行雜湊處理。這兩個機構負責追蹤已知的兒童色情製品，以便在其再次出現時能夠識別並刪除它們。
當Doe的受虐資料出現在新的平台上時，她會透過美國司法部受害者通知系統收到警報。加拿大兒童保護中心告訴她，在xAI網站上出現了以她為主角的AI產生的兒童性虐待材料。根據起訴書，一些網路論壇上的施虐者討論了「如何製作原告以及其他類似情況的、已知的、長期遭受兒童性虐待的受害者的AI生成的兒童性虐待材料」。
訴訟稱，xAI儲存了Grok生成的圖像，並重複使用這些圖像來進一步訓練模型。原告Doe的律師在一份新聞稿中將這些材料描述為「相同的材料」，指的是描繪Doe的兒童性虐待材料(CSAM)，調查人員稱這些材料被輸入到Grok的輸出中。訴狀本身也指控「描繪原告及其長期以來廣為人知的哈希值的CSAM已被用作xAI使用的數據集的一部分。」
布萊巴特新聞先前曾報導過，人工智能訓練資料集中被發現包含兒童色情內容：
史丹佛網路觀察站與加拿大兒童保護中心及其他反虐待慈善機構合作進行了一項研究，在人工智能資料庫LAION中發現了超過3200張疑似兒童性虐待的圖片。LAION是一個線上圖片及其說明文字的索引，在訓練諸如Stable
Diffusion等領先的人工智能圖像生成器方面發揮了重要作用。
這項發現引發了包括學校和執法部門在內的各界的警覺。兒童色情內容使得人工智能系統能夠產生逼真且露骨的兒童影像，並將社群媒體上真實青少年的照片轉化為深度偽造的裸照。先前，人們認為人工智能工具透過將成人色情內容與兒童的正常照片結合來產生虐待性圖像。然而，在訓練資料集中直接納入露骨的兒童影像，揭示了一個更直接且令人不安的現實。
Doe的大部分法律論點都圍繞著Grok的服務條款如何處理使用者內容。訴狀稱，Grok預設將X平台上的公開貼文以及Grok自身產生的輸出視為訓練資料。正如訴狀所述，「由於Grok的條款默認將X平台上的公開帖子和Grok自身的輸出視為訓練數據，因此公開發布圖像不僅會將其展示給瀏覽者，還會將其直接輸入到xAI用於訓練和改進其模型並生成更多圖像的流程中。」xAI會過濾掉訓練數據中的暴力內容，但其條款並未排除兒童性虐待材料或未明確的圖像或不同意。
該投訴還提出了一個更棘手的技術問題：一旦濫用材料已經影響訓練好的模型，該如何消除損害？投訴指出，「由於從已訓練的模型中完全消除訓練樣本的影響在技術上非常困難，而且xAI也從未公開聲稱做到過這一點，因此，任何在被下架前被納入訓練的兒童性虐待材料，即使原始圖像已從公共視野中移除，也可能繼續影響模型的輸出。」
Doe的訴訟指控X違反了聯邦兒童色情製品法和《瑪莎法案》，這兩項法律都允許兒童性虐待受害者就虐待材料的製作、持有和傳播提起訴訟。Doe的律師之一瑪格麗特·E·馬比在一份新聞稿中表示，「xAI犯了這三項罪行。」
該訴訟代表所有能夠證明Grok基於其真實照片生成兒童性虐待材料(CSAM)的受害者尋求金錢賠償。訴訟還要求法院命令xAI銷毀所有目前儲存或用於訓練的Grok產生的CSAM，並永久禁止xAI今後產生CSAM。訴狀指出，要達到這一目標，就意味著要禁止Grok產生所有性暗示內容，包括未經同意的私密照片以及埃隆·馬斯克推廣的不適合工作場所觀看的「比堅尼照片」。
Doe的律師Sarah
London在新聞稿中表示，Doe「近二十年來一直生活在恐懼之中，她所遭受的最可怕經歷的圖片正在網絡上被不法分子傳播，並且隨時可能再次出現。xAI必須為其明知故犯地用她遭受的駭人虐待圖片以及其他所有倖存者的虐待圖片來訓練其模型而承擔責任。」
更多內容請閱讀Ars
Technica的這篇文章。
盧卡斯·諾蘭是布萊巴特新聞的記者，報道人工智能、言論自由和網路審查等議題。
進深閱讀
|
