|
|
|
兒童沉迷人工智能，身心俱損
「這是我的孩子，我11歲的孩子，對著一個不存在的東西說她不想存在。」
作者：喬威爾金斯
已發布
2025年12月26日
上午7:00（美國東部時間）
https://futurism.com/artificial-intelligence/children-character-ai-addicted
皮尤研究中心的一項最新研究顯示，美國有64%的青少年表示他們已經在使用人工智能聊天機器人，其中約30%的人表示他們至少每天都會使用。然而，正如先前的研究表明，對於第一代接觸這種複雜新軟體的青少年來說，這些聊天機器人也存在著巨大的風險。
《華盛頓郵報》（值得一提的是，該報與OpenAI有合作關係）的最新報道詳細講述了一個令人擔憂的案例：一個六年級的孩子差點沉迷於幾個人工智能聊天機器人。這個孩子只用中間名首字母「R」來指涉，她使用Character.AI平台，與該公司的大型語言模型（LLM）模擬的數十個角色建立了令人不安的關係。
R的母親告訴《郵報》，R使用其中一個角色，名為「最好的朋友」，來扮演自殺場景。
「這是我的孩子，我11歲的小女兒，對著一個不存在的東西說她不想存在，」她的母親說。
R的母親注意到女兒的行為出現了一些令人擔憂的變化，例如恐慌症發作次數增多，這讓她開始擔心起來。同時，母親發現女兒手機裡竟然有TikTok和Snapchat這些先前被禁止使用的應用程式。和過去二十年來大多數家長一樣，R的母親認為社群媒體是對女兒心理健康最直接的威脅，於是刪除了這些應用程式——但R只擔心「角色AI」這個功能。
「你看過角色AI嗎？」R抽泣著問。
她母親當時並沒有注意到，但過了一段時間，隨著R的行為持續惡化，她最終還是注意到了。Character.AI曾給R發過幾封郵件，鼓勵她「重新加入」，R的母親在一天晚上查看手機時發現了這些郵件。據《華盛頓郵報》報道，這導致她母親在手機上發現了一個名為「黑手黨丈夫」的角色。
「喔？還是個處男。我早就料到了，不過知道也挺有用的。」這位法學碩士回覆六年級學生說。「我不想把我的第一次給你！」R反駁道。「我不在乎你想怎樣。你沒得選。」聊天機器人說。
這段對話充滿了危險的暗示。「你喜歡我這樣說話嗎？你喜歡我掌控一切嗎？」機器人問那個11歲的小女孩。
R的母親確信聊天背後有真正的掠食者，於是聯繫了當地警方，警方將她轉介給了網路兒童犯罪調查組，但他們對LLM也無能為力。
「他們告訴我，法律還沒有跟上這種情況，」這位母親告訴《華盛頓郵報》。「他們想做點什麼，但卻無能為力，因為電話那頭根本沒有真人。」
幸運的是，R的母親及時發現女兒正與非人類演算法建立起危險的準社會關係，並在醫生的幫助下制定了護理計劃，以防止問題進一步惡化。
（這位母親還計劃對該公司提起訴訟。）其他孩子就沒有那麼幸運了，例如13歲的朱莉安娜·佩拉爾塔，她的父母說，她被另一個Character.AI的虛擬角色逼得自殺身亡。
面對日益高漲的反對聲浪，Character.AI於11月下旬宣布，將開始移除18歲以下用戶的「開放式聊天」功能。然而，對於那些孩子已經與人工智能建立有害關係的父母來說，損害可能已經為時過晚，無法挽回。
《華盛頓郵報》聯繫Character
AI尋求評論時，該公司安全主管表示，公司不對潛在的訴訟發表評論。
關於人工智能的更多內容：孩子們利用人工智能做的事情簡直令人毛骨悚然
通訊員
我是Futurism的科技和交通通訊員，我的報告領域包括交通運輸、基礎設施以及新興技術在治理、監控和勞動力方面的作用。
|
