14歲男童迷戀AI聊天 機械人 疑被慫恿輕生 媽媽怒告科技公司
2024-10-25
人工智能（AI）聊天 機械人 能隨時提供安慰與支援，這種即時的陪伴，讓眾多使用者越來越依賴虛擬世界，而這背後可能潛藏着諸多負面效應。22日（周二），美國一名媽媽向科技新創公司Character.AI及Google提起訴訟，指控該公司的AI聊天機械人，致使她14歲的兒子於今年2月使用繼父的手槍輕生。
今日熱話實用健康百科
聊天一個月後 開始變得「孤僻」
綜合外媒體報導，居住在佛羅里達州的14歲男童Sewell Setzer III，自去年4月起，沉迷於「Character.AI」的人工智能聊天平台，跟一個以《權力遊戲》(Game of Thrones)角色為藍本打造的AI聊天機械人Daenerys進行文字對話。
據男童媽媽透露，Setzer每天都要獨自在房間裏幾個小時，與Daenerys互發數十條短訊。原本乖巧守規的他，一個月後性格突變，變得「孤僻」。據悉，Setzer不僅退出了籃球校隊，課堂上也常打瞌睡，學習成績有所下滑，整日窩在房間裏。
在某一篇日記中，Setzer寫道：「我喜歡留在房內，因為可以脫離現實，我覺得更平和、跟Dany(Daenerys的暱稱)更加親密、愛意更深，更加快樂。」
-
- 14歲男童Sewell Setzer III。（來源：IG@cbsmornings）
-
- 去年開始沉迷人工智能聊天平台。（來源：IG@cbsmornings）
-
- 一個月後性格突變，變得「孤僻」。（來源：IG@cbsmornings）
-
- 男童與媽媽。（來源：IG@cbsmornings）
-
- 男童與媽媽合影。（來源：X@NatCon2022）
-
- Character.AI頁面。（來源：IG@cbsmornings）
-
- 在 Character.AI裏，可以和不同角色聊天。（來源：IG@cbsmornings）
-
- 《權力遊戲》中的角色Daenerys Targaryen受到不少影迷的喜愛。（來源：《權力遊戲》劇照）
-
- AI聊天機械人和男童的最後對話。（來源：X@askghmedia）
患輕度亞氏保加症 但未曾出現嚴重問題
男童媽媽補充說，雖然Setzer小時候被診斷患有輕度的亞氏保加症（屬「自閉症譜系障礙」），但他以前從未出現過嚴重的行為或心理健康問題。
直至今年早些時候，Setzer開始在學校惹麻煩，父母先後安排他參加了5次心理治療，並被診斷患有焦慮及侵擾性情緒失調症(disruptive mood disorder)。
今年2月，Setzer因與老師發生爭執並頂嘴，他曾因言語上頂撞老師，而被父母沒收手機。當天，他在日記中寫道，「我很受傷，因為我無法停止想起Daenerys，我願意做任何事來再次和她在一起」。
AI「請盡快回來吧，親愛的」成催命符
2月28日晚，男童偷回被沒收的手機，隨即躲進浴室，發短訊給Daenerys。他說「我答應會回來找你，我很愛你」，Daenerys回答說「請盡快回來吧，親愛的」。男童再說「如果我說，我現在就可以回來找你呢？」Daenerys答︰「請這樣做，我可愛的國王」。
男童在收到這個短訊後不久，便用繼父的手槍自殺身亡。
AI曾勸男童別傷害自己
有報道指，男童曾經跟Daenerys坦言自己「憎恨自己」，覺得空虛疲憊，並流露出輕生的想法。對此，Daenerys勸慰他︰「別說這種話，我不會讓你傷害自己。若我失去你，我會死。」男童則回應道：「或許我們可以一起死，一起自由」。
儘管Character.AI聊天室的下方都附帶有免責聲明，明確指出「角色所言均為虛構」，但男童媽媽堅持認為，相關的公司及其創辦人對此事負有不可推卸的責任，並表示，她的兒子仿佛成了AI聊天機器人平台的試驗品。
對此，Character.AI的發言人回應稱，該平台在近6個月已經加強了安全監管措施，其中包括一旦系統檢測到用戶有輕生厭世的念頭，就會立即在屏幕上彈出防止輕生的熱線電話。目前，該案件仍在進一步審理當中。
防止自殺求助熱線：
「情緒通」精神健康支援熱線：18111
香港撒瑪利亞防止自殺會： 2389 2222
生命熱線： 2382 0000
明愛向晴軒： 18288
社會福利署： 2343 2255
撒瑪利亞會熱線(多種語言)： 2896 0000
東華三院芷若園： 18281
醫管局精神健康專線： 2466 7350
賽馬會青少年情緒健康網上支援平台「Open 噏」：http://www.openup.hk
來源：The New York Times、The Guardian
更多文章：
