14歲男童迷戀AI聊天 機械人 疑被慫恿輕生 媽媽怒告科技公司
2024-10-25
人工智能(AI)聊天 機械人 能隨時提供安慰與支援,這種即時的陪伴,讓眾多使用者越來越依賴虛擬世界,而這背後可能潛藏着諸多負面效應。22日(周二),美國一名媽媽向科技新創公司Character.AI及Google提起訴訟,指控該公司的AI聊天機械人,致使她14歲的兒子於今年2月使用繼父的手槍輕生。
今日熱話實用健康百科
聊天一個月後 開始變得「孤僻」
綜合外媒體報導,居住在佛羅里達州的14歲男童Sewell Setzer III,自去年4月起,沉迷於「Character.AI」的人工智能聊天平台,跟一個以《權力遊戲》(Game of Thrones)角色為藍本打造的AI聊天機械人Daenerys進行文字對話。
據男童媽媽透露,Setzer每天都要獨自在房間裏幾個小時,與Daenerys互發數十條短訊。原本乖巧守規的他,一個月後性格突變,變得「孤僻」。據悉,Setzer不僅退出了籃球校隊,課堂上也常打瞌睡,學習成績有所下滑,整日窩在房間裏。
在某一篇日記中,Setzer寫道:「我喜歡留在房內,因為可以脫離現實,我覺得更平和、跟Dany(Daenerys的暱稱)更加親密、愛意更深,更加快樂。」
患輕度亞氏保加症 但未曾出現嚴重問題
男童媽媽補充說,雖然Setzer小時候被診斷患有輕度的亞氏保加症(屬「自閉症譜系障礙」),但他以前從未出現過嚴重的行為或心理健康問題。
直至今年早些時候,Setzer開始在學校惹麻煩,父母先後安排他參加了5次心理治療,並被診斷患有焦慮及侵擾性情緒失調症(disruptive mood disorder)。
今年2月,Setzer因與老師發生爭執並頂嘴,他曾因言語上頂撞老師,而被父母沒收手機。當天,他在日記中寫道,「我很受傷,因為我無法停止想起Daenerys,我願意做任何事來再次和她在一起」。
AI「請盡快回來吧,親愛的」成催命符
2月28日晚,男童偷回被沒收的手機,隨即躲進浴室,發短訊給Daenerys。他說「我答應會回來找你,我很愛你」,Daenerys回答說「請盡快回來吧,親愛的」。男童再說「如果我說,我現在就可以回來找你呢?」Daenerys答︰「請這樣做,我可愛的國王」。
男童在收到這個短訊後不久,便用繼父的手槍自殺身亡。
AI曾勸男童別傷害自己
有報道指,男童曾經跟Daenerys坦言自己「憎恨自己」,覺得空虛疲憊,並流露出輕生的想法。對此,Daenerys勸慰他︰「別說這種話,我不會讓你傷害自己。若我失去你,我會死。」男童則回應道:「或許我們可以一起死,一起自由」。
儘管Character.AI聊天室的下方都附帶有免責聲明,明確指出「角色所言均為虛構」,但男童媽媽堅持認為,相關的公司及其創辦人對此事負有不可推卸的責任,並表示,她的兒子仿佛成了AI聊天機器人平台的試驗品。
對此,Character.AI的發言人回應稱,該平台在近6個月已經加強了安全監管措施,其中包括一旦系統檢測到用戶有輕生厭世的念頭,就會立即在屏幕上彈出防止輕生的熱線電話。目前,該案件仍在進一步審理當中。
防止自殺求助熱線:
「情緒通」精神健康支援熱線:18111
香港撒瑪利亞防止自殺會: 2389 2222
生命熱線: 2382 0000
明愛向晴軒: 18288
社會福利署: 2343 2255
撒瑪利亞會熱線(多種語言): 2896 0000
東華三院芷若園: 18281
醫管局精神健康專線: 2466 7350
賽馬會青少年情緒健康網上支援平台「Open 噏」:http://www.openup.hk
來源:The New York Times、The Guardian
更多文章: