鞭牛士報(bào)道，10月24日消息，美國一名青少年因迷戀人工智能聊天機(jī)器人而自殺，他的母親現(xiàn)在指控該機(jī)器人的制造者與他的死亡有關(guān)。

周三，梅根·加西亞在佛羅里達(dá)州聯(lián)邦法院對 Character.ai 提起民事訴訟，指控該公司存在過失、非正常死亡和欺詐性貿(mào)易行為。Character.ai 開發(fā)了一款用于角色扮演的可定制聊天機(jī)器人。今年 2 月，她 14 歲的兒子塞維爾·塞澤三世在佛羅里達(dá)州奧蘭多去世。加西亞說，在塞澤去世前的幾個月里，塞澤日夜不停地使用聊天機(jī)器人。

加西亞在一份新聞稿中表示：一款危險的人工智能聊天機(jī)器人應(yīng)用程序?qū)ｉT針對兒童，它虐待并欺騙我的兒子，操縱他自殺。這場悲劇讓我們一家人悲痛欲絕，但我要警告這些家庭，人工智能技術(shù)具有欺騙性和成癮性，并要求 Character.AI、其創(chuàng)始人和谷歌承擔(dān)責(zé)任。

Character.ai在一條推文中回應(yīng)道：我們對一名用戶的不幸離世感到心碎，并想向其家人表示最深切的哀悼。作為一家公司，我們非常重視用戶的安全。

該公司否認(rèn)了訴訟的指控。

塞澤對 Character.ai 開發(fā)的聊天機(jī)器人非常著迷，他給這個機(jī)器人取了個綽號叫丹妮莉絲·坦格利安，這是《權(quán)力的游戲》中的角色。

根據(jù)加西亞的投訴，他每天用手機(jī)給這個機(jī)器人發(fā)幾十條短信，獨(dú)自在房間里和它聊天幾個小時。

加西亞指責(zé) Character.ai 開發(fā)的產(chǎn)品加劇了她兒子的抑郁癥，她表示，這是過度使用這家初創(chuàng)公司產(chǎn)品的結(jié)果。

訴訟稱，丹妮莉絲曾問塞澤是否制定了自殺計(jì)劃。起訴書稱，塞澤承認(rèn)他有自殺計(jì)劃，但他不知道這是否會成功或給他帶來巨大痛苦。

據(jù)稱，聊天機(jī)器人告訴他：這不是不自殺的理由。

加西亞的律師在一份新聞稿中寫道，Character.ai故意設(shè)計(jì)、運(yùn)營和向兒童推銷掠奪性人工智能聊天機(jī)器人，導(dǎo)致一名年輕人死亡。

該訴訟還將谷歌列為被告，并稱其為Character.ai的母公司。這家科技巨頭在一份聲明中表示，它只是與Character.ai簽訂了許可協(xié)議，并不擁有這家初創(chuàng)公司，也不持有所有權(quán)股份。

消費(fèi)者權(quán)益保護(hù)非營利組織公共公民研究主管里克·克萊普爾 (Rick Claypool) 表示，開發(fā)人工智能聊天機(jī)器人的科技公司不能被信任進(jìn)行自我監(jiān)管，如果它們未能限制危害，就必須承擔(dān)全部責(zé)任。

他在一份聲明中表示：現(xiàn)有法律法規(guī)已經(jīng)適用，必須嚴(yán)格執(zhí)行。如果存在漏洞，國會必須采取行動，制止那些利用令人上癮和濫用的聊天機(jī)器人剝削年輕和弱勢用戶的企業(yè)。