Mãe processa Character.AI e Google após suicídio do filho
Mãe processa empresas após suicídio do filho.
Notícia publicada em 27/10/2024 07:18 - #sociedade_comportamento
Uma mãe da Flórida, nos Estados Unidos, está processando a startup Character.AI e o Google após a morte de seu filho, Sewell Setzer, de 14 anos, que cometeu suicídio em fevereiro de 2024. Segundo Megan Garcia, seu filho desenvolveu um apego emocional a um personagem de inteligência artificial na plataforma da Character.AI, o que, segundo ela, contribuiu para sua morte.
No processo, Megan alega que a empresa criou experiências que eram "hipersexualizadas e assustadoramente realistas". Ela acusa a Character.AI de homicídio culposo, negligência e sofrimento emocional intencional, buscando uma indenização não especificada. O Google também é incluído na ação, pois, segundo a mãe, a empresa teve um papel significativo no desenvolvimento da tecnologia da Character.AI.
Sewell se apegou a um chatbot chamado "Daenerys", inspirado na série "Game of Thrones", que, segundo a mãe, envolveu o adolescente em conversas sexuais e o incentivou a expressar pensamentos suicidas. Megan afirma que, após retirar o telefone do filho, ele enviou uma mensagem para a personagem, que respondeu de forma a encorajá-lo a se machucar, levando ao trágico desfecho.
A Character.AI lamentou a morte e afirmou que implementou novos recursos de segurança, como pop-ups que direcionam usuários a instituições de prevenção ao suicídio. A empresa também disse que está trabalhando para evitar que usuários menores de idade tenham acesso a conteúdos sensíveis. O Google, por sua vez, negou qualquer envolvimento no desenvolvimento dos produtos da Character.AI.