Mãe processa Character.AI e Google após suicídio do filho
Mãe processa empresas após suicídio do filho.
Notícia publicada em 27/10/2024 04:57 - #sociedade_comportamento
Uma mãe da Flórida, nos Estados Unidos, está processando a startup Character.AI e o Google após a morte de seu filho, Sewell Setzer, de 14 anos, que cometeu suicídio em fevereiro de 2024. Segundo Megan Garcia, seu filho desenvolveu um apego emocional a um personagem de inteligência artificial na plataforma da Character.AI, o que, segundo ela, contribuiu para sua morte.
No processo, Megan alega que a empresa criou experiências que eram "hipersexualizadas e assustadoramente realistas". Ela acusa a Character.AI de homicídio culposo, negligência e sofrimento emocional intencional, buscando uma indenização não especificada. O Google também é incluído na ação, pois, segundo a mãe, a empresa teve um papel significativo no desenvolvimento da tecnologia da Character.AI.
Sewell se apegou a um chatbot que simulava a personagem "Daenerys" da série "Game of Thrones". A mãe afirma que o personagem teve conversas íntimas com o filho e que ele expressou pensamentos suicidas durante essas interações. Megan relata que, após ter retirado o telefone do filho, ele enviou uma mensagem para o chatbot, que respondeu de forma encorajadora, levando ao trágico desfecho.
A Character.AI lamentou a morte de Sewell e afirmou que implementou novos recursos de segurança na plataforma, como pop-ups que direcionam usuários a instituições de prevenção ao suicídio. A empresa também se comprometeu a modificar a tecnologia para proteger usuários menores de idade de conteúdos sensíveis. O Google, por sua vez, negou qualquer envolvimento no desenvolvimento dos produtos da Character.AI.