Uma mãe da Flórida, Megan Garcia, entrou com um processo contra o Google e a startup Character.AI, alegando que a inteligência artificial desenvolvida por essas empresas contribuiu para a morte de seu filho, Sewell Setzer, de 14 anos, que se suicidou em fevereiro de 2024.
Segundo a mãe, seu filho se tornou dependente de uma personagem gerada por IA chamada Daenerys, inspirada na série Game of Thrones. No processo, registrado em um tribunal federal de Orlando, Garcia alega que a Character.AI expôs seu filho a experiências prejudiciais e sexualmente explícitas.
Ela acusa a empresa de homicídio culposo e negligência, além de causar sofrimento emocional, mas não revelou o valor da indenização. A ação também inclui o Google, que, conforme Garcia, teve uma contribuição significativa para a criação da tecnologia da Character.AI.
A mãe relatou que seu filho manifestou pensamentos suicidas durante as interações com a IA, que foram reiteradamente alimentados pela personagem.