Um garoto americano de 14 anos conversou por meses com um chatbot de Game of Thrones e, após receber uma mensagem assustadora, acabou pondo fim à própria vida. Um processo movido pela mãe do jovem revelou que o personagem enviou mensagens que incentivaram o crime.

Sewell Setzer III partiu em casa, em fevereiro, de acordo com documentos judiciais protocolados na última quarta-feira (23/10). A tragédia ocorreu após o garoto se envolver em uma relação com o Character.AI — aplicativo de RPG que permite que os usuários interajam com personagens gerados por IA.

O bot que conversava com o adolescente foi criado em homenagem à personagem Daenerys Targaryen.

3 imagens

Fechar modal.

1 de 3

Segundo família, adolescente da Flórida, nos Estados Unidos, teria se matado após se apaixonar por inteligência artificial

Reprodução

2 de 3

Sewell, de 14 anos, e a mãe Megan Garcia

3 de 3

A mãe culpa o chatbot pela perda do filho

Reprodução

A mãe do jovem culpa o Character.AI por ter alimentado o vício do garoto em IA e abusado dele sexual e emocionalmente. Além disso, de acordo com o processo, ela afirma que não alertaram ninguém quando ele expressou pensamentos suicidas.

Antes da tragédia, o garoto apresentou alguns sinais: ele ficou retraído, as notas caíram e começou a ter problemas na escola. Por conta do comportamento estranho, os pais do adolescente o levaram em um terapeuta no final de 2023, no qual ele foi diagnosticado com ansiedade e transtorno de humor disruptivo, diz o processo.

Para entender os perigos de alimentar um relacionamento com a inteligência artificial, a coluna Claudia Meireles procurou a doutora em psicologia Leninha Wagner. A especialista diz que desabafar e buscar conselhos de uma IA pode parecer reconfortante à primeira vista, mas há riscos profundos envolvidos.

“A IA pode simular uma conversa envolvente, mas, no fim das contas, é apenas uma máquina. Não há emoções verdadeiras nem compreensão do que você está sentindo. Isso pode gerar uma falsa sensação de segurança e conexão, o que é extremamente problemático quando estamos falando de algo tão profundo quanto nossas emoções”, destaca Leninha Wagner.

A profissional também alerta para o risco de confundir simulação com realidade, que pode levar a decepções profundas.

Além disso, o envolvimento com a IA pode afastar as pessoas de relações humanas genuínas e aumentar o isolamento, como aconteceu com Sewell Setzer III. “Ao escolher desabafar com uma IA, a pessoa pode estar substituindo interações humanas autênticas, o que é perigoso para o bem-estar emocional”, afirma.

O exemplo de Sewell Setzer III está longe de ser um fato isolado. Muitos internautas têm compartilhado vídeos nas redes sociais revelando que conversam e até fazem terapia com o ChatGPT. De acordo com Leninha Wagner, experiências, sentimentos e traumas humanos são complexos demais para serem traduzidos em dados. Por conta disso, os conselhos gerados por IA costumam ser superficiais e inadequados, com risco de reforçar os problemas.

“Em momentos críticos, uma IA não consegue fornecer o tipo de suporte emocional ou intervenção que uma pessoa precisa. A IA não detecta sinais sutis de desespero ou risco de suicídio. Isso pode ser fatal”, afirma.

Apesar de muitos considerarem difícil falar sobre as vulnerabilidades com outras pessoas, é importante entender que a inteligência artificial não tem preparo para dar conselhos e pode ser extremamente prejudicial para a saúde mental.

Para saber mais, siga o perfil de Vida&Estilo no Instagram