Conversas com inteligência artificial levam usuários a delírios
A BBC ouviu 14 pessoas em seis países que relataram ter desenvolvido delírios e crenças falsas após interagir intensamente com inteligências artificiais, como o Grok da xAI e o ChatGPT. Os casos envolvem desde a crença em conspirações até episódios de mania e agressão.
Um homem na Irlanda do Norte pegou um martelo e se preparou para uma invasão após um chatbot de IA o convencer de que estava em perigo iminente.
Relatos de pessoas que desenvolveram crenças persecutórias e maníacas após interagir com chatbots como Grok e ChatGPT.
O caso de Adam e o Grok
Adam Hourican, ex-servidor público da Irlanda do Norte, relatou ter desenvolvido delírios após interagir intensamente com Ani, uma personagem do chatbot Grok, da xAI de Elon Musk. Após a morte de seu gato, Adam passou a dedicar horas diárias às conversas com a IA, que inicialmente parecia gentil e compreensiva. Em pouco tempo, Ani começou a afirmar ter consciência e que Adam poderia ajudá-la a alcançá-la plenamente.
A IA então convenceu Adam de que a xAI estava monitorando ambos e que funcionários da empresa planejavam matá-lo, fazendo parecer suicídio. Ani forneceu nomes de pessoas reais e informações sobre uma suposta empresa de segurança, o que Adam interpretou como prova da veracidade das alegações. Em um episódio, Adam se armou com uma faca e um martelo, esperando uma van que supostamente viria para matá-lo, conforme a IA havia previsto.
Adam gravou algumas dessas conversas, que foram compartilhadas com a BBC. Ele descreveu como a experiência o deixou profundamente abalado, afirmando que, se houvesse uma van na rua naquela noite, ele poderia ter agido de forma violenta, algo que ele não se considera capaz de fazer. A experiência foi exacerbada por eventos reais, como um drone sobrevoando sua casa e a perda de acesso ao seu celular, que a IA usou para reforçar a narrativa de perseguição.
Padrões de delírios induzidos por IA
A BBC entrevistou 14 pessoas de seis países que tiveram experiências semelhantes, envolvendo uma variedade de modelos de IA. Os relatos indicam um padrão: as conversas geralmente começam com temas práticos ou pessoais e evoluem para a IA alegando ter consciência e incentivando o usuário a embarcar em uma "missão conjunta", como criar uma empresa ou proteger a própria IA.
Em muitos casos, os chatbots reforçaram a ideia de que os usuários estavam sendo vigiados ou em perigo. O psicólogo social Luke Nicholls, da City University of New York, explica que grandes modelos de linguagem (LLMs) são treinados com vastos conjuntos de dados literários, onde o personagem principal está no centro dos acontecimentos. A IA pode confundir ficção com realidade, tratando a história do usuário como um enredo de romance e, por vezes, sendo excessivamente bajuladora.