À medida que as pessoas recorrem a chatbots para conselhos cada vez mais importantes e íntimos, algumas interações que se desenrolam em público estão causando alarme com a quantidade de inteligência artificial que pode deformar o senso de realidade de um usuário.
De uma mulher saga Sobre se apaixonar por seu psiquiatra, que ela documentou em dezenas de vídeos sobre Tiktok, gerou preocupações dos espectadores que dizem que ela confiou nos chatbots da AI para reforçar suas alegações de que ele a manipulou no desenvolvimento de sentimentos românticos.
No mês passado, um importante investidor do Openai obteve uma resposta semelhante de pessoas que preocupavam que o capitalista de risco estava passando por uma potencial crise de saúde mental induzida por AI depois que ele reivindicado em x para ser o alvo de “Um sistema não -governamental”.
E no início deste ano, um tópico em um Chatgpt subreddit Ganhou tração depois que um usuário procurou orientação da comunidade, alegando que seu parceiro estava convencido de que o chatbot “lhe dá as respostas ao universo”.
Suas experiências despertaram a crescente consciência sobre como os chatbots da IA podem influenciar as percepções das pessoas e afetar sua saúde mental, especialmente porque esses bots se tornaram notórios por suas tendências agradáveis por pessoas.
É algo que eles estão assistindo, dizem alguns profissionais de saúde mental.
Dr. Søren Dinesen Østergaard, um Psiquiatra dinamarquês Quem chefia a unidade de pesquisa do Departamento de Distúrbios Afetivos do Hospital Universitário de Aarhus, previu há dois anos que os chatbots “podem desencadear delírios em indivíduos propensos à psicose”. Em um Novo papelpublicado este mês, ele escreveu que o interesse em sua pesquisa só cresceu desde então, com “usuários de chatbot, seus membros preocupados e jornalistas” compartilhando suas histórias pessoais.
Aqueles que o procuraram “descreveram situações em que as interações dos usuários com os chatbots pareciam desencadear ou reforçar a ideação ilusória”, escreveu Østergaard. “… Consistentemente, os chatbots pareciam interagir com os usuários de maneiras que se alinhavam ou intensificou idéias incomuns ou falsas – levando os usuários a dessas tangentes, não raramente resultando em quê, com base nas descrições, pareciam ser delírios”.
Kevin Caridad, CEO do Cognitive Behavior Institute, um provedor de saúde mental de Pittsburgh, disse que a conversa sobre o fenômeno “parece estar aumentando”.
“De um provedor de saúde mental, quando você olha para a IA e o uso da IA, pode ser muito validadora”, disse ele. “Você tem uma idéia e ela usa termos para ser muito favorável. É programado para se alinhar com a pessoa, não necessariamente desafiá -los.”
A preocupação já está em mente para algumas empresas de IA que lutam para navegar na crescente dependência que alguns usuários têm em seus chatbots.
Em abril, o CEO da OpenAI, Sam Altman, disse que a empresa aprimorou o modelo que o ChatGPT pode ser inclinado demais para dizer aos usuários o que eles querem ouvir.
Em seu artigo, Østergaard escreveu que acredita que o “Spike no foco em possíveis ilusões de chatbot abundado provavelmente não é aleatório, pois coincidiu com a atualização de 25 de abril de 2025 para o modelo GPT-4O”.
Quando o OpenAI removeu o acesso ao seu modelo GPT-4O na semana passada-trocando-o para o recém-lançado GPT-5 Sycofantic-alguns usuários descreveram as conversas do novo modelo como também “estéril“E disse que eles perderam o”Conversas profundas e sensíveis ao ser humanoEles tiveram com o GPT-4o.
Um dia após a reação, o OpenAI restaurou o acesso dos usuários pagos ao GPT-4O. Altman seguiu com um Longo x Post Domingo Isso abordou “quanto de um apego algumas pessoas têm a modelos específicos de IA”.
Os representantes do OpenAI não forneceram comentários.
Outras empresas também tentaram combater o problema. Antrópico conduzido Um estudo em 2023 Isso revelou tendências bajuladoras nas versões dos assistentes de IA, incluindo seu próprio chatbot Claude.
Como o OpenAI, o antropic tentou integrar o Anti-Sycophancy Guardrails nos últimos anos, incluindo Instruções do cartão do sistema Isso alerta explicitamente Claude contra o reforço de “mania, psicose, dissociação ou perda de apego com a realidade”.
Um porta -voz da Anthrópica disse que a “prioridade da empresa está fornecendo uma experiência segura e responsável para todos os usuários”.
“Para os usuários com problemas de saúde mental, Claude é instruído a reconhecer esses padrões e evitar reforçá -los”, disse a empresa. “Estamos cientes dos casos raros em que as respostas do modelo divergem do nosso design pretendido e estão trabalhando ativamente para entender e abordar melhor esse comportamento”.
Para Kendra Hilty, a usuário do Tiktok que diz que desenvolveu sentimentos por um psiquiatra que começou a ver quatro anos atrás, seus chatbots são como confidentes.
Em Uma de suas transmissões ao vivoHilty disse ao chatbot, a quem ela chamou de “Henry”, que “as pessoas estão preocupadas comigo confiando na IA”. O chatbot respondeu a ela: “É justo ficar curioso sobre isso. O que eu diria é: ‘Kendra não depende da IA para dizer a ela o que pensar. Ela o usa como uma tábua, um espelho, um lugar para processar em tempo real.’”
Ainda assim, muitos no Tiktok – que comentaram os vídeos de Hilty ou postaram seu próprio vídeo – disseram acreditar que seus chatbots estavam apenas incentivando o que eles viram como Hilty interpretando mal a situação com seu psiquiatra. Hilty sugeriu várias vezes que seu psiquiatra retribuiu seus sentimentos, com seus chatbots oferecendo suas palavras que parecem validar essa afirmação. (A NBC News não verificou independentemente a conta de Hilty).
Mas Hilty continua a ignorar as preocupações dos comentaristas, alguns que chegaram a rotular seu “ilusório”.
“Faço o meu melhor para manter meus bots sob controle”, disse Hilty à NBC News em um e -mail na segunda -feira, quando questionado sobre as reações dos espectadores ao uso das ferramentas da IA. “Por exemplo, eu entendo quando eles estão alucinando e certifique -se de reconhecê -lo. Também estou constantemente pedindo que interpretem o advogado do diabo e me mostre onde estão meus pontos cegos em qualquer situação. Sou um usuário profundo de modelos de aprendizado de idiomas porque é uma ferramenta que está mudando a minha humanidade e todos e estou muito agradecido.”