A rápida evolução da inteligência artificial (IA) trouxe consigo novas ferramentas e aplicações, mas também gerou preocupações significativas em relação à saúde mental e à segurança. CEOs de grandes empresas de tecnologia, como a Microsoft, alertam para o que chamam de ‘psicose de IA’, um fenômeno emergente relacionado ao uso e aos efeitos dos chatbots avançados. Essa apreensão cresce à medida que relatos sobre o impacto psicológico dessas tecnologias se multiplicam na mídia, levantando questões sobre a sua influência no bem-estar dos usuários e a necessidade de regulamentação e cautela. A capacidade dos chatbots de simular conversas humanas de forma convincente pode levar a uma dependência emocional indevida ou a interpretações equivocadas de suas respostas, gerando ansiedade, confusão e um distanciamento da realidade para alguns indivíduos. Essa linha tênue entre a utilidade e o potencial dano psíquico exige uma análise aprofundada por parte de desenvolvedores, profissionais de saúde e da sociedade em geral. A ideia de uma ‘psicose de IA’ sugere que a interação prolongada e sem supervisão com sistemas de IA complexos pode desencadear ou exacerbar condições psicológicas preexistentes, ou até mesmo criar novos padrões de comportamento e pensamento prejudiciais. O debate se intensifica quando aplicações terapêuticas de IA começam a ser proibidas ou, no mínimo, rigorosamente questionadas. A promessa de terapias acessíveis e inovadoras mediadas por IA é acompanhada por receios sobre a falta de empatia genuína, a confidencialidade dos dados e a capacidade de lidar com nuances emocionais complexas, aspectos fundamentais na prática clínica tradicional. A substituição ou complementação de terapeutas humanos por algoritmos levanta sérias dúvidas sobre a eficácia e a segurança a longo prazo. As autoridades reguladoras e os órgãos de saúde pública já começam a reagir, estabelecendo proibições ou diretrizes estritas para terapias que utilizam IA, buscando proteger os pacientes e garantir que essas ferramentas sejam usadas de forma ética e responsável. A discussão sobre os riscos e benefícios da psicoterapia por IA ainda está em fase inicial, mas a urgência da questão é inegável, demandando um diálogo transparente e a busca por soluções que priorizem a saúde e a segurança humana em meio aos avanços tecnológicos cada vez mais disruptivos. É crucial que a sociedade compreenda as implicações dessas novas tecnologias e que haja um esforço conjunto para mitigar os potenciais efeitos negativos, garantindo que a IA seja uma ferramenta a serviço do bem-estar humano, e não um obstáculo a ele.