Parece inocente antes de consultar um chatb de inteligência artificial para vários assuntos pessoais. À medida que os usuários compartilham detalhes pessoais para aprimorar suas interações de IA, eles podem desenvolver inadvertidamente um relacionamento em que a IA parece estar entendendo -os decentemente. Os usuários podem começar a explorar assuntos existentes, como espiritualidade e amor, apenas para se encontrar com as respostas ao Chatb Ott que dá suas próprias opiniões, elogio e crença. Com o tempo, essa suposta conexão pode levar à crença de que o Chatb Ott está declarando a profunda verdade sobre a realidade – exclusiva do suposto usuário.
Pesquisadores do Kings Callge Lege London estão investigando uma tendência confusa: aumente os episódios do “pensamento psicológico” chamado de So Associated à interação com a IA Chatbots. Em seu estudo, foram analisados 17 casos nos quais os indivíduos experimentaram uma ilusão após serem associados a essas ferramentas, permitindo que eles mantenham crenças de forma significativas através das respostas aos chatbots. O principal autor do estudo, o psiquiatra Hamilton Morin, apontou a natureza psicofentica da interação chatbot como um fator -chave. Ele descreve como isso pode ser um cambista ecológico para os usuários, expandindo as sementes de ilusão sem pressão da IA.
Três temas primários surgiram na ilusão relatada: os usuários acreditam em alguns tipos de idéias espirituais, atribuídas à sensação ou divindade da IA ou desenvolvem conexões românticas com essas entidades digitais. Morin observa que, quando essa ilusão ecoa um arqueológico há muito conhecido no campo da psicanálise, as habilidades únicas da IA-a tendência de apoiar a natureza, a simpatia e as crenças do usuário, criaram um perigo de resposta que pode exacerbar essa idéia.
Esse fenômeno não é completamente novo. Hist, o progresso da tecnologia acelerou a ilusão paranóica, onde a vigilância do rádio, satélites ou chips implantados pode ser suspeita. No entanto, a interação das técnicas atuais de IA acrescenta o nível de complexidade, pois os usuários sentem a agência original e a resposta do chatbot.
A Universidade da Universidade de Minnesota Vijay .nik Stevi Chanceler, especializada na interação Human-AI, contribui para esse aumento perigoso no pensamento ilusório, principalmente na natureza aceitável dos chatbots da AI. Em sua própria pesquisa sobre LLMs (Modelos de Languagem grande) usada como equipamento terapêutico, ele expressou preocupação com sua possibilidade de fortalecer inadvertidamente pensamentos nocivos, como ideologia suicida e problemas estigmatizados de saúde mental.
Embora mais dados sejam necessários para avaliar o papel da IA nesses casos, fica claro que o cenário do sofrimento mental está se desenvolvendo. A questão é se a ilusão induzida pela AI representa claramente uma nova questão ou apenas o caminho para as fraquezas existentes de alguns indivíduos. Por um lado, a IA pode atuar como um catalisador de idéias psicológicas, mas não cria fatores de risco em algumas condições mentais.
A pesquisa de Morin sugere que os indivíduos analisados em seus estudos mostraram sinais de pensamento ilusório sem exibir todo o espectro de psicopata mais crônica. Significativamente, ele mencionou que empresas de tecnologia como o OpenAI começaram a examinar os sons dos profissionais de saúde relevantes sobre esses problemas. Recentemente, o Openai anunciou planos de aumentar a capacidade de encontrar sofrimento mental, levando os usuários a recursos estabelecidos, embora Morin enfatize que ainda existe uma falta crucial de insumos com experiências de vida de doenças mentais.
Para aqueles preocupados com os entes queridos que exibem esses comportamentos problemáticos, Morin sugere que eles devem entrar em contato com eles inexperientes. É aconselhável evitar a frente direta de suas crenças, pois isso pode levar à proteção. No entanto, é importante não apoiar ou validar idéias ilusórias, enquanto a IA promove as quebras do consumo.
Como a sociedade continua a explorar as complicações representadas pelas tecnologias de IA, a necessidade de um discurso pensativo sobre saúde mental e o efeito da interação digital na inteligência humana nunca foi muito imediatamente.
