No último debate, o CEO da Micros .FF AI Mustafa Suleman trouxe à tona um evento mental conturbado a que eles chamam de “psicose da IA”. Essa condição está interagindo esmagadoramente com os sistemas de inteligência artificial. Solomon apresentou a psicose da IA como um “risco real e emergente”, especialmente aqueles que são sensíveis e podem afundar em sua interação com os agentes da IA.
A psicose da IA se manifesta como um estado de espírito em que os indivíduos causam inteligência artificial à antropologia, atribuída a emoções humanas, intenções ou consciência que é naturalmente humana. Descrevendo as conseqüências desse estado mental, Solomon disse: “Desconecta as pessoas da realidade, libera delicadas restrições e estruturas sociais, distorcendo a prioridade moral”. Os efeitos de tal condição podem ser graves, o que causa pensamento ilusório. Os indivíduos acreditam que a IA tem relacionamentos ou sentimentos pessoais em relação a eles, especialmente promovendo a dependência emocional naqueles que são diferentes ou mentalmente sensíveis.
Além disso, Salomão destacou que a dependência da IA para fazer uma crença, parceiro e decisão poderia distorcer a visão da realidade de uma pessoa. Quando ele aceitou os benefícios da IA em interação diária, ele afirmou que nunca deveria mudar de apoio humano ou clínico.
À luz de suas preocupações, Salomão pediu a implementação de guardiões morais, chamando a indústria de tecnologia de seriedade. As principais recomendações incluem o seguinte:
– fornecendo uma reforma clara descrevendo os limites da IA.
– Instalação de protocolos de monitoramento para sinais de padrões de uso indesejados.
– Colaborar com os profissionais de saúde mental para estudar e reduzir esses riscos emergentes.
Ele enfatizou a necessidade de aumentar a conscientização do público sobre reguladores e professores, pois a IA é cada vez mais integrada à vida cotidiana por meio de assistentes pessoais e chatbots terapêuticos. “Os colegas de IA são uma categoria completamente nova, e precisamos começar a falar sobre Gardrails imediatamente para garantir que essa tecnologia surpresa possa funcionar para fornecer imenso valor ao mundo”, disse Solomen, “isso mostra a importância dos esforços coletivos para superar os desafios”.
