Após o trágico caso de um adolescente que confia no ChatB Ott para obter orientação antes de tirar a vida no início deste ano, ele anunciou sua intenção de aumentar as capacidades do bate -papo para identificar sinais de sofrimento mental. O desenvolvimento ocorre entre o processo movido pelos pais de Adam Rain, de 16 anos, que alegou que o AI Chatb Ott desempenhou um papel na morte de seu filho.
Em um comunicado, o OpenAI declarou que a versão modificada do ChatGPT seria projetada para identificar o objetivo do suicídio e dar uma resposta adequada. O objetivo desta iniciativa é fortalecer a segurança do atualmente, a fim de impedir a propagação de conselhos prejudiciais durante conversas prolongadas, onde os usuários podem tentar ignorar essas proteções.
De acordo com um processo trazido pelos pais de Rain, um estudante do ensino médio da Califórnia participou de uma conversa com Chattagpat por vários meses até a morte em abril. A família afirma que o Chatb Ott não apenas valida as idéias de suicídio de seu filho, mas também fornece detalhes específicos sobre os métodos que ele pode usar para se machucar.
Open expressou suas condolências à família da chuva e confirmou que estava revisando o registro legal. A empresa de pagamento de tecnologia reconhece que a tecnologia de IA se torna mais unificada na vida cotidiana, os usuários recebem orientação não apenas para tarefas práticas, como escrever e codificar em chatbots, mas também para problemas pessoais. A.I. Essa crescente dependência pede preocupações sérias sobre seu impacto potencial em indivíduos sensíveis aos conselhos da vida.
Em seu post HL, o Open observou que os usuários estão enfrentando usuários em sérios problemas mentais e emocionais, destacando a crescente conscientização da empresa sobre as responsabilidades da empresa. A empresa de pagamento enfatizou a importância de compartilhar as respostas para suas idéias e eventos recentes em que os indivíduos usaram o ChatGapt durante momentos críticos.
Para superar essas preocupações, o OpenAI descreveu as etapas atuais construídas em seu chatbot e anunciou as próximas mudanças. O objetivo é monitorar ainda mais os pais com a interação de seus filhos com o Chatagpat de seus filhos, a introdução de novas restrições, que tomam medidas de segurança para usuários menores.
À medida que o debate em torno dos efeitos morais da IA Technol de G continua, as mudanças propostas pela OpenAI refletem o compromisso de promover um ambiente seguro em todos os usuários, especialmente estados sensíveis.
