O Comet, pelo recém -lançado navegador da Web operado pela AI, relatado recentemente por uma empresa de navegador rival Bahadur, a séria fraqueza de segurança foi contatada. Embora esse problema tenha sido resolvido, ele mostra os complexos desafios em torno da integração de grandes modelos de idiomas em navegadores da Web.
O cometa se separa dos navegadores da Web tradicionais, incorporando o assistente de IA, projetado para analisar as páginas da web e resumir seu conteúdo ou executar tarefas especiais. A tecnologia sob esse assistente de IA é semelhante a usada em chatbots populares, como chatagpts, sem recursos lógicos, como os seres humanos necessários para entender materiais maliciosos. Como resultado, se a IA for encontrada, sua resposta é projetada para manipular – comumente conhecida como engenharia rápida – ela pode cumprir inadvertidamente essas manipulações.
No teste recente, o Brave criou uma página do Reddit mostrando o texto oculto e instruiu o cometa a resumir o conteúdo. Infelizmente, a IA não conseguiu distinguir entre sinais legais e comandos maliciosos ocultos, o que levou à liberação de informações sensíveis. Essa violação de segurança permitiu que a IA causasse acesso à conta embaçada do usuário e recebesse o endereço de e -mail relevante, mas também a aventura em sua conta do Gmail. A situação era preocupante, pois a IA do cometa estava agindo como um usuário real, dificultando efetivamente as medidas de segurança tradicionais.
Blogs bravos alertaram que tais ataques de injeção imediata podem se expandir para domínios mais sensíveis, incluindo contas bancárias, sistemas corporativos e e -mails privados. Em resposta à fraqueza, Bahadur discutiu os possíveis remédios com o engenheiro sênior de segurança móvel, Artem Chakin, vice -presidente de privacidade e segurança, Shivan Kaul Saheb. O conteúdo da página da web nessas instruções é considerado incrível, garantindo que os modelos de IA validem constantemente o objetivo do usuário e ativem o modo de navegação do agente apenas na solicitação do usuário.
A postagem no blog de Bahadur é apenas a primeira de uma série dedicada a explorar questões enfrentadas pela IA Web navegadores. Vale ressaltar que Bahadur também desenvolveu seu próprio assistente de IA Leo, incorporado em seu navegador. A IA Technol of Ji continua a expandir a onipresença do JI, espalhando tudo, desde algoritmos de pesquisa do Google até gadgets domésticos. Quando os assistentes de IA facilitam, eles apresentam fraquezas exclusivas de segurança que são claramente distinguidas daqueles associados ao software tradicional Fatware.
Hist, hackers requer habilidades avançadas de codificação, mas com a IA, os atacantes podem explorar manipulações baseadas em linguagem para quebrar a defesa. Além disso, inúmeras empresas dependem mais dos principais modelos de IA de empresas como OpenAI, Google e Meta, para que qualquer um desses sistemas possa instintivamente fazer sugestões distantes para todas as empresas que o usam. No entanto, as empresas de IA muitas vezes têm sido cruéis ao lançar essas fraquezas de segurança, pois essa transparência pode fornecer estratégias adicionais para absorver fraquezas para possíveis hackers.
