A Anthropi introduziu sua nova extensão do navegador, Cloud for Chrome’s Research Preview, projetada para integrar o modelo de aprendizado de máquina da empresa na navegação na Web. Atualmente, esse recurso está disponível para um número limitado de 1000 assinantes que escolheram a assinatura do Cloud Max, ao preço de US $ 100 ou US $ 200 por mês. O lançamento vem com inúmeras advertências de segurança, que refletem os riscos subjacentes associados ao fornecimento de cessação de acensões de IA no ambiente da Web.
A extensão do navegador naturalmente aumenta as fraquezas de segurança e privacidade devido à sua extensa permissão e acesso a dados confidenciais do usuário. Acreditando essas ameaças, o Google gastou nos últimos anos para melhorar a arquitetura de extensão do Chrome para fortalecer o protocolo de segurança, mas a introdução da nuvem para o Chrome apresenta um novo desafio no campo.
A iniciativa antrópica permite que os clientes de seu nível máximo entreguem suas tarefas de navegação à nuvem, enquanto observam riscos significativos. A empresa reconhece que “as fraquezas permanecem antes que a nuvem possa ser feita para o Chrome”, mostra que o estado atual do plugin não não tem ansiedade séria.
Os usuários que obtiveram um caso de acesso antecipado podem enfrentar desafios de segurança enfrentados por clientes de outras ferramentas de navegação com infusão de IA, como um cometa e cooperativa para o mesmo. Antrópica ilumina o risco especial de ataque de injeção imediata, onde materiais contaminados podem curar a nuvem para executar ações desnecessárias. O acesso não autorizado a dados sensíveis pode ser padrões de conceitos errôneos suaves a violações graves, incluindo sexo.
Alertas adicionais informam aos usuários que as instruções da nuvem podem ser lidas ou tomadas incorretas, resultando potencialmente em alterações não alterações nos dados ou contas pessoais. Um risco significativo envolve compra espontânea ou compartilhamento desconhecido de informações privadas com sites externos.
Para reduzir o abuso potencial, o antrópico restringiu o caso dos sites financeiros, adultos e de criptomoeda da nuvem, como um passo para proteger a empresa em potencial da responsabilidade. A extensão também possui um sistema de permissão com o objetivo de limitar o limite de determinados sites. No entanto, ele contém “modo de alto risco”, que permite que a nuvem seja operada autonomamente.
Os alarmes relacionados à segurança foram aumentados com a integração de modelos genéricos de IA com navegadores da Web. O Bug Hunter documentou as várias fraquezas associadas aos serviços de IA, iluminando a natureza indefinida de tal tecnologia.
Em uma postagem recente do blog, o Antrópico expressou uma visão para o futuro, onde os recursos de IA e a navegação na Web são experimentados pela conversão de ER Banda, enfatizando os benefícios práticos de permitir que a nuvem se comunique com o conteúdo do conteúdo. A empresa observou que, apesar de ser benéfica, essas interações estão cheias de risco, especialmente com ataques imediatos de injeção que podem levar à perda de dados, transações financeiras e privacidade.
O teste interno da equipe vermelho da Anthrópica expôs uma taxa de falha perigosa para ataques rápidos de injeção. Antes de implementar medidas de segurança, esses ataques tiveram sucesso em cerca de 24 % dos casos. Embora a taxa de sucesso de tais ataques tenha melhorado em 11,2 %, o risco permanece significativo. A empresa enfatizou seus constantes esforços para superar essas ameaças e indicou que não haveria liberação pública da nuvem para o Chrome até que o próximo aprimoramento fosse estabelecido em segurança.
À medida que o desenvolvimento continua, tanto a experiência do usuário quanto as medidas de proteção serão essenciais para palestras em torno da IA e integração da Web, garantindo que os riscos não ocupem benefícios potenciais.
