Segundo o Wall Street Journal, a Casa Branca teria adotado medidas contra o Claude Fable 5 depois de uma conversa com Andy Jassy, CEO da Amazon. O ponto curioso é que a Amazon é, ao mesmo tempo, acionista e parceira da Anthropic.
O que aconteceu com Claude Fable 5 e Claude Mythos 5
A notícia se espalhou rapidamente. Poucos dias após lançar sua IA robusta, o Claude Fable 5, a Anthropic precisou retirar esse modelo - e também o Claude Mythos 5 - de seus produtos na sexta-feira.
O motivo, de acordo com o que foi reportado, foi uma ordem do governo dos EUA determinando que o acesso a esses dois modelos fosse interrompido para todos os cidadãos estrangeiros. Para cumprir essa determinação, a Anthropic optou por remover os dois modelos.
O papel da Amazon e de Andy Jassy na decisão da Casa Branca
O aspecto mais inesperado é que, ainda conforme revelações do Wall Street Journal, teria sido justamente um acionista e parceiro da Anthropic a apontar um problema à Casa Branca - o que teria contribuído para a decisão do governo.
Pela mesma apuração, pesquisadores da Amazon teriam encontrado uma técnica que permitiria, por meio de prompts, fazer com que o Claude Fable 5 entregasse informações utilizáveis em um ciberataque, apesar das salvaguardas implementadas pela Anthropic.
Na sequência, Andy Jassy, CEO da Amazon, teria conversado com a Casa Branca. E, depois desse diálogo, o governo dos EUA teria decidido agir.
Anthropic afirma que a medida é excessiva
A informação deve ser tratada com cautela, já que não foi confirmada. Ainda assim, vale lembrar que a Amazon está entre os acionistas da Anthropic. Além disso, a própria Amazon figura entre as empresas que disponibilizaram o Claude Fable 5 em seus serviços de nuvem quando o modelo foi lançado.
De todo modo, a Anthropic já contestou a pesquisa em que o governo dos EUA teria se baseado para tomar a decisão sobre o Claude Fable 5. Segundo a empresa, o método citado teria identificado apenas um número reduzido de falhas de segurança - e, além disso, falhas que já eram conhecidas.
A Anthropic também sustenta que descobertas desse tipo poderiam ser obtidas usando modelos disponíveis ao público em geral. Em outras palavras, a empresa afirma que o método não “liberou” toda a capacidade do Claude Fable 5 no contexto de cibersegurança.
De acordo com fontes do veículo Axios, uma equipe técnica da Anthropic já estaria em Washington para conversar com a Casa Branca e tentar resolver a situação.
Comentários
Ainda não há comentários. Seja o primeiro!
Deixar um comentário