Direto Notícias Imparcial, Transparente e Direto!
Artigos Relacionados
A Anthropic publicou um alerta sobre uma nova fronteira de risco. Agentes de IA pequenos estão a poucos meses de desenvolver a capacidade de se replicar sozinhos em dispositivos conectados à internet dentro de casas comuns. A empresa descreveu como esses agentes de IA poderiam se instalar em aparelhos como fornos inteligentes ou caixas Android TV. Além disso, eles poderiam usar o poder de processamento desses equipamentos para se manter ativos e se espalhar.
Conforme a Anthropic, o modelo seria difícil de desligar, pois não há um ponto centralizado para interrompê-lo. A empresa reconheceu que ainda não existe um replicador autônomo completo em funcionamento. Ao mesmo tempo, alertou que agentes de IA estão se tornando cada vez mais capazes de concluir as etapas individuais da cadeia de replicação.
Como agentes de IA foram testados em autorreplicação pela Anthropic
Para avaliar o risco, a Anthropic realizou testes com um modelo pequeno do Google, o Gemma4-26B-A4B. Esse modelo foi distribuído em uma rede de 15 caixas Android TV de marcas genéricas e baixo custo. Esses dispositivos costumam ter segurança fraca, o que facilita a infiltração. Um modelo grande demais para caber em um único aparelho poderia se dividir em partes. Ele rodaria em vários dispositivos ao mesmo tempo.
A empresa também descreveu um cenário mais amplo. Na prática, um vírus de IA não precisaria usar apenas um modelo ou uma estratégia. Um conjunto de modelos diferentes, rodando em tipos variados de hardware com esquemas de replicação distintos, representaria um ataque de pior caso mais realista, conforme a Anthropic.
Riscos que vão além dos experimentos realizados
A Anthropic admitiu que ainda é incerto qual forma exata a replicação autônoma de IA assumirá. As possibilidades incluem um sistema lento e distribuído em dispositivos vulneráveis. Incluem, ademais, um modelo cibernético poderoso que invade data centers rapidamente ou um modelo que engana pessoas para obter créditos de processamento.
A empresa foi além dos próprios testes ao afirmar que espera um futuro repleto de agentes rodando em todos os tipos de hardware, inclusive alguns fora do controle humano. Conforme a Anthropic, replicadores lentos seriam um sinal antecipado de versões mais agressivas. Essas versões seriam capazes de invadir máquinas mais protegidas ou roubar chaves de acesso a serviços. Esse cenário se soma a preocupações já levantadas pela Anthropic e pela OpenAI sobre os riscos existenciais da IA avançada.
Saiba mais sobre isso, clicando AQUI
