14 out IAs poderão se autorreplicar entre aparelhos em breve, alerta Anthropic

Uma equipe de pesquisadores da empresa de inteligência artificial (IA) Anthropic revelou um cenário preocupante para a segurança de uma série de eletrônicos. Os resultados do estudo foram publicados no blog da companhia.

Segundo o levantamento do Frontier Red Team, modelos pequenos de IA podem estar a meses de ter capacidade para copiar a si mesmos em diferentes dispositivos. Em cenários mais pessimistas, eles podem ser forçados até a integrar botnets para realizar ações conjuntas sem consentimento.

Os aparelhos em questão são aparelhos típicos de Internet das Coisas (IoT) usados em casas ou empreendimentos, como televisores, eletrodomésticos, sensores, modems, câmeras de segurança e outros dispositivos — geralmente mais simples em funcionamento e também em proteção digital.

Cópia sistemática

De acordo com a pesquisa, modelos de IA “pequenos” entre 9 bilhões e 30 bilhões de parâmetros já conseguem executar muitas das etapas necessárias para a autorreplicação de um aparelho para o outro.

• O processo consiste em ações como identificar dispositivos vulneráveis, copiar a si mesmo para eles e seguir se espalhando dentro de uma mesma rede;
• Vários dispositivos de baixo custo podem trabalhar juntos para rodar um modelo mais capaz ou realizar ações conjuntas, assim como uma botnet convencional;
• A atuação desses sistemas é comparada a de worms, programas maliciosos e autorreplicáveis que se espalham por redes sem precisar de um arquivo hospedeiro;
• Um dos pontos de preocupação sobre essa capacidade está na dificuldade em desligar uma dessas redes de uma só vez: os sistemas agênticos operariam em redes distribuídas em vez de um servidor central, como botnets convencionais.

O GLM-5.2 teria feito a replicação de ponta a ponta em testes iniciais, mas um modelo pequeno leva atualmente até dois dias para se replicar em um hardware de baixo custo, indicando uma propagação ainda lenta e que poderia ser barrada nesse período.

A projeção da companhia é de que ao menos algum modelo conseguirá atingir o status de replicação autônoma de modo mais eficiente até o fim de 2026. Por enquanto, apesar do teor de preocupação da Anthropic, o ponto de sucesso completo não foi atingido em cenários realistas.

Como resultado do estudo, a Anthropic recomenda para o mercado uma segurança mais forte para dispositivos conectados e melhor monitoramento de rede para identificar atividades incomuns. A proteção digital contra ciberataques de IA é um dos temas mais recorrentes dessa área nas últimas semanas.

Sabia que agora é proibido ser ‘cruel’ com o chatbot Claude? Saiba mais nesta matéria!