Anthropic alerta para o risco de agentes de IA capazes de se autorreplicar

A Anthropic alertou para a possibilidade de agentes maliciosos de IA conseguirem se propagar autonomamente pela internet, explorando dispositivos vulneráveis conectados à rede, como câmeras, televisores e equipamentos domésticos inteligentes.

A empresa ressalta que um agente totalmente autônomo com capacidade de autorreplicação ainda não foi demonstrado nesse cenário. A preocupação é que a combinação de modelos mais capazes, ferramentas de execução e dispositivos desatualizados torne ataques futuros mais rápidos e difíceis de conter.

A IA pode reduzir o esforço necessário para localizar vulnerabilidades e automatizar etapas de ataques. Por isso isolamento de processos, atualização de dependências, permissões mínimas e monitoramento de rede ganham ainda mais importância.

Fonte: Financial Times