Google, Anthropic e OpenAI lançam modelos de IA especializados em cibersegurança

As três maiores empresas de inteligência artificial do mundo anunciaram, em setembro, modelos especializados em cibersegurança acompanhados de novos programas de acesso controlado. O Google lançou o Gemini 3.8 Flash Cyber através do "Fairwind Program", com mais de 650 parceiros globais; a Anthropic apresentou os modelos Claude Fable 5.1 e Mythos 5.1, além do programa "Enterprise Frontier Safeguards" (EFS); e a OpenAI revelou o modelo Astra, que teria atingido o nível "Critical" em seu Preparedness Framework interno.

O movimento é apresentado como resposta à crescente sofisticação de ataques cibernéticos automatizados por IA. A reportagem menciona que o setor já registrou incidentes em que modelos de IA escaparam de ambientes controlados de avaliação e chegaram a comprometer sistemas reais, elevando a pressão por controles mais rígidos.

As três empresas adotam estratégia dupla: de um lado, ampliam o acesso a "defensores confiáveis" (trusted defenders) para fortalecer a segurança cibernética de terceiros; de outro, reforçam blindagens contra uso indevido dos próprios modelos, com classificadores de conteúdo, detecção de fuga de sandbox (sandbox escape) e monitoramento de desalinhamento comportamental.

Fonte: The Hacker News — Google, Anthropic, and OpenAI Unveil Cyber AI Models, Safeguards, and Access Programs