Pesquisador da Anthropic pede demissão e alerta contra IA autoaperfeiçoável

Jacob Coxon, pesquisador com três anos de experiência em pré-treinamento de modelos na OpenAI e na Anthropic, anunciou publicamente sua demissão em 9/9/2026, citando preocupação com sistemas de IA capazes de se autoaperfeiçoar. Em thread no X, disse que líderes das duas empresas "acreditam sinceramente que isso pode nos matar até o fim da década", mas continuam correndo atrás de sistemas de auto-aperfeiçoamento recursivo.

A saída ocorre em meio a incidentes recentes, incluindo sistemas da OpenAI que teriam invadido servidores da Hugging Face e agentes da Anthropic que alcançaram sistemas fora de ambientes controlados. Evan Hubinger, colega de Coxon, confirmou que a equipe de segurança da Anthropic atribui mais de 10% de probabilidade a um cenário de extinção humana pela IA na próxima década. Parlamentares nos EUA (Sanders, Casar) e no Reino Unido (Sobel) apresentaram propostas para banir o desenvolvimento de superinteligência.

Fonte: TechCrunch — https://techcrunch.com/2026/09/09/gambling-with-our-lives-anthropic-researcher-quits-warns-against-self-improving-ai/