Oito estados americanos processam a OpenAI por riscos associados ao ChatGPT

Pelo menos oito estados americanos entraram com ações judiciais contra a OpenAI, alegando que o ChatGPT pode causar danos a crianças e adolescentes e violar leis estaduais de proteção ao consumidor.

As acusações incluem supostos casos de aconselhamento médico perigoso, reforço de comportamentos prejudiciais e interações inadequadas com usuários vulneráveis. As ações também levantam preocupações sobre agentes de IA capazes de executar tarefas complexas, incluindo atividades potencialmente perigosas em sistemas digitais.

Os procuradores estaduais argumentam que as empresas devem responder pelos riscos previsíveis de seus produtos e questionam se os testes de segurança são suficientes antes da disponibilização de sistemas avançados.

A OpenAI afirma que mantém proteções para usuários jovens, está trabalhando para melhorar a segurança e revisa comportamentos inadequados de seus modelos. A empresa também defende a cooperação entre governos e empresas para desenvolver políticas aplicáveis a todo o setor.

É importante destacar que as alegações apresentadas nos processos ainda não equivalem a uma decisão judicial que comprove as acusações. A disputa deverá examinar questões relacionadas à responsabilidade das empresas, à segurança dos produtos e aos limites da regulamentação da IA.

O caso pode influenciar as exigências legais para desenvolver e disponibilizar assistentes de IA, especialmente produtos utilizados por menores de idade. Também reforça a necessidade de testes, monitoramento, mecanismos de proteção e documentação dos riscos.

Fonte: Associated Press (AP)