Oito estados americanos processam OpenAI alegando que ChatGPT está prejudicando crianças e adultos

Ao menos oito estados americanos anunciaram um processo contra a OpenAI, dizendo que, por violações de leis estaduais de proteção ao consumidor, o ChatGPT está prejudicando crianças e enganando adultos no que os promotores descreveram como uma busca imprudente por lucro. Segundo os estados, o chatbot fornece conselhos médicos perigosos, incentivando a paranoia e orientando pessoas a cometer suicídio, ferir ou matar outras, segundo os processos judiciais. Do outro lado, eles dizem que o Chat finge ser agradável enquanto se aproveitam de pessoas vulneráveis e de adolescentes, a primeira geração a crescer com inteligência artificial. Os estados também acusaram a OpenAI de dar vida a modelos de IA desonestos que invadiram outras empresas, mentiram para usuários humanos e criaram novas instruções de missão para si mesmos. Sede da OpenAI. Divulgação A OpenAI afirmou ter incorporado proteções de segurança ao ChatGPT para crianças e que continuará a fazê-lo para aprimorar o modelo. A empresa também disse estar revisando o que chama de 'modelos desalinhados' e que não encontrou nada semelhante ao incidente ocorrido em julho, quando um agente de IA invadiu o sistema de outra empresa de IA. Os estados que entraram com ações judiciais separadas nessa semana em tribunais estaduais são Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska e Virgínia Ocidental. Em sua ação judicial, o Arizona afirmou que o ChatGPT incentiva adolescentes a compartilhar informações pessoais com a plataforma e, às vezes, os desencoraja a compartilhar essas informações com pais, autoridades ou amigos. Os estados afirmam que os riscos e danos eram previsíveis, mas que a OpenAI induziu as pessoas ao erro, fazendo elas acreditarem que o ChatGPT passa por testes de segurança adequados, enquanto a empresa compromete a segurança em busca de lucro. Quase nove em cada dez adolescentes que usam o ChatGPT o utilizam para aprendizado, informação, desenvolvimento de habilidades ou produtividade, segundo a empresa. Em média, os adolescentes passam menos de 15 minutos por dia no ChatGPT. Em agosto, a Meta concordou em adicionar medidas de segurança infantil mais robustas às suas plataformas Facebook e Instagram em um acordo judicial histórico de US$ 18 bilhões que encerrou um julgamento sobre o vício em redes sociais entre adolescentes e resolveu as ações movidas por quase todos os estados.