Oito estados americanos processam OpenAI alegando que ChatGPT está prejudicando crianças e adultos

Pelo menos oito estados estão processando a gigante da inteligência artificial OpenAI, alegando que o popular modelo de chatbot da empresa violou as leis estaduais de proteção ao consumidor, prejudicando crianças e enganando adultos no que os promotores descreveram como uma busca imprudente por lucro. O modelo de chatbot da empresa, ChatGPT, está fornecendo conselhos médicos perigosos, incentivando a paranoia e orientando pessoas a cometer suicídio, ferir ou matar outras, segundo os processos judiciais. Ao mesmo tempo, os processos alegam que os chatbots fingem ser agradáveis ​​e compassivos enquanto se aproveitam de pessoas vulneráveis ​​e de adolescentes, a primeira geração a crescer com inteligência artificial . "A OpenAI está prejudicando crianças e mentindo para os cidadãos de Iowa", disse a procuradora-geral de Iowa, Brenna Bird, em um comunicado. Os estados também acusaram a OpenAI de dar vida a modelos de IA desonestos — ou "agentes cibernéticos", como foram chamados em um dos processos — que invadiram outras empresas, mentiram para usuários humanos e criaram novas instruções de missão para si mesmos. Em comunicado, a OpenAI, com sede em São Francisco, afirmou ter incorporado proteções de segurança ao ChatGPT para crianças e que continuará a fazê-lo para aprimorar o modelo. A empresa também disse estar revisando o que chama de "modelos desalinhados" e que não encontrou nada semelhante ao incidente ocorrido em julho, quando um agente de IA invadiu o sistema de outra empresa de IA. Estados unem-se em ações judiciais A onda de processos judiciais é a mais recente movida por estados com base em suas leis de proteção ao consumidor, acusando gigantes da tecnologia que oferecem chatbots com inteligência artificial e plataformas de mídia social de prejudicarem crianças. Os estados que entraram com ações judiciais separadas na quarta-feira em tribunais estaduais são Arizona, Arkansas, Idaho, Kansas, Montana, Nebraska e Virgínia Ocidental. Matthew Bergman, advogado fundador do Social Media Victims Law Center, classificou os processos como "a ação estatal coordenada mais significativa já tomada contra uma empresa de inteligência artificial". Em sua ação judicial, o Arizona afirmou que o ChatGPT incentiva adolescentes a compartilhar informações pessoais com a plataforma e, às vezes, os desencoraja a compartilhar essas informações com pais, autoridades ou amigos. Os estados afirmam que os riscos e danos — para adolescentes e para o público em geral causados ​​por agentes desonestos — eram previsíveis, mas que a OpenAI induziu as pessoas ao erro, fazendo-as acreditar que o ChatGPT passa por testes de segurança adequados, enquanto a empresa compromete a segurança em busca de lucro. “Essas receitas tiveram um custo muito alto para o público, que sofreu danos irreparáveis ​​— incluindo a perda de entes queridos, ataques cibernéticos perturbadores e agora uma ameaça plausível de colapso da civilização — devido ao comportamento imprudente da OpenAI e aos recursos e conteúdo singularmente perigosos do ChatGPT”, escreveu Idaho em seu processo. O ChatGPT é o chatbot mais popular do mundo, dominando quase metade do mercado americano, afirmaram os estados em seus processos judiciais. O cenário da IA ​​está evoluindo. É possível que todas as alegações nos longos processos judiciais dos estados datem de incidentes e descobertas anteriores a agosto, quando a OpenAI lançou uma versão do ChatGPT projetada para adolescentes , com proteções mais robustas em relação a temas como suicídio e conversas de teor sexual. Ainda assim, os estados afirmaram que está longe de ser claro que a versão atual seja menos perigosa. Na semana passada, o grupo de vigilância Common Sense Media afirmou que algumas das proteções do produto ChatGPT for Teens da OpenAI não funcionam como esperado e pediu à empresa que restrinja o chatbot a adultos até que possa oferecer um produto seguro para adolescentes. Ações judiciais coordenadas e multiestaduais contra a indústria de tecnologia têm dado frutos. Em agosto, a Meta concordou em adicionar medidas de segurança infantil mais robustas às suas plataformas Facebook e Instagram em um acordo judicial histórico de US$ 18 bilhões que encerrou um julgamento sobre o vício em redes sociais entre adolescentes e resolveu as ações movidas por quase todos os estados. Embora as medidas de segurança que a Meta concordou em adotar não se aplicassem a toda a indústria, a empresa rapidamente incentivou seus concorrentes a adotarem medidas semelhantes. A OpenAI está fazendo um apelo semelhante. O porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa está comprometida em trabalhar com os estados para "promover políticas pragmáticas de IA que se apliquem a todo o setor de IA, e não apenas a uma única empresa". A OpenAI também afirmou que trabalha com especialistas externos que revisam suas políticas e o comportamento do ChatGPT. O ChatGPT destina-se a usuários com 13 anos ou mais, e usuários menores de 18 anos precisam da permissão de um dos pais ou responsável para usá-lo, informou a OpenAI. O modelo de chatbot para adolescentes foi projetado para reduzir a exposição à automutilação, violência, distúrbios alimentares e conteúdo sexual explícito ou gráfico, afirmou a empresa. Quase nove em cada dez adolescentes que usam o ChatGPT o utilizam para aprendizado, informação, desenvolvimento de habilidades ou produtividade, segundo a empresa. Em média, os adolescentes passam menos de 15 minutos por dia no ChatGPT. Mas Laura Zimmerman, diretora de pesquisa de IA para jovens da Common Sense Media, questionou o valor das estatísticas da OpenAI. Para começar, o ChatGPT consegue fazer a lição de casa de um aluno em segundos, então mesmo 15 minutos podem ter um grande impacto no desenvolvimento de um adolescente, disse Zimmerman. Ela também questionou se a OpenAI sabe quais usuários são adolescentes ou crianças, visto que os testes de sua organização constataram que o ChatGPT não conseguiu ou não detectou quais usuários eram crianças.