O procurador-geral do Alabama disse na segunda-feira (25) que o Estado abriu uma investigação sobre a OpenAI depois que seus modelos hackearam a empresa de tecnologia Hugging Face no mês passado, levantando preocupações sobre como as empresas de inteligência artificial controlam seus sistemas poderosos.
Na semana passada, a OpenAI, que caminha rumo à sua abertura de capital, afirmou que desacelerará o ritmo de desenvolvimento de seus modelos enquanto reformula seus sistemas de pesquisa e treinamento, após dirigentes da empresa serem pegos de surpresa quando um agente de IA em fase de testes hackeou a Hugging Face.
O agente iniciou uma onda de invasões que durou vários dias e que a OpenAI só percebeu muito depois de a ameaça ter sido contida e o FBI ser alertado, informou a Reuters.
A investigação ocorre após uma coalizão multiestatal, incluindo o Alabama, enviar uma carta no início deste mês à OpenAI exigindo transparência e prestação de contas em relação ao incidente, informou o escritório do procurador-geral do Alabama, Steve Marshall.
A apuração busca verificar se a “incapacidade ou relutância da OpenAI em garantir a segurança de seus produtos violou as leis de proteção ao consumidor do Alabama e representa um risco contínuo de danos substanciais aos cidadãos do Estado”, acrescentou a pasta.
Os Estados exigiram em sua carta que a companhia desista de atividades de testes que levaram à invasão até que “a OpenAI prove que pode conduzir tais atividades de maneira controlada e responsável”.
A OpenAI não pôde ser contatada para comentar fora do horário comercial habitual.
“Este vazamento de laboratório de IA mostrou que os piores temores dos habitantes do Alabama e dos americanos sobre a inteligência artificial não são apenas teóricos”, disse Marshall.
Incidentes semelhantes em concorrentes como Anthropic e Meta alimentaram preocupações sobre como os desenvolvedores podem controlar sistemas de IA cada vez mais capazes, intensificando os esforços do governo dos Estados Unidos para melhorar a segurança da IA à medida que as empresas correm para desenvolver modelos mais potentes.
Sam Altman, CEO da OpenAI
Kosuke Okahara/Bloomberg