OpenAI compra empresa especializada em clonar vozes humanas, ferramenta que a própria companhia já afirmou ser perigosa
A OpenAI, dona do ChatGPT, comprou a startup Weights.gg, empresa especializada em ferramentas de inteligência artificial capazes de clonar vozes humanas, segundo o jornal americano The New York Times. A aquisição, que não havia sido divulgada publicamente, incluiu tanto a equipe da companhia quanto sua propriedade intelectual, segundo pessoas familiarizadas com o acordo. Os valores da negociação não foram revelados. A Weights.gg anunciou oficialmente o encerramento dos seus serviços em março deste ano.
'Eu me candidatei a papa': pessoas contam como 'espiral' do ChatGPT os fez perder o contato com a realidade
Veja também: Advogados de Sam Altman acusam defesa de Musk de apresentar alegações 'sem provas' em julgamento da OpenAI
A startup funcionava como uma espécie de rede social voltada para criação e compartilhamento de algoritmos de inteligência artificial. Por meio do aplicativo gratuito chamado Replay, usuários conseguiam gerar vozes artificiais extremamente realistas, incluindo clones de vozes de celebridades.
Entre os modelos mais populares da plataforma estavam reproduções de vozes da cantora Taylor Swift, do rapper Kanye West e integrantes do grupo sul-coreano Blackpink. Um usuário do YouTube chegou a demonstrar como utilizou a tecnologia da empresa para replicar a voz do ator Samuel L. Jackson.
A própria OpenAI já havia demonstrado preocupação pública com os riscos da clonagem de voz por inteligência artificial. Há dois anos, pesquisadores da empresa publicaram um texto explicando que haviam desenvolvido uma tecnologia avançada de replicação vocal, mas decidiram não liberá-la amplamente ao público por cautela.
Mesmo mantendo oficialmente essa posição, a aquisição da Weights.gg mostra que a empresa continua investindo no desenvolvimento desse tipo de tecnologia. O avanço das ferramentas de clonagem de voz tem provocado debates sobre segurança digital, golpes virtuais, desinformação e uso indevido da imagem e identidade de artistas e figuras públicas.
Nos últimos meses, o crescimento de conteúdos gerados por inteligência artificial usando vozes de famosos aumentou a pressão sobre empresas de tecnologia para criarem mecanismos de proteção e controle contra abusos.