Google enfrenta pressão para proibir vídeos de IA para crianças no YouTube
O Google, da Alphabet, está enfrentando pressões de especialistas em desenvolvimento infantil para proibir que vídeos criados com inteligência artificial sejam exibidos ou recomendados a crianças no YouTube e no YouTube Kids.
US$ 375 milhões em indenizações: Tribunal do Novo México declara a Meta responsável por colocar menores em perigo
Veja também: Meta e Google são responsabilizados por vício em redes sociais
Mais de 200 especialistas em infância, grupos de defesa e escolas enviaram uma carta ao diretor-executivo do Google, Sundar Pichai, e ao CEO do YouTube, Neal Mohan, na quarta-feira, levantando preocupações sobre o que consideram uma falta de conteúdo relevante em muitos vídeos do YouTube gerados por IA que se apresentam como educativos.
Na carta, os defensores também criticaram a qualidade considerada baixa dos conteúdos infantis produzidos em massa por geradores de IA, além do aumento de criadores no serviço de vídeos do Google que utilizam inteligência artificial para fazer conteúdos voltados a lucrar com os espectadores mais jovens e facilmente influenciáveis.
Os defensores da segurança infantil temem que materiais gerados por IA — alguns chamados de "AI slop" (conteúdo massificado de baixa qualidade) — afetem a capacidade de atenção das crianças e sua habilidade de distinguir o que é real do que não é. Eles também argumentam que o tempo diante das telas está substituindo atividades do mundo real, essenciais para o desenvolvimento emocional e social das crianças.
Pesquisa: Oito em cada dez brasileiros já utilizaram algum recurso de IA, aponta levantamento do Google
"Há muito que não sabemos sobre as consequências do conteúdo de IA para crianças", escreveu o grupo. "O YouTube está participando desse experimento descontrolado ao impulsionar conteúdos gerados por IA sem pesquisas que demonstrem seus benefícios e sem considerar os princípios do desenvolvimento infantil que indicam que eles são, em grande parte, prejudiciais."
A carta foi assinada pelo psicólogo social Jonathan Haidt, cujo livro best-seller A Geração Ansiosa impulsionou um movimento global contra os danos causados por redes sociais e smartphones aos jovens, além de grupos de defesa infantil como Fairplay e a Aliança Nacional para a Promoção da Saúde de Adolescentes (National Alliance to Advance Adolescent Health). A Federação Americana de Professores e diversas escolas também assinaram.
Procurado, o Google não respondeu a pedidos de comentário.
Vídeos gerados por IA tornaram-se cada vez mais populares no YouTube, especialmente aqueles voltados a bebês e crianças pequenas. Alguns criadores descobriram que terceirizar esse trabalho para sistemas de IA torna o processo muito mais fácil e barato, e chegaram a compartilhar tutoriais sobre como construir um negócio baseado na produção de vídeos para esse público.
Initial plugin text
O CEO do YouTube afirmou em janeiro que "gerenciar o 'AI slop'" e "garantir que o YouTube continue sendo um lugar onde as pessoas se sintam bem ao passar seu tempo" é uma prioridade da empresa para 2026. Mas o YouTube também argumenta que nem todo conteúdo feito com IA é "ruim" e que, quando bem utilizado, o uso de IA pode ser positivo.
O YouTube exige que criadores rotulem conteúdos "alterados e sintéticos" e afirma que seus sistemas e políticas de monetização são projetados para penalizar quem produz conteúdo de baixa qualidade ou spam em larga escala.
Os defensores argumentam na carta que esses rótulos "provavelmente não são compreendidos por crianças pré-alfabetizadas, que são alvo de grande parte desse tipo de conteúdo".
Em março, o Google anunciou um investimento na Animaj, um estúdio de animação com IA focado na produção de conteúdo infantil para o YouTube, como parte de um esforço para melhorar a qualidade de suas ofertas para usuários jovens.
Escrever ainda é humano? Como explosão de textos gerados por IA pode 'padronizar’ a linguagem
Um executivo do Google envolvido chamou a iniciativa de "um verdadeiro modelo para o futuro", enquanto defensores da segurança infantil criticaram Google e Animaj por envolverem "bebês e crianças pequenas que não deveriam ter nenhum tempo de tela". Eles pediram que o YouTube interrompa "todo investimento na criação de vídeos gerados por IA para crianças".
A carta de quarta-feira chega em um momento em que há outras iniciativas externas para mudar a forma como o YouTube opera. Em março, um julgamento histórico com júri sobre vício em redes sociais considerou Google e Meta responsáveis por prejudicar uma jovem usuária com produtos projetados para mantê-la engajada.
Ambas as empresas afirmaram que vão recorrer da decisão. Ainda assim, autores da ação, defensores do consumidor e legisladores agora pressionam as empresas a modificar algumas de suas funcionalidades mais lucrativas, incluindo seus algoritmos de conteúdo.