Vídeos produzidos com ferramentas de inteligência artificial (IA) passaram a surgir com facilidade no YouTube após buscas por temas infantis, alertam pesquisadores e profissionais de saúde. Em um teste da BBC News Brasil, conteúdos desse tipo apareceram em menos de 15 minutos de navegação após pesquisas sobre Roblox, Minecraft e animais.
Entre os exemplos detectados estão um panda que reage de forma “humana” a um cuidador, um avatar de Jesus que ergue estátuas de si mesmo numa praia e canções infantis sem refrão definido, que misturam idiomas e apresentam letras incompreensíveis. Personagens que mudam nome, voz ou aparência sem explicação também são comuns.
Produção em escala e interesse comercial
Replicados por diversos canais, muitos vídeos acumulam dezenas ou centenas de milhares de visualizações. Criadores chegam a recomendar o nicho infantil como oportunidade de negócio, destacando a possibilidade de gerar receita por meio da monetização da plataforma.
Risco de confusão entre realidade e fantasia
Especialistas ouvidos pela reportagem afirmam que crianças pequenas podem não distinguir o real do fictício, o que afeta atenção, desenvolvimento cognitivo e social. Rachel Franz, da organização norte-americana Fairplay, classifica esses conteúdos como “AI slop” — materiais de baixa qualidade produzidos em massa — e lembra que, até os cinco anos, o cérebro infantil atinge 90% do tamanho adulto. “O que a criança encontra nesse período molda seu desenvolvimento e pode impactá-la pelo resto da vida”, diz.
A fonoaudióloga e psicopedagoga Telma Pantano, do Instituto de Psiquiatria do Hospital das Clínicas da USP, relata aumento de casos de crianças com medos e dificuldade para diferenciar fantasia de realidade. Segundo ela, a consolidação dessa distinção só começa por volta dos sete ou oito anos. “Até os dez, ainda é uma idade de muito risco”, afirma.
Estudos apontam forte presença de IA
Uma análise do New York Times indicou que mais de 40% dos vídeos exibidos em 15 minutos de navegação após um clipe do canal infantil CoComelon pareciam conter imagens geradas por IA. No Brasil, pesquisa conduzida por André Mintz, da Universidade Federal de Minas Gerais, e pela estudante Juno Bozzi partiu de 17 mil vídeos com palavras-chave relacionadas a IA e conteúdo infantil. Após filtros adicionais, identificou grande volume de produções voltadas a crianças, sobretudo musicais, adaptações de histórias, vídeos educativos e religiosos.
Chamaram atenção os chamados vídeos de “transformação”, nos quais personagens conhecidos ganham versões infantis geradas por IA, frequentemente com imagens genéricas e estereotipadas. “Há um certo desprezo pelo espectador infantil, confiando que a criança aceitará qualquer coisa”, diz Mintz.
Algoritmo e falta de supervisão
Para Mintz, a disseminação dos vídeos se apoia na dificuldade de muitas famílias em controlar o consumo online dos filhos e no próprio modelo de recomendação do YouTube. Franz acrescenta que recursos como reprodução automática mantêm as crianças engajadas por longos períodos. “Quando somamos o AI slop, torna-se quase impossível exercer o papel de pai ou mãe enquanto a tela disputa a atenção da criança”, afirma.
Posicionamento do YouTube
Em nota, o YouTube declara que combater conteúdo de baixa qualidade gerado por IA “é prioridade máxima”, sobretudo em vídeos destinados a crianças. A plataforma afirma remover produções que não cumpram seus princípios de qualidade e mantém a monetização somente para material original, que siga as diretrizes e informe claramente o uso de IA.
Durante entrevista ao canal Creator Inside, o vice-presidente de confiança e segurança do YouTube, Matt Halprin, classificou como problemáticos os vídeos genéricos ou repetitivos, os que manipulam emoções e os que criam personagens de IA para tratar de temas sensíveis, como finanças ou saúde.
João Victor Archegas, do Instituto de Tecnologia e Sociedade do Rio, considera positivo o YouTube sinalizar o que julga inadequado e limitar a monetização, mas vê contradição no incentivo simultâneo às ferramentas de IA. “A plataforma enfrenta o desafio de identificar esse conteúdo e agir quando o encontra”, avalia.
Com informações de BBC News Brasil
