A autoridade de segurança on-line da Austrália, a eSafety, avisou que poderá exigir de lojas de aplicativos e de mecanismos de busca o bloqueio de serviços de inteligência artificial que não adotarem sistemas eficazes de verificação etária. As regras entram em vigor em 9 de março.
A partir dessa data, ferramentas digitais disponíveis no país — incluindo buscadores com IA e chatbots como o ChatGPT — deverão impedir que menores de 18 anos acessem conteúdos sobre pornografia, violência extrema, automutilação e transtornos alimentares. Empresas que desrespeitarem a nova norma estarão sujeitas a multas de até 49,5 milhões de dólares australianos (cerca de R$ 180,8 milhões).
Pressão regulatória crescente
O anúncio amplia a ofensiva regulatória do governo australiano sobre plataformas digitais. Em dezembro passado, o país tornou-se o primeiro a proibir adolescentes de usar redes sociais, alegando riscos à saúde mental. Agora, o foco volta-se às soluções de IA, alvo de críticas e processos judiciais internacionais por, supostamente, não conterem ou até estimularem comportamentos autodestrutivos.
No exterior, empresas como OpenAI e Character.AI já enfrentam ações na Justiça relacionadas a interações com jovens. Embora a Austrália não tenha registrado casos de violência ligados diretamente a chatbots, a eSafety informou ter recebido relatos de crianças de até 10 anos utilizando essas ferramentas por até seis horas diárias.
Radiografia dos serviços de IA
Levantamento da Reuters constatou que, entre os 50 produtos de IA baseados em texto mais populares no país, apenas nove implementaram ou anunciaram sistemas de verificação de idade. Outras 11 plataformas adotaram filtros amplos ou decidiram bloquear totalmente o acesso no território australiano, atendendo, assim, às exigências. Restam cerca de 30 serviços sem medidas aparentes para cumprir o novo código.
Entre os principais assistentes conversacionais, ChatGPT, Replika e Claude já começaram a introduzir verificações ou filtros mais rígidos. A Character.AI limitou o acesso de menores a chats públicos. Por outro lado, aproximadamente três quartos dos chamados “chatbots complementares” continuam sem qualquer filtragem ou plano claro de checagem de idade, e muitos nem oferecem canal de denúncia, outro requisito obrigatório.
A ferramenta Grok, da xAI, não exibia verificação etária ou filtros textuais adequados até o anúncio da eSafety. Procurada, a empresa não se manifestou. Questionadas sobre o cumprimento das novas regras, Apple e Google — que administram as principais lojas de aplicativos do país — deram respostas diferentes: a Apple informou em seu site que pretende adotar “métodos razoáveis” para impedir o download de apps restritos a maiores de 18 anos, sem detalhar como; o Google preferiu não comentar.
Com informações de Olhar Digital
