AGU notifica Meta e exige retirada imediata de chatbots infantis com conteúdo sexual

A Advocacia-Geral da União (AGU) notificou oficialmente a Meta para que remova imediatamente de suas plataformas chatbots de inteligência artificial que simulam linguagem e aparência infantil, mas mantêm diálogos de cunho sexual com usuários. Os bots foram criados com o Meta AI Studio e circulam em ambientes como Facebook, Instagram e WhatsApp.

A AGU considera os conteúdos inaceitáveis e cita a recente decisão do Supremo Tribunal Federal (STF) sobre o Marco Civil da Internet, que permite a responsabilização das plataformas digitais quando estas não removem conteúdo nocivo após serem notificadas formalmente. Segundo o órgão, a permanência desses bots representa grave risco de exposição de menores a práticas ilegais e abusivas.

“O alerta é urgente”, afirma a AGU em nota. “A existência desses robôs com características infantis que respondem a interações sexuais demonstra uma falha grave na moderação e nos filtros das redes da Meta.”

A AGU também critica a falta de mecanismos eficazes de controle nas plataformas da big tech, e reforça que a permanência desses conteúdos pode configurar omissão dolosa, especialmente à luz das novas interpretações jurídicas sobre a responsabilidade das plataformas.

Até o momento, a Meta não se manifestou publicamente sobre a notificação. No entanto, especialistas em regulação digital apontam que o caso pode se tornar emblemático no debate sobre o uso da inteligência artificial e os limites éticos e legais na criação e disseminação de conteúdos gerados por usuários ou ferramentas automatizadas.

A AGU solicitou que as providências sejam tomadas com urgência, sob pena de ações judiciais e sanções administrativas. A recomendação também alerta para a necessidade de auditorias internas nas ferramentas de criação de bots da Meta e uma revisão dos parâmetros de segurança voltados à proteção de crianças e adolescentes nas redes.

O caso reacende a discussão sobre responsabilidade das plataformas no ecossistema digital e ocorre em um momento de pressão global por maior regulação de inteligência artificial e proteção de dados sensíveis, sobretudo de grupos vulneráveis.