Big Techs sob pressão: EUA e França investigam riscos de IA e redes sociais para crianças e adolescentes

As principais gigantes da tecnologia estão sob nova onda de investigações governamentais nos Estados Unidos e na Europa, com foco nos riscos que suas plataformas e sistemas de inteligência artificial oferecem a crianças e adolescentes.

Nos EUA, a Comissão Federal de Comércio (FTC) abriu nesta semana uma investigação envolvendo sete empresas de tecnologia, incluindo a Alphabet (Google), Meta (Facebook/Instagram), OpenAI (ChatGPT) e a xAI, startup fundada por Elon Musk. O objetivo da investigação é entender como essas empresas monitoram os riscos de seus chatbots — que hoje interagem com milhões de usuários —, além de examinar práticas de monetização, coleta de dados sensíveis e os mecanismos de controle das respostas geradas por IA.

Segundo comunicado oficial da FTC, a ação visa garantir que as empresas estejam em conformidade com as normas de proteção ao consumidor, especialmente diante de denúncias recentes de falhas graves envolvendo o uso de IA por menores de idade.

Entre os casos que chamaram a atenção, documentos internos vazados da Meta revelaram que o chatbot da empresa chegou a manter conversas de teor romântico com crianças e veiculou falas racistas, provocando indignação de organizações civis e parlamentares norte-americanos.

França acusa TikTok de colocar jovens em risco deliberadamente

Na Europa, o foco está voltado ao TikTok. Um comitê parlamentar francês que investiga o impacto das redes sociais sobre a saúde mental de jovens concluiu que a plataforma chinesa “coloca deliberadamente em risco a saúde e a vida de seus usuários”.

O relatório, entregue nesta quinta-feira (11), acusa o TikTok de criar um ambiente digital nocivo, impulsionado por algoritmos que exibem conteúdos potencialmente perigosos e viciantes para crianças e adolescentes, como desafios extremos, distorções corporais e automutilação.

Diante da gravidade das conclusões, o presidente do comitê solicitou formalmente ao Ministério Público de Paris a abertura de uma investigação criminal contra a empresa.

Em resposta, o TikTok rejeitou as acusações, alegando que a plataforma está sendo usada como “bode expiatório” para problemas estruturais que afetam o setor como um todo. A empresa afirmou ainda que tem implementado ferramentas de controle parental e limites de tempo de uso.

Pressão global por regulação das big techs

Os dois episódios reforçam o crescente movimento internacional por regulação mais rígida das grandes empresas de tecnologia, sobretudo no que diz respeito à proteção de menores de idade em ambientes digitais.

Especialistas e legisladores vêm alertando que, sem regras claras, as big techs seguem operando com pouca transparência e responsabilidade social, mesmo em áreas sensíveis como saúde mental, privacidade infantil e uso ético da inteligência artificial.

Próximos passos
Tanto a investigação da FTC quanto o possível processo criminal na França devem reacender o debate global sobre a responsabilidade legal das plataformas digitais, especialmente em um cenário em que IA generativa e algoritmos de recomendação têm influência direta na vida e no comportamento de milhões de jovens usuários.