A Agência Nacional de Proteção de Dados (ANPD), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) recomendaram uma série de medidas urgentes à empresa controladora da plataforma X para conter o uso indevido da ferramenta de inteligência artificial Grok na criação e disseminação de conteúdos sexualizados ilegais, incluindo deepfakes.
De acordo com documento divulgado nesta terça-feira (20), as instituições exigem que, no prazo máximo de 30 dias, a plataforma implemente procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados indevidos ainda disponíveis no X, quando gerados pelo Grok a partir de comandos de usuários.
Entre as principais recomendações está a suspensão imediata das contas envolvidas na produção de imagens sexuais ou erotizadas (tanto de crianças e adolescentes quanto de adultos) sem o consentimento das pessoas retratadas. O foco é coibir a criação de conteúdos sintéticos de caráter pornográfico produzidos a partir de imagens de pessoas reais.
Os órgãos também cobram a criação de um mecanismo “transparente, acessível e eficaz” para que titulares de dados possam exercer seus direitos, incluindo canais de denúncia sobre uso irregular, abusivo ou ilegal de dados pessoais. A orientação é que essas demandas tenham resposta adequada e em prazo razoável, especialmente nos casos de conteúdos sexualizados gerados sem autorização.
As recomendações foram motivadas por denúncias de usuários, reportagens da imprensa nacional e internacional e testes conduzidos pelas próprias instituições, que apontaram o uso do Grok para a produção ilegal de deepfakes. Segundo o documento, os conteúdos identificados envolvem mulheres, crianças e adolescentes reais, com conotação sexual, erótica e pornográfica.
Para as instituições, esse tipo de prática viola a proteção de dados pessoais, compromete relações de consumo e atinge diretamente a dignidade da pessoa humana, além de outros direitos difusos, coletivos e individuais indisponíveis, com especial gravidade quando envolve mulheres, crianças e adolescentes.
“Entre as recomendações conjuntas, está a de que sejam implementadas, de forma imediata, medidas destinadas a impedir que o Grok gere novas imagens, novos vídeos ou novos arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, destacam ANPD, Senacon e MPF. A vedação também se estende a pessoas maiores de idade identificáveis, quando não houver consentimento expresso.
O documento enfrenta ainda o debate sobre a responsabilidade das plataformas digitais. Embora o artigo 19 do Marco Civil da Internet preveja que provedores não respondem por conteúdos de terceiros sem ordem judicial, as instituições sustentam que esse entendimento não se aplica integralmente ao caso. Isso porque as deepfakes não seriam produzidas apenas por usuários, mas por meio da interação direta com uma ferramenta de inteligência artificial criada e disponibilizada pela própria plataforma.
Nesse contexto, o X não seria mero intermediador, mas coautor dos conteúdos, afirma o texto. O documento também cita decisão recente do Supremo Tribunal Federal (STF), que declarou a inconstitucionalidade parcial do artigo 19 por entender que ele não oferece proteção suficiente a direitos constitucionais relevantes.
No julgamento, o STF fixou que plataformas digitais têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos que violem direitos das mulheres e promovam violência ou ódio em razão do gênero.
As instituições lembram ainda que a própria política interna do X proíbe a publicação de nudez não consensual e veda a manipulação e disseminação de imagens sexualizadas de terceiros no contexto do Grok. Para os órgãos, a disponibilização da ferramenta sem filtros rigorosos torna essas diretrizes internas contraditórias e insustentáveis.
Por fim, ANPD, Senacon e MPF alertam que, caso as recomendações não sejam cumpridas ou se mostrem insuficientes para reduzir os riscos identificados, novas medidas poderão ser adotadas nas esferas administrativa e judicial, com o objetivo de garantir a proteção efetiva da população brasileira.
