ANDP, Senacom e MPF pedem remoção de deepfakes, suspensão de contas e reforço de mecanismos de proteção na plataforma X
A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacon) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa controladora da plataforma digital X para coibir o uso indevido do Grok, ferramenta de inteligência artificial da rede, na geração e circulação de conteúdos sexualizados ilegais.
O documento, divulgado nesta terça-feira (20), determina que a empresa implemente, no prazo máximo de 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e remover conteúdos sexualizados ainda disponíveis na plataforma quando gerados pelo Grok a partir de comandos de usuários.
Entre as medidas recomendadas está a suspensão imediata de contas envolvidas na produção de imagens sexuais ou erotizadas, tanto de crianças e adolescentes quanto de adultos, quando feitas sem autorização. As instituições também exigem a criação de um mecanismo “transparente, acessível e eficaz” para que titulares de dados possam denunciar o uso irregular, abusivo ou ilegal de informações pessoais, com resposta adequada e dentro de prazo razoável.
As recomendações foram elaboradas após denúncias de usuários e análises técnicas realizadas pelos próprios órgãos, além de reportagens da imprensa nacional e internacional. Segundo o documento, foram identificados casos de uso da ferramenta para a produção de deepfakes — imagens sintéticas falsas criadas a partir de pessoas reais — com caráter sexualizado, erótico e até pornográfico, envolvendo mulheres, crianças e adolescentes reais.
De acordo com ANDP, Senacon e MPF, esse tipo de prática viola direitos fundamentais, como a proteção de dados pessoais, a dignidade da pessoa humana e direitos difusos e coletivos, afetando de forma mais grave mulheres, crianças e adolescentes.
“Entre as recomendações conjuntas, está a implementação imediata de medidas para impedir que o Grok gere novas imagens, vídeos ou arquivos de áudio que representem crianças e adolescentes em contextos sexualizados ou erotizados”, destacam as instituições. A restrição também deve alcançar conteúdos envolvendo pessoas maiores de idade identificáveis, quando não houver consentimento expresso.
O documento ressalta que, embora o artigo 19 do Marco Civil da Internet trate da responsabilidade de provedores apenas após decisão judicial, esse entendimento não se aplica integralmente ao caso. Isso porque as deepfakes não seriam produzidas apenas por terceiros, mas resultariam da interação direta entre usuários e a inteligência artificial disponibilizada pela própria plataforma, caracterizando, segundo o texto, uma forma de coautoria.
As instituições também lembram que o Supremo Tribunal Federal (STF) declarou recentemente a parcial inconstitucionalidade do artigo 19 do Marco Civil, ao entender que a norma não oferece proteção suficiente a direitos constitucionais relevantes. A Corte fixou que plataformas digitais têm dever especial de cuidado para evitar a circulação massiva de crimes graves, incluindo conteúdos de violência e ódio contra mulheres.
Outro ponto destacado é que as próprias regras internas do X proíbem a divulgação de nudez não consensual e a manipulação de imagens de terceiros com conteúdo sexualizado, inclusive no uso do Grok. Para os órgãos, a existência dessas normas torna “insustentável” a disponibilização de uma ferramenta de inteligência artificial sem filtros rigorosos que impeçam esse tipo de conduta.
Por fim, ANDP, Senacon e MPF alertam que, caso as recomendações não sejam cumpridas ou sejam adotadas de forma insuficiente, medidas administrativas e judiciais poderão ser tomadas para assegurar a proteção adequada dos cidadãos, com atenção especial a mulheres, crianças e adolescentes.
