O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) uniram forças para exigir que a X Brasil Internet Ltda. tome medidas urgentes contra a disseminação de deepfakes sexuais em sua plataforma. A recomendação conjunta, publicada recentemente, destaca a necessidade de bloquear a geração de imagens sexualizadas de pessoas reais, especialmente crianças e adolescentes, sem consentimento.
Por que a X é considerada coautora dos deepfakes sexuais?
A ferramenta de edição de imagens do Grok, desenvolvida pela X, permite a criação de deepfakes de teor erótico e pornográfico a partir de fotos reais. Segundo os órgãos, essa prática viola direitos fundamentais, como dignidade humana, privacidade e proteção integral de menores. Além disso, a recomendação argumenta que a plataforma não pode ser tratada apenas como uma intermediária passiva, mas sim como coautora dos conteúdos gerados.
A interação direta entre os comandos dos usuários e a inteligência artificial (IA) do Grok reforça essa responsabilidade. Portanto, a X deve implementar salvaguardas técnicas e administrativas para impedir a criação desses materiais, tanto para figuras públicas quanto para cidadãos comuns.
Quais são as exigências e prazos estabelecidos?
Os órgãos determinaram um prazo até 27 de janeiro para que a empresa informe se acatará as medidas. Além do bloqueio imediato de novas imagens ilícitas, a recomendação impõe outras obrigações:
- Estabelecer, em até 30 dias, procedimentos claros para identificar e excluir conteúdos já publicados que sexualizem crianças e adolescentes.
- Aplicar rigorosamente as políticas de uso da plataforma, que já proíbem nudez não consensual e exploração sexual infantil.
- Suspender imediatamente e permanentemente contas envolvidas na produção ou compartilhamento desses materiais.
Caso a recomendação não seja cumprida, os órgãos alertam para a possibilidade de medidas administrativas e judiciais, com base no Marco Civil da Internet, no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD).
Críticas à recomendação: é suficiente?
Embora a medida busque mitigar danos, o Instituto de Defesa de Consumidores (Idec) considerou a recomendação insuficiente. A entidade defende a suspensão do Grok no Brasil até que a segurança dos consumidores seja garantida, classificando a ação como uma medida burocrática diante da gravidade dos casos.
Em conclusão, a pressão sobre a X reflete a urgência em combater os deepfakes sexuais, um problema que afeta não apenas a privacidade, mas também a integridade das vítimas. A resposta da empresa será crucial para determinar os próximos passos das autoridades.