A Comissão Europeia iniciou uma investigação rigorosa para avaliar como o X (antigo Twitter) lida com a disseminação de deepfakes sexuais criados por meio do Grok, uma ferramenta de inteligência artificial. O objetivo principal é determinar se a plataforma está em conformidade com o Regulamento dos Serviços Digitais (RSD), que estabelece normas rígidas para a moderação de conteúdo na União Europeia.
O que motivou a investigação?
A investigação surge após relatos de que o Grok gerou deepfakes sexuais sem consentimento, expondo usuários a danos graves. Segundo a Comissão Europeia, há indícios de que a plataforma não mitigou adequadamente os riscos associados à implementação dessa tecnologia. Além disso, o órgão destaca que o conteúdo ilegal, incluindo imagens manipuladas com conotação sexual, pode se enquadrar como material de abuso infantil.
Em comunicado oficial, a UE afirmou:
“A nova investigação avaliará se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok no X na União Europeia. Isso inclui riscos relacionados à disseminação de conteúdo ilegal na UE, como imagens sexualmente explícitas manipuladas.”
Quais são as obrigações do X sob o RSD?
A Comissão Europeia exige que o X cumpra três obrigações principais:
- Minimizar a disseminação de conteúdos ilegais, incluindo deepfakes sexuais;
- Mitigar as consequências negativas decorrentes do uso do Grok na plataforma;
- Elaborar relatórios detalhados sobre avaliações de risco relacionadas ao Grok.
No entanto, a UE já identificou falhas nessas áreas, o que levou à expansão de um inquérito aberto em dezembro de 2023. Esse processo anterior já analisava o mecanismo de notificação do X e suas medidas contra conteúdos ilegais, como aqueles ligados ao terrorismo.
Possíveis consequências para o X
Caso a investigação confirme infrações ao RSD, o X pode enfrentar medidas severas. Entre as possibilidades estão:
- Suspensão temporária de funcionalidades específicas da plataforma;
- Multas de até 6% do volume anual de negócios da empresa.
Em dezembro de 2025, por exemplo, o X já foi multado em 120 milhões de euros por falta de transparência. Portanto, a não conformidade com as regras europeias pode resultar em penalidades financeiras significativas.
Expansão do inquérito de 2023
A nova investigação não é isolada. Ela faz parte de um processo mais amplo iniciado em 2023, que também avalia:
- O funcionamento do sistema de notificação e ação do X;
- Os riscos do algoritmo de recomendação, especialmente aqueles baseados no Grok;
- A possível violação das diretrizes do RSD.
Em conclusão, a Comissão Europeia demonstra uma postura firme contra a disseminação de deepfakes sexuais e outros conteúdos ilegais. A investigação reforça a necessidade de plataformas como o X adotarem medidas mais rígidas para proteger os usuários.