A Comissão Europeia anunciou nesta segunda-feira (26) a abertura de uma investigação contra a rede social X por causa da criação de imagens sexualizadas e sem consentimento por parte de sua inteligência artificial, o Grok. O objetivo é apurar se a plataforma, que pertence ao empresário Elon Musk, está cumprindo as obrigações previstas nas leis digitais da União Europeia.

Em comunicado, Bruxelas informou que vai avaliar se o X analisou e mitigou de forma adequada os riscos ligados ao uso do Grok no bloco, incluindo a possível circulação de conteúdo ilegal. Entre os exemplos citados estão imagens manipuladas sexualmente explícitas, que podem até ser enquadradas como material de abuso sexual infantil.

A Comissão afirmou que os riscos “parecem ter se concretizado” e, por isso, vai investigar se o X está cumprindo a Lei de Serviços Digitais, especialmente no dever de avaliar e reduzir riscos sistêmicos. O órgão também quer saber se a empresa enviou à Comissão um relatório de riscos específico sobre as funcionalidades do Grok antes do lançamento da ferramenta, já que elas podem alterar de forma significativa o perfil de risco da plataforma.

Mesmo antes da abertura formal da investigação, a Comissão Europeia determinou que o X preserve toda a documentação interna relacionada ao Grok durante o ano de 2026. A medida faz parte de um processo já em andamento para analisar como a rede social atua contra conteúdos ilegais.

A decisão ocorre em meio a uma polêmica envolvendo imagens de crianças e mulheres nuas geradas pela ferramenta nas últimas semanas, o que levou o governo francês a acionar a Justiça contra o X. Além disso, a Comissão citou outros episódios envolvendo o Grok, como publicações de negacionismo do Holocausto no fim do ano passado.

A Comissão Europeia considera que, caso as acusações sejam confirmadas, o X pode ter violado diferentes artigos da Lei de Serviços Digitais, principalmente os que tratam da avaliação e mitigação de riscos sistêmicos para os cidadãos europeus.

Em dezembro do ano passado, Bruxelas já aplicou uma multa de 120 milhões de euros ao X por descumprimento de obrigações de transparência. Entre os pontos questionados estavam o “design enganoso” do selo de verificação azul, a falta de transparência no repositório de anúncios e a ausência de acesso adequado a dados públicos para pesquisadores.

Paralelamente, a Comissão também prorrogou nesta segunda-feira a investigação iniciada em 2023 sobre o cumprimento das obrigações de gestão de riscos nos sistemas de recomendação de conteúdo do X. O novo foco inclui o impacto da adoção de um sistema baseado em inteligência artificial com o Grok.