O governo do Reino Unido anunciou nesta segunda-feira (16) que pretende endurecer a legislação para submeter chatbots às normas de segurança online, após a controvérsia envolvendo o Grok, assistente de inteligência artificial da rede social X, acusado de gerar imagens de nudez a partir de fotos reais.

O primeiro-ministro Keir Starmer afirmou que nenhuma plataforma terá tratamento especial e prometeu fechar brechas que coloquem crianças em risco. A medida surge em meio à pressão internacional sobre o funcionamento da ferramenta.

A Ofcom, reguladora britânica de internet, abriu investigação para apurar se o X descumpriu obrigações relacionadas à moderação de conteúdos ilegais e à proteção de menores. O órgão reconheceu a existência de uma lacuna legal: alguns chatbots escapam da lei atual quando permitem apenas interação direta com a própria IA, sem contato entre usuários.

Segundo o governo britânico, será apresentada uma emenda para obrigar todos os chatbots a proteger usuários contra conteúdos ilegais. O Executivo também avalia incluir novas medidas em um projeto de lei voltado ao bem-estar infantil, permitindo intervenções rápidas diante de avanços tecnológicos.

A Ofcom pode aplicar multas de até 10% do faturamento global de empresas que descumprirem as regras.

No Brasil, o Instituto de Defesa de Consumidores solicitou à Autoridade Nacional de Proteção de Dados a suspensão do Grok, alegando uso indevido de dados pessoais, inclusive de crianças e adolescentes, na geração de imagens sexualizadas. A entidade argumenta que a ferramenta permite a criação de imagens manipuladas que mantêm características reais das pessoas retratadas, sem consentimento.

A plataforma segue em funcionamento e recentemente lançou uma atualização que promete geração de vídeos com maior qualidade de imagem e áudio.