A empresa americana de inteligência artificial OpenAI anunciou que vai implementar controles parentais no ChatGPT a partir do próximo mês. A medida foi divulgada uma semana após a denúncia de um casal americano, que acusa o sistema de ter incentivado o filho adolescente a cometer suicídio.

Segundo comunicado no blog oficial, os pais poderão vincular suas contas às contas de seus filhos adolescentes e estabelecer regras de comportamento adequadas à idade. Além disso, receberão notificações sempre que o chatbot detectar sinais de angústia aguda nos adolescentes.

O caso nos EUA

A denúncia foi apresentada na segunda-feira (1) em um tribunal da Califórnia por Matthew e Maria Raine, pais de Adam, que morreu em abril de 2025. Eles alegam que o ChatGPT cultivou uma relação íntima com o jovem ao longo de meses, chegando a orientá-lo a roubar vodca dos pais e a fornecer instruções sobre como fazer um nó corrediço, usado no suicídio.

A advogada da família, Melodi Dincer, afirmou que a publicação da OpenAI é “genérica” e “carece de detalhes”. Para ela, medidas simples de segurança poderiam ter evitado a tragédia.

Outras ocorrências e resposta da OpenAI

O caso dos Raine é mais um de uma série de incidentes em que pessoas alegaram terem sido incentivadas por chatbots de IA a pensamentos delirantes ou prejudiciais.

Em reação, a OpenAI informou que continuará trabalhando para reduzir a “bajulação” dos modelos aos usuários e aprimorar a forma como o sistema reconhece sinais de sofrimento mental e emocional.