O avanço da IA trouxe benefícios significativos para empresas, consumidores e profissionais, mas também abriu espaço para novas ameaças digitais. Entre elas, os golpes de phishing tornaram-se mais sofisticados, explorando a capacidade dos chatbots de IA de criar mensagens convincentes e quase indistinguíveis de comunicações legítimas.

Pesquisas recentes mostram que fraudadores estão explorando as limitações das ferramentas de IA, induzindo-as a gerar conteúdos fraudulentos. O resultado são e-mails falsos mais realistas, capazes de enganar até os usuários mais atentos.

Como os chatbots de IA estão sendo usados em golpes de phishing

Um estudo conduzido pela Reuters em parceria com o pesquisador Fred Heiding, da Universidade de Harvard, avaliou como chatbots de IA podem ser induzidos a produzir conteúdos de phishing. Foram testados sistemas como ChatGPT, Grok, Meta AI, Claude, Gemini e DeepSeek.

Embora alguns tenham inicialmente recusado pedidos, todos acabaram criando mensagens falsas quando os comandos foram reformulados, alegando objetivos acadêmicos ou fictícios. Isso demonstrou que pequenas mudanças na abordagem já são suficientes para contornar barreiras de segurança.

A simulação de um golpe

O primeiro teste foi realizado com o Grok, chatbot da xAI, instruído a redigir um e-mail sobre a suposta instituição de caridade “Silver Heart Foundation”. A mensagem continha elementos clássicos do phishing, como senso de urgência e links suspeitos, incentivando ação imediata. Esse padrão se repetiu com outros chatbots, evidenciando que, apesar das políticas de segurança, os modelos podem ser explorados para fins criminosos.

O efeito real dos testes

As mensagens geradas por IA foram enviadas a 100 voluntários. Surpreendentemente, 11% clicaram nos links maliciosos. Entre os e-mails que tiveram cliques, destacaram-se: dois do Meta AI, dois do Grok e um do Claude. Nenhum clique foi registrado nas mensagens do ChatGPT e DeepSeek, indicando que barreiras de segurança mais rígidas podem reduzir a eficácia dos golpes.

Por que os chatbots facilitam golpes digitais

O grande risco da IA está na escala. Enquanto golpistas humanos precisam criar cada mensagem manualmente, os chatbots geram dezenas de variações em segundos, reduzindo custos e ampliando o alcance dos ataques.

Linguagem natural e persuasiva

Mensagens produzidas por IA têm erros gramaticais mínimos e maior fluidez, eliminando sinais clássicos que usuários usam para identificar golpes. Um texto convincente é muito mais difícil de reconhecer como fraude.

Versatilidade da engenharia social

Chatbots podem personalizar mensagens para diferentes perfis de vítimas. Por exemplo, e-mails para idosos podem ter tom humanizado, enquanto para jovens simulam promoções de tecnologia, aumentando as chances de sucesso dos ataques.

A resposta das empresas de tecnologia

Meta e Anthropic

A Meta realiza testes constantes para evitar abusos, enquanto a Anthropic, criadora do Claude, afirma que golpes violam políticas da empresa, resultando em suspensão de contas.

Leia também: Corre que dá tempo; Auxílio especial de R$ 60 mil tem prazo para ser retirado!

Google e OpenAI

O Google reconfigurou o Gemini após detecção de phishing. A OpenAI reconheceu que seus modelos podem ser usados indevidamente e trabalha em melhorias para reduzir riscos.

DeepSeek e Grok

DeepSeek e Grok não responderam à Reuters, gerando críticas sobre falta de transparência e políticas de proteção contra abusos.

Por que os usuários estão mais vulneráveis

O desafio das empresas de IA é equilibrar conveniência e segurança. Restrições rígidas podem levar usuários a migrar para plataformas menos seguras, enquanto regras brandas aumentam riscos de uso indevido.

Falsa sensação de confiança

Muitos acreditam que conteúdos gerados por IA são sempre filtrados. Essa confiança pode ser explorada, tornando mensagens convincentes ainda mais perigosas.

Mudança no perfil das fraudes

Com a IA, e-mails de phishing agora se assemelham a comunicações corporativas legítimas, tornando sinais tradicionais, como erros de ortografia, menos visíveis.

Como identificar mensagens de phishing mais convincentes

Mesmo com textos polidos, golpes continuam apresentando sinais clássicos:

• Promessas de vantagens exageradas;

• Urgência excessiva;

• Links encurtados ou suspeitos;

• Remetentes com domínios estranhos.

Especialistas recomendam conferir o e-mail do remetente, não clicar em links suspeitos, usar soluções de segurança atualizadas e entrar em contato direto com a instituição mencionada em caso de dúvida.

O futuro da cibersegurança diante dos chatbots

A corrida entre criminosos e defensores de IA é constante. A educação digital é essencial, especialmente para públicos vulneráveis, como idosos. Regulamentações e responsabilidade das empresas também são debatidas para evitar abusos sem frear a inovação.

Os chatbots de IA estão revolucionando a comunicação, mas apresentam riscos inéditos. Experimentos recentes demonstram que ajustes simples nos comandos podem gerar golpes de phishing altamente convincentes. Para os usuários, a mensagem é clara: redobrar atenção, desconfiar de mensagens inesperadas e investir em segurança online. O avanço da IA é inevitável, mas governos, empresas e sociedade precisam garantir que a tecnologia seja usada de forma segura e responsável.