Como prevenir golpes de phishing com inteligência artificial?

O phishing frequentemente está entre as principais ameaças cibernéticas para qualquer negócio. Se você possui uma plataforma online, criminosos podem usar phishing para roubar as credenciais de seus usuários, levando à violações de dados e custos relacionados à redefinição de senhas e comunicação com os usuários afetados.

Mesmo empresas que não operam nenhuma plataforma precisam ter cuidado, já que certamente usam uma plataforma - na verdade, todas as empresas provavelmente usam múltiplas plataformas de tecnologia para todo tipo de tarefa, desde e-mail, armazenamento até gerenciamento de mídia social. Qualquer funcionário ou fornecedor pode ser vítima de ataques de phishing que visam as credenciais dessas plataformas e, na pior das hipóteses, da rede corporativa em si.

Este cenário está sempre mudando à medida que os hackers experimentam novas abordagens. É por isso que mensagens de phishing encontraram seu caminho para os sites de mídia social - em comentários, anúncios e mensagens privadas. Agora, há mais uma mudança significativa se aproximando: a inteligência artificial generativa.

Os criminosos podem usar IA para ajudá-los a escrever mensagens de phishing, criar imagens únicas para conteúdo mais envolvente e analisar qualquer dado que possam encontrar sobre uma vítima para tecer uma narrativa mais convincente ou relevante para um usuário específico. Isso também funciona para adaptar uma mensagem a diferentes plataformas de mídia social.

Essa mudança já está em andamento - um relatório da SlashNext encontrou um aumento de 1.265% em e-mails de phishing desde a introdução do ChatGPT.

Embora não seja fácil ter certeza de que uma determinada mensagem foi escrita por uma ferramenta de IA generativa, isso também não é totalmente necessário para combater a ameaça de phishing. O importante é entender que essa tecnologia pode ser usada para ajudar a criar uma variedade maior de mensagens de phishing - mesmo quando o processo não é completamente automatizado.

Como podemos nos manter atualizados para proteger nossos negócios e nossos clientes contra o phishing?

Usando IA para detectar e responder ao phishing

Os criminosos não são os únicos a terem IA à sua disposição. Assim como a IA generativa pode acelerar ou até mesmo automatizar o processo de criação de uma mensagem de phishing, modelos de aprendizado automático podem ser treinados para reconhecer sites de fraude que tentam roubar credenciais ou outros tipos de informações.

A plataforma da Axur foi desenvolvida para ajudar as empresas a remover ataques de phishing que visam sua marca. Usamos tecnologia de IA para filtrar mensagens e conteúdos suspeitos em muitos ambientes da web, analisando o texto quanto à presença de termos ou referências às marcas monitoradas por nossa solução. O conteúdo de áudio passa pelo mesmo filtro após ser transcrito por IA.

Os links encontrados dentro de mensagens suspeitas são processados usando uma combinação de IA e algoritmos tradicionais que escaneiam a página em busca dos sinais reveladores de uma campanha de phishing, incluindo:

• Uma inspeção visual baseada em IA que identifica elementos semelhantes, como logotipos da marca, fotos de executivos ou outros objetos.
• Técnicas de evasão que tentam impedir que sistemas de monitoramento acessem o site.
• A linguagem utilizada e a desambiguação da marca para reduzir falsos positivos, especialmente para marcas baseadas em palavras comuns (Amazon, Apple e Office são exemplos).
• A presença de um campo de senha, o que sugere uma tentativa de roubo de credenciais.
  
  

O processamento visual habilitado por IA é realmente um grande avanço aqui. Um desafio significativo na detecção de phishing é que as páginas podem usar códigos completamente diferentes mas ainda parecer exatamente iguais. Quando analisamos o phishing visualmente, estamos olhando para a página exatamente como um humano faria. Temos visibilidade sobre o que os criminosos querem que a vítima veja, e podemos fazer isso em grande escala, 24 horas por dia, 7 dias por semana.

Graças a isso, muitas campanhas de phishing que costumavam parecer "diferentes" agora são corretamente determinadas como relacionadas. Independentemente de quantos golpes de phishing diferentes gerados por IA um atacante tentar criar, o scanner ainda é capaz de detectar uma tentativa de phishing identificando os elementos essenciais que definem uma tentativa de phishing.

Tudo o que foi encontrado em uma página da web maliciosa pode ser usado para estabelecer um nível de risco para aquela campanha. É aqui que a resposta ao ataque de phishing pode começar.

Prevenindo fraudes com takedowns

Não importa quantas iscas diferentes uma campanha de phishing use, os criminosos ainda dependem de sites maliciosos que estão disponíveis em endereços específicos. Mesmo que a inteligência artificial generativa possa automatizar a criação do texto e das imagens usadas em campanhas de phishing, a infraestrutura necessária para o ataque não pode ser automatizada da mesma forma.

Na plataforma da Axur, a resposta aos ataques de phishing pode ser configurada com base em seu nível de risco, para que campanhas consideradas de "alto risco" possam ser imediatamente marcadas para takedowns automáticos.

Quando a página da web está fora do ar, os usuários não podem se tornar vítimas dessa campanha, mesmo que cliquem no link do e-mail ou post em mídia social que está tentando atraí-los.

Em nossa experiência, certos criminosos até desistem de mirar em marcas que combatem o phishing com takedowns. A razão é que configurar a infraestrutura requer bastante trabalho - se a página da web maliciosa não permanecer online tempo suficiente para que a fraude seja bem-sucedida, o ator da ameaça pode perceber que está apenas perdendo seu tempo.

Em conclusão, o uso de tecnologia de IA para inspeção visual em conjunto com outras regras personalizáveis permite a detecção de muitas campanhas de phishing que, de outra forma, representariam um desafio. Por fim, conforme ataques em potencial são encontrados, filtrar campanhas por nível de risco e ter a opção de acionar uma solicitação de takedown permite que as empresas mantenham uma estratégia eficaz para combater o phishing em grande escala sem ficarem sobrecarregadas por um número excessivo de alertas ou procedimentos manuais demorados.