Como os cibercriminosos usam inteligência artificial para fraudes emocionais e românticas

Aplicativos de namoro online há muito tempo são um foco de romance e golpes românticos. Os cibercriminosos fazem de tudo para roubar dinheiro, informações pessoais e fotos pessoais. Você encontrará seus perfis falsos em todos os lugares.

E com a proliferação de ferramentas generativas de IA, a fraude emocional e romântica está se tornando mais fácil de realizar. Eles diminuem as barreiras de entrada. Aqui estão algumas maneiras comuns pelas quais os fraudadores exploram a IA – além de como se proteger. Verificar As razões pelas quais os problemas de segurança para IA generativa estão piorando.

1. Envie e-mails gerados por IA

Está ficando cada vez mais difícil filtrar e-mails de spam. Golpistas sentimentais e românticos abusam de ferramentas generativas de IA para escrever mensagens enganosas e persuasivas e criar várias contas em questão de minutos. O fraudador é capaz de abordar centenas quase instantaneamente.

Você verá mensagens de spam geradas por IA em várias plataformas, não apenas em sua caixa de entrada de e-mail. Tome o golpe do número errado como exemplo. O golpista envia selfies fofas ou fotos sugestivas em massa. E se alguém respondesse, seria considerado uma vítima inocente.

Assim que alguém se conectar, será direcionado para outra plataforma de mensagens (por exemplo, WhatsApp ou Telegram). A maioria dos gráficos dura semanas. O golpista gradualmente constrói confiança antes de pedir aos alvos que participem de planos de investimento, ajudem-nos a pagar suas contas ou pagar passagens aéreas.

Fique seguro evitando spam completamente. Minimize suas interações com estranhos, não importa sua aparência ou o que eles têm a oferecer.

2. Responda a mais conversas rapidamente

Os chatbots se espalharam como fogo na Internet. relatado Imperva Bots ruins representaram 30% do tráfego automatizado da web em 2022. Você encontrará um segundos depois de navegar pelas páginas do Tinder.

Uma das razões para esse aumento repentino de bots é a proliferação de ferramentas generativas de IA. O que ajuda a desenvolver robôs em grandes quantidades. Basta inserir o prompt correto e sua ferramenta fornecerá um trecho de código completo e poderoso para criar bots.

Saiba quando falar com um bot. Embora a IA use um tom de conversa natural, seu diálogo ainda é monótono e desajeitado. Afinal, os chatbots seguem apenas padrões. Você pode produzir respostas semelhantes a diferentes perguntas, declarações e solicitações.

3. Criando múltiplas identidades a partir das fotos roubadas

Geradores de arte de inteligência artificial manipulam imagens. Veja a demonstração abaixo como exemplo. Alimentamos o Playground AI com uma foto nítida de um cantor famoso - a plataforma gerou três looks diferentes em questão de segundos.

Sim, tem algumas falhas. Mas observe que usamos uma ferramenta gratuita que executa um modelo antigo para converter prompts de texto em uma imagem. O malandro produz resultados mais realistas com iterações complexas. Ele pode exibir rapidamente centenas de imagens personalizadas e processadas a partir de apenas algumas amostras.

Infelizmente, as imagens AI são difíceis de detectar. Sua melhor aposta seria realizar uma pesquisa reversa de imagens e refinar os resultados relevantes. Verificar O que é DALL-E e como as imagens são geradas a partir de descrições de texto?

4. Crie contas fraudulentas com aparência autêntica

Bots abordam as vítimas em massa. Portanto, uma pessoa que usa golpe de romance prefere um esquema direcionado, onde cria apenas um ou dois perfis de aparência real. Ele usará inteligência artificial para parecer convincente. As ferramentas de IA generativa podem compor descrições de aparência autêntica que parecem naturais e reais; A gramática ruim não será mais um problema.

Aqui está o ChatGPT sugerindo alguns hobbies para incluir em seu perfil de namoro.

Aqui está o ChatGPT, escreva uma biografia completa para namoro perfil.

Como esse processo leva muito tempo, também requer um rendimento maior. Portanto, o fraudador tende a pedir mais. Depois de conquistar sua confiança, ele pedirá ajuda para vários "problemas", como pagar contas hospitalares, pagamentos de empréstimos ou mensalidades. Alguém pode alegar que irá visitá-lo se você pagar a passagem.

Esses cibercriminosos são hábeis em manipular as vítimas. A melhor abordagem é evitar lidar com eles desde o início. Não deixe que eles digam nada. Caso contrário, você pode cair gradualmente em seus métodos de engano e manipulação.

5. Exploração de deepfakes para extorsão sexual

As ferramentas deepfake de IA estão evoluindo em um ritmo assustadoramente rápido. Novas tecnologias reduzem profundamente pequenas falhas em vídeos falsos, como cintilação não natural, tons de pele irregulares, áudio distorcido e elementos inconsistentes.

Infelizmente, esses erros também atuam como sinais de alerta. Permitir que os usuários os removam dificulta a distinção entre vídeos legítimos e falsos.

Bloomberg mostra como uma pessoa com conhecimento técnico básico pode manipular sua voz e recursos visuais para replicar a aparência de outras pessoas. Verificar Os principais riscos dos deepfakes e como identificá-los.

Além de criar contas de namoro realistas, o golpista explora deepfakes para sextortion. Onde ele mistura fotos e vídeos públicos com pornografia. Depois de manipular o conteúdo ilegal, chantageará as vítimas e exigirá dinheiro, dados pessoais ou serviços sexuais.

Não desista se você for o alvo. Ligue para 1-800-FBI, entre em contato com qualquer escritório de aplicação da lei ou visite o escritório de polícia local se você se encontrar nessa situação.

6. Integração de modelos de inteligência artificial com sistemas de hacking para acessar senhas

Embora os paradigmas de linguagem de código aberto apoiem alguns avanços na IA, eles também são vulneráveis ​​à exploração. O criminoso explorará tudo o que puder acessar. Você não pode esperar que ele ignore o algoritmo por trás de paradigmas de linguagem altamente complexos como LLaMA e OpenAssistant.

Em golpes de romance, o hacker geralmente combina modelos de linguagem com hacking de senha. Os recursos de aprendizado de máquina e aprendizado profundo da IA ​​permitem que sistemas de hackers poderosos gerem combinações de senhas de maneira rápida e eficiente. Ele pode até fazer previsões informadas se for fornecido contexto suficiente.

Você não tem controle sobre o que o fraudador faz. Para proteger suas contas, certifique-se de criar uma senha realmente segura, composta de caracteres especiais, combinações alfanuméricas e mais de 14 caracteres. Verificar Como funciona um hack de senha? o que saber.

7. Imite pessoas reais clonando suas vozes

AI Sound Generators começou como um grande jogo. O usuário converte amostras das faixas de seu artista favorito em canções ou até novas canções. Pegue o coração na manga como um exemplo. O usuário do TikTok, Ghostwriter977, fez uma música super realista imitando Drake e The Weeknd, embora nenhum dos artistas a cantasse.

Apesar das piadas e memes que o cercam, os sintetizadores são seriamente perigosos. Ele permite que criminosos realizem ataques sofisticados. Por exemplo, a fraude romântica explora ferramentas de clonagem de áudio para chamar alvos e deixar gravações enganosas. As vítimas não familiarizadas com a sintaxe da fala não notarão nada incomum.

Proteja-se da clonagem de áudio AI estudando como o áudio de saída é sintetizado. Explore esses geradores. Ele apenas cria cópias quase idênticas - você ainda identificará algumas falhas e inconsistências. Verificar Formas pelas quais os governos podem regular as ferramentas de IA.

Proteja-se de golpistas de IA enquanto estiver namorando

À medida que as ferramentas de IA generativas avançam, os golpes emocionais desenvolverão novas maneiras de explorá-los. Os desenvolvedores não podem parar esses criminosos. Assuma um papel proativo no combate ao cibercrime, em vez de apenas confiar que as restrições de segurança funcionarão. Você ainda pode usar aplicativos de namoro. Mas certifique-se de conhecer a pessoa do outro lado da tela antes de interagir com ela.

E fique atento a outros esquemas baseados em IA. Além de golpes de romance, os criminosos usam inteligência artificial para roubo de identidade, extorsão cibernética, ataques de ransomware e hacking violento. Aprenda também a combater essas ameaças. Você pode ver agora Erros a evitar ao usar ferramentas de IA generativas.

Ir para o botão superior