Hackers Misusing ChatGPT Para Escrever Malware: Relatório da OpenAI

A OpenAI, a empresa por trás do popular chatbot de IA ChatGPT, revelou que interrompeu mais de 20 operações e redes enganosas em todo o mundo desde o início de 2024, incluindo redes ligadas a hackers patrocinados pelo estado iraniano e chinês.

Em um relatório publicado na quarta-feira, a empresa de IA generativa (GenAI) disse que essas operações envolveram o uso de um chatbot alimentado por IA, o ChatGPT, para depurar malware, escrever artigos para websites, gerar conteúdo postado por personas falsas em contas de redes sociais e espalhar desinformação relacionada a eleições.

De acordo com os pesquisadores Ben Nimmo e Michael Flossman, que escreveram o relatório, os atores de ameaça aproveitaram a IA durante as fases intermediárias de suas campanhas.

“Os atores de ameaça mais frequentemente usaram nossos modelos para realizar tarefas em uma fase específica e intermediária de atividade—depois de terem adquirido ferramentas básicas, como acesso à internet, endereços de e-mail e contas de redes sociais, mas antes de implantarem produtos ‘finalizados’, como postagens em redes sociais ou malware pela internet,” escreveram os pesquisadores no relatório.

No entanto, eles enfatizaram que, apesar do envolvimento da IA em ciberataques e campanhas de influência, seu impacto real até agora tem sido limitado.

Eles não encontraram evidências de que a IA tenha contribuído para a criação de novos malware avançados ou melhorado significativamente os esforços de desinformação.

O relatório da OpenAI destaca três grupos de ameaça principais que exploraram o ChatGPT para facilitar ciberataques:

SweetSpectre: Um grupo ligado à China, SweetSpectre, usou o ChatGPT para reconhecimento, pesquisa de vulnerabilidades, suporte a scripts, evasão de detecção de anomalias e desenvolvimento.

Foi também descoberto que e-mails de spear phishing com anexos maliciosos foram enviados para as contas de e-mail corporativas e pessoais de alguns funcionários da OpenAI, mas foram bloqueados antes de chegarem às caixas de entrada alvo.

CyberAv3ngers: Este grupo, ligado ao Corpo da Guarda Revolucionária Islâmica do Irã (IRGC), é conhecido por seus ataques disruptivos contra sistemas de controle industrial (ICS) e controladores lógicos programáveis (PLCs) usados em sistemas de água, manufatura e energia.

O grupo usou o modelo ChatGPT para pesquisar vulnerabilidades, depurar código e pedir conselhos sobre scripts para atacar infraestrutura tipicamente associada a Israel, Estados Unidos ou Irlanda.

STORM-0817: Outro ator de ameaça baseado no Irã, STORM-0817, que a OpenAI acredita ser a primeira vez que um hacker foi publicamente identificado usando modelos de IA.

Este grupo tentou usar o ChatGPT para depurar malware, criar ferramentas como um scraper do Instagram, traduzir perfis do LinkedIn para persa e para suporte de depuração e codificação na implementação de malware para Android, junto com a infraestrutura de comando e controle de suporte.

Além disso, os trechos de código criados em prompts fornecidos pelos atacantes com a ajuda do chatbot da OpenAI indicaram que o malware poderia roubar contatos, registros de chamadas, pacotes instalados, mídia em armazenamento externo, capturas de tela, IMEI e modelo do dispositivo, histórico de navegação, latitude/longitude, arquivos de armazenamento externo (pdf, documentos excel) e conteúdo baixado para armazenamento externo, incluindo arquivos enviados por aplicativos de mensagens seguras como WhatsApp e IMO.

“Em paralelo, o STORM-0817 usou o ChatGPT para apoiar o desenvolvimento de código do lado do servidor necessário para lidar com conexões de dispositivos comprometidos,” lê-se no relatório da OpenAI.

“Isso nos permitiu ver que o servidor de comando e controle para este malware é uma configuração WAMP (Windows, Apache, MySQL & PHP/Perl/Python) e durante os testes estava usando o domínio stickhero[.]pro.”

Enquanto esses grupos tentaram explorar o ChatGPT, a OpenAI enfatizou que a IA não lhes forneceu novas capacidades significativas para desenvolver malware. Os hackers só conseguiram obter vantagens incrementais, que já eram alcançáveis por meio de ferramentas públicas disponíveis, não alimentadas por IA.

Embora o envolvimento da IA em ciberataques seja preocupante, a OpenAI implementou medidas para identificar e interromper essas atividades maliciosas.

“À medida que olhamos para o futuro, continuaremos a trabalhar em nossas equipes de inteligência, investigações, pesquisa de segurança e políticas para antecipar como atores maliciosos podem usar modelos avançados para fins perigosos e planejar as etapas de aplicação adequadamente. Continuaremos a compartilhar nossas descobertas com nossas equipes internas de segurança e proteção, comunicar lições a partes interessadas chave e colaborar com nossos colegas da indústria e a comunidade de pesquisa mais ampla para nos manter à frente dos riscos e fortalecer nossa segurança e proteção coletiva,” concluiu a empresa.