Hacker Roubou Detalhes Internos da IA da OpenAI em Violação de 2023: Relatório

Um hacker obteve acesso aos sistemas de mensagens internos da OpenAI, criadora do ChatGPT, no início do ano passado, e roubou informações sobre o design dos produtos de inteligência artificial (IA) da empresa, afirmou um relatório publicado pelo The New York Times na quinta-feira.

O hacker supostamente extraiu conversas de um fórum online interno onde os funcionários da OpenAI estavam discutindo os mais recentes avanços tecnológicos que estavam sendo trabalhados pela empresa, informou o NYT, citando duas pessoas familiarizadas com o assunto.

No entanto, o hacker não conseguiu acessar os sistemas onde a OpenAI armazena e constrói seus produtos de IA.

A empresa compartilhou informações sobre a violação de segurança com seus funcionários e diretoria durante uma reunião geral em abril de 2023.

No entanto, o relatório acrescentou que não compartilhou as informações publicamente, já que nenhuma informação relacionada a seus clientes ou parceiros foi roubada na suposta invasão.

Além disso, os executivos da OpenAI supostamente não consideraram o incidente como uma ameaça à segurança nacional, uma vez que pensavam que o hacker era um indivíduo independente sem conexões conhecidas com qualquer governo estrangeiro.

A empresa com sede em São Francisco também não notificou o F.B.I. ou qualquer outra autoridade de aplicação da lei sobre a intrusão.

Um porta-voz da OpenAI reconheceu um “incidente de segurança” em uma declaração, mas não forneceu mais informações sobre a violação.

“Como compartilhamos com nossa diretoria e funcionários no ano passado, identificamos e corrigimos o problema de segurança subjacente e continuamos a investir em fortalecer nossa segurança”, disse o porta-voz da empresa.

Em maio deste ano, a OpenAI disse que bloqueou cinco operações de influência encobertas que queriam abusar de seus modelos de IA para “atividades enganosas” na internet. Isso destaca as crescentes preocupações sobre o potencial uso indevido de tecnologias avançadas de IA.

Dada a crescente importância da tecnologia de IA, ataques a empresas de IA provavelmente continuarão e aumentarão, alertou o Dr. Ilia Kolochenko, um especialista em cibersegurança e CEO da empresa de segurança ImmuniWeb.

“Embora os detalhes do suposto incidente ainda não tenham sido confirmados pela OpenAI, há uma forte possibilidade de que o incidente realmente tenha ocorrido e não seja o único.

“A corrida global por IA se tornou uma questão de segurança nacional para muitos países; portanto, grupos de cibercrime apoiados pelo estado e mercenários estão visando agressivamente fornecedores de IA, desde startups talentosas até gigantes da tecnologia como Google ou OpenAI”, disse ele.

Kolochenko acrescentou que os hackers canalizam principalmente seus esforços para roubar propriedade intelectual valiosa, incluindo pesquisa tecnológica e know-how, grandes modelos de linguagem (LLMs), fontes de dados de treinamento e informações comerciais, como clientes de fornecedores de IA e novos usos de IA em diferentes indústrias.

“Os atores de ciberameaça mais sofisticados também podem implantar portas dos fundos discretas para controlar continuamente as empresas de IA invadidas e serem capazes de interromper repentinamente ou até mesmo fechar suas operações, semelhante às campanhas de hacking em larga escala que visam a infraestrutura nacional crítica (CNI) em países ocidentais recentemente”, observou ele.

“Todos os usuários corporativos de fornecedores de GenAI devem ser particularmente cuidadosos e prudentes ao compartilhar ou dar acesso a seus dados proprietários para treinamento ou ajuste fino de LLM, pois seus dados – que vão desde informações privilegiadas de advogado-cliente e segredos comerciais das principais empresas industriais ou farmacêuticas até informações militares classificadas – também estão na mira de cibercriminosos famintos por IA que estão prontos para intensificar seus ataques.”

À medida que avançamos em direção a um mundo impulsionado por IA, tais relatórios são um alerta para a necessidade de medidas robustas de cibersegurança e transparência, especialmente para organizações, a fim de garantir a segurança e a privacidade de seus clientes e parceiros.