중국, 북한, 이란 및 러시아 해커들이 구글의 AI를 사이버 작전에 사용하고 있습니다

구글의 위협 정보 그룹(GTIG)은 중국, 이란, 러시아 및 북한의 사이버 범죄자들이 인공지능(AI) 애플리케이션인 제미니를 사용하여 해킹 능력을 강화하고 있다는 경고를 발표했습니다.

수요일에 발표된 구글의 TIG 보고서에 따르면, 국가 지원 해커들은 사이버 스파이 활동, 피싱 캠페인 및 기타 악의적인 활동에서 생산성을 높이기 위해 제미니 챗봇을 사용하고 있습니다.

구글은 알려진 APT(지속적 위협) 행위자와 연결된 제미니 활동을 조사한 결과, 20개국 이상의 APT 그룹이 주로 연구, 목표 정찰, 악성 코드 개발 및 피싱 이메일과 같은 콘텐츠의 생성 및 현지화를 위해 대형 언어 모델(LLM)을 사용하고 있음을 발견했습니다.

다시 말해, 이 해커들은 완전히 새로운 해킹 방법을 개발하기보다는 주로 제미니를 연구 도구로 사용하여 작업을 향상시키는 것 같습니다.

현재까지 어떤 해커도 제미니를 활용하여 완전히 새로운 사이버 공격 방법을 개발하는 데 성공하지 못했습니다.

“AI는 위협 행위자에게 유용한 도구가 될 수 있지만, 때때로 묘사되는 게임 체인저는 아닙니다. 우리는 위협 행위자들이 문제 해결, 연구 및 콘텐츠 생성과 같은 일반적인 작업을 수행하기 위해 생성 AI를 사용하는 것을 보지만, 그들이 새로운 능력을 개발하고 있다는 징후는 보지 못했습니다.”라고 구글은 보고서에서 밝혔습니다.

구글은 이 활동이 이란 지원 그룹 10개 이상, 중국 지원 그룹 20개 이상, 북한 지원 그룹 9개와 연결되어 있음을 추적했습니다.

예를 들어, 이란의 위협 행위자들은 제미니를 가장 많이 사용하여 방어 조직에 대한 연구, 취약점 연구 및 캠페인 콘텐츠 생성 등 다양한 목적으로 활용했습니다.

특히 APT42 그룹(이란 APT 행위자의 30% 이상을 차지)은 정부 기관과 기업을 목표로 하는 피싱 캠페인을 제작하고 방어 전문가 및 조직에 대한 정찰을 수행하며 사이버 보안 주제를 가진 콘텐츠를 생성하는 데 집중했습니다.

중국 APT 그룹은 주로 정찰, 스크립트 및 개발, 코드 문제 해결, 그리고 측면 이동, 권한 상승, 데이터 유출 및 탐지 회피를 통해 목표 네트워크에 더 깊이 접근하는 방법을 연구하기 위해 제미니를 사용했습니다.

북한 APT 해커들은 공격 생애 주기의 여러 단계를 지원하기 위해 제미니를 사용하는 것이 관찰되었으며, 여기에는 잠재적 인프라 및 무료 호스팅 제공업체에 대한 연구, 목표 조직에 대한 정찰, 페이로드 개발 및 악성 스크립팅 및 회피 방법에 대한 도움이 포함됩니다.

“특히 북한 행위자들은 제미니를 사용하여 자기소개서를 작성하고 직업을 연구하는 데도 활용했습니다. 이는 북한이 서구 기업에 비밀 IT 근무자를 배치하려는 노력을 지원할 가능성이 있는 활동입니다.”라고 회사는 언급했습니다.

“한 북한 지원 그룹은 제미니를 사용하여 자기소개서와 직무 설명 제안을 작성하고, 특정 직업에 대한 평균 급여를 조사하며, LinkedIn에서 직업에 대해 질문했습니다. 이 그룹은 또한 해외 직원 교환에 대한 정보를 위해 제미니를 사용했습니다. 많은 주제는 직업을 연구하고 지원하는 사람들에게 일반적일 것입니다.”

한편, 러시아 APT 행위자들은 주로 공개적으로 사용 가능한 악성 코드를 다른 프로그래밍 언어로 변환하고 기존 코드에 암호화 기능을 통합하는 등의 코딩 작업을 위해 제미니를 제한적으로 사용했습니다.

그들은 운영 보안상의 이유로 제미니 사용을 피했을 수 있으며, 서구가 통제하는 플랫폼에서 그들의 활동을 모니터링하는 것을 피하기 위해 러시아산 AI 도구를 사용하지 않기로 선택했을 수 있습니다.

구글은 러시아 해킹 그룹의 제미니 사용이 상대적으로 제한적이었다고 밝혔으며, 이는 그들이 서구 플랫폼이 자신의 활동을 모니터링하는 것을 방지하려고 했기 때문일 수 있습니다.

구글은 이러한 오용을 방지하기 위해 강력한 보안 조치를 갖춘 AI 시스템을 개발하고 제미니를 오용한 위협 행위자의 활동을 방해하는 등의 안전 장치를 구현하고 있다고 밝혔습니다.

“우리는 정부 지원 위협 행위자에 의한 악의적인 사이버 활동을 포함하여 우리의 제품, 서비스, 사용자 및 플랫폼의 남용을 조사하고 적절할 경우 법 집행 기관과 협력합니다.”라고 회사는 말했습니다. “또한 악의적인 활동을 저지하기 위한 우리의 학습은 제품 개발에 피드백되어 우리의 AI 모델의 안전성과 보안을 개선하는 데 기여합니다.”