ハッカーがChatGPTを悪用してマルウェアを作成: OpenAIレポート

OpenAI、人気のAIチャットボットChatGPTの背後にある会社は、2024年の初め以来、イランおよび中国の国家支援ハッカーに関連するネットワークを含む、世界中で20以上の作戦と欺瞞ネットワークを阻止したと明らかにしました。

水曜日に発表されたレポートで、生成AI（GenAI）企業は、これらの作戦がAI駆動のチャットボットChatGPTを使用してマルウェアのデバッグ、ウェブサイト用の記事作成、偽のペルソナによるソーシャルメディアアカウントへのコンテンツ生成、選挙関連の偽情報の拡散を含むことを述べました。

レポートを執筆した研究者ベン・ニモとマイケル・フロスマンによると、脅威アクターはキャンペーンの中間段階でAIを活用しました。

「脅威アクターは、基本的なツール（インターネットアクセス、メールアドレス、ソーシャルメディアアカウントなど）を取得した後、インターネット上でソーシャルメディア投稿やマルウェアなどの「完成品」を展開する前の特定の中間段階で、最も頻繁に私たちのモデルを使用してタスクを実行しました」と研究者たちはレポートに記載しています。

しかし、彼らはAIがサイバー攻撃や影響キャンペーンに関与しているにもかかわらず、その実際の影響はこれまでのところ限られていると強調しました。

彼らは、AIが新しい高度なマルウェアの作成に寄与したり、偽情報の取り組みを大幅に改善した証拠は見つかりませんでした。

OpenAIのレポートは、ChatGPTを利用してサイバー攻撃を促進した3つの主要な脅威グループを強調しています：

SweetSpectre: 中国に関連するグループであるSweetSpectreは、ChatGPTを使用して偵察、脆弱性研究、スクリプトサポート、異常検出回避、開発を行いました。

また、悪意のある添付ファイルを持つスピアフィッシングメールが一部のOpenAI従業員の企業および個人のメールアカウントに送信されましたが、ターゲットの受信トレイに到達する前にブロックされました。

CyberAv3ngers: このグループはイランのイスラム革命防衛隊（IRGC）に関連しており、水システム、製造業、エネルギーシステムで使用される産業制御システム（ICS）およびプログラム可能なロジックコントローラー（PLC）に対する破壊的な攻撃で知られています。

このグループは、ChatGPTモデルを使用して脆弱性を研究し、コードをデバッグし、イスラエル、アメリカ合衆国、またはアイルランドに通常関連するインフラをターゲットにするためのスクリプトアドバイスを求めました。

STORM-0817: もう一つのイランに拠点を置く脅威アクターであるSTORM-0817は、OpenAIがAIモデルを使用して公に特定された最初のハッカーであると考えています。

このグループは、ChatGPTを使用してマルウェアをデバッグし、Instagramスクレイパーのようなツールを作成し、LinkedInのプロフィールをペルシャ語に翻訳し、Androidマルウェアの実装におけるデバッグおよびコーディングサポートを行い、コマンドおよび制御インフラをサポートしました。

さらに、OpenAIのチャットボットの助けを借りて攻撃者が提供したプロンプトで作成されたコードスニペットは、マルウェアが連絡先、通話履歴、インストールされたパッケージ、外部ストレージのメディア、スクリーンショット、デバイスのIMEIおよびモデル、ブラウジング履歴、緯度/経度、外部ストレージからのファイル（pdf、excelドキュメント）、およびWhatsAppやIMOなどの安全なメッセージングアプリによって送信されたファイルを含む外部ストレージにダウンロードされたコンテンツを盗むことができることを示しました。

「並行して、STORM-0817は、侵害されたデバイスからの接続を処理するために必要なサーバーサイドコードの開発をサポートするためにChatGPTを使用しました」とOpenAIのレポートは述べています。

「これにより、このマルウェアのコマンドおよび制御サーバーがWAMP（Windows、Apache、MySQL & PHP/Perl/Python）セットアップであり、テスト中にstickhero[.]proというドメインを使用していたことがわかりました。」

これらのグループがChatGPTを悪用しようとした一方で、OpenAIはAIがマルウェア開発のために彼らに重要な新しい能力を提供しなかったと強調しました。ハッカーは、すでに公開されている非AI駆動のツールを通じて達成可能な漸進的な利点しか得られませんでした。

AIのサイバー攻撃への関与は懸念されますが、OpenAIはこれらの悪意のある活動を特定し、阻止するための措置を講じています。

「私たちは未来を見据え、悪意のあるアクターが危険な目的のために高度なモデルをどのように使用するかを予測し、適切に執行措置を計画するために、私たちのインテリジェンス、調査、セキュリティ研究、政策チームと協力し続けます。私たちは、内部の安全およびセキュリティチームと発見を共有し、主要な利害関係者に教訓を伝え、業界の仲間や広範な研究コミュニティと連携してリスクを先取りし、私たちの集合的な安全とセキュリティを強化し続けます」と同社は結論づけました。