Samsungの従業員が誤って機密会社データをChatGPTに漏洩

たった3週間前、Samsungはデータプライバシーの懸念から従業員によるOpenAIのChatGPTの使用禁止を解除しました。

しかし、禁止が解除されて以来、Samsungの半導体部門に関連する機密情報がChatGPTに誤って漏洩するという3件の別々の事例が、20日間の間に発生したとThe Economist Koreaの報告が伝えています（Mashableによって発見されました）。

この禁止は元々会社データを保護するために意図されていましたが、2023年3月11日に解除され、半導体部門のエンジニアがChatGPTを使用してソースコードの問題を修正し、生産性を向上させ、最新の技術の変化を把握できるようにするためでした。

ChatGPTの使用を許可する際、韓国の大手企業は半導体部門に対して「内部情報セキュリティに注意し、プライベート情報を入力しないように」という通知も発出しました。

最初の事例では、半導体およびデバイスソリューションの従業員が半導体機器測定データベース（DB）ダウンロードソフトウェアを実行する際に問題に直面しました。

ソフトウェアのソースコードの問題のように見えたため、従業員はバグのある機密会社ソースコードをAIツールにコピー＆ペーストしました。その後、チャットボットにエラーをチェックし、解決策を見つけるように依頼し、実際にソースコードがChatGPTの内部トレーニングデータの一部となりました。

2件目の事例では、デバイスの歩留まりやその他の情報を理解するのに苦労した従業員が、AIチャットボットにコードを共有し、ChatGPTに「コード最適化」を依頼しました。

3件目の事例では、従業員が機密会社会議の録音を共有し、ChatGPTにプレゼンテーション用のノートに変換するように依頼しました。これらの事件によってChatGPTに共有された情報は、今や永遠にその一部となり、削除することはできません。

その結果、Samsungは即座に対策を講じ、各従業員のChatGPTプロンプトの長さを1キロバイトまたは1024文字のテキストに制限しました。また、漏洩に関与した3人の従業員を調査しているとも言われており、禁止を再導入することも検討しています。

今後このような恥ずかしいミスを防ぐために、Samsungは従業員専用の内部用AIチャットボットを開発しています。

「緊急情報保護措置が講じられた後でも同様の事故が発生した場合、会社のネットワーク上でChatGPTへのアクセスがブロックされる可能性があります」と、従業員にAIツールの使用に注意を促す内部メモには記されています。

「ChatGPTにコンテンツが入力されると、データが外部サーバーに送信され保存されるため、会社がそれを取り戻すことは不可能です。」

ChatGPTのユーザーガイドは、ユーザーに対して会話の中で機密情報を共有しないよう明示的に警告しています。なぜなら、「履歴から特定のプロンプトを削除することはできません。」

重要なことは、ChatGPTに共有されたすべての質問やテキストは、ユーザーが明示的にオプトアウトしない限り、AIモデルをトレーニングし改善するために保持されるということです。言い換えれば、システムからデータを完全に消去することは難しいか不可能です。

「安全で責任あるAIへのコミットメントの一環として、私たちは会話をレビューしてシステムを改善し、コンテンツがポリシーや安全要件に準拠していることを確認します…あなたの会話は、私たちのシステムを改善するためにAIトレーナーによってレビューされることがあります」と、OpenAIはウェブサイトで明確に説明しています。

特に、OpenAIは「モデルのパフォーマンスを改善するために使用するデータから、個人を特定できる情報を削除します。また、モデルのパフォーマンスを改善するための取り組みにおいて、顧客ごとに少量のデータサンプリングのみを使用します。」と主張しています。

興味深いことに、ChatGPTは最近、ヨーロッパでのデータ収集ポリシーに関して多くの監視を受けており、イタリアはプライバシーの懸念から一時的にこのAIチャットボットを禁止しました。ドイツもイタリアの最近のChatGPT禁止に続く可能性があり、同様の行動をとってAIチャットボットをブロックするかもしれません。