Хакер украл внутренние данные ИИ OpenAI в результате утечки в 2023 году: отчет

Хакер получил доступ к внутренним системам обмена сообщениями компании OpenAI, создателя ChatGPT, в начале прошлого года и украл информацию о дизайне продуктов искусственного интеллекта (ИИ) компании, говорится в отчете, опубликованном The New York Times в четверг.

По сообщениям, хакер извлек разговоры из внутреннего онлайн-форума, где сотрудники OpenAI обсуждали новейшие технологические достижения, над которыми работала компания, сообщает NYT, ссылаясь на двух знакомых с ситуацией людей.

Тем не менее, хакер не смог получить доступ к системам, где OpenAI хранит и разрабатывает свои продукты ИИ.

Компания поделилась информацией о нарушении безопасности с сотрудниками и советом директоров на общем собрании в апреле 2023 года.

Однако в отчете добавлено, что она не делилась информацией публично, так как никакая информация, касающаяся ее клиентов или партнеров, не была украдена в результате предполагаемого взлома.

Кроме того, руководители OpenAI, по сообщениям, не рассматривали инцидент как угрозу национальной безопасности, поскольку считали, что хакер был независимым лицом без известных связей с каким-либо иностранным правительством.

Компания из Сан-Франциско также не уведомила ФБР или кого-либо еще из правоохранительных органов о вторжении.

Представитель OpenAI признал наличие “инцидента безопасности” в заявлении, но не предоставил дополнительной информации о нарушении.

“Как мы сообщили нашему совету и сотрудникам в прошлом году, мы выявили и исправили основную проблему безопасности и продолжаем инвестировать в укрепление нашей безопасности,” - сказал представитель компании.

В мае этого года OpenAI заявила, что заблокировала пять скрытых операций влияния, которые хотели злоупотребить ее моделями ИИ для “обманной деятельности” в интернете. Это подчеркивает растущие опасения по поводу потенциального злоупотребления современными технологиями ИИ.

Учитывая растущую важность технологий ИИ, атаки на компании ИИ, вероятно, будут продолжаться и увеличиваться, предупредил доктор Илья Колоченко, эксперт по кибербезопасности и генеральный директор компании ImmuniWeb.

“Хотя детали предполагаемого инцидента еще не подтверждены OpenAI, существует высокая вероятность того, что инцидент действительно имел место и не является единственным.

“Глобальная гонка в области ИИ стала вопросом национальной безопасности для многих стран; поэтому поддерживаемые государством группы киберпреступников и наемники агрессивно нацеливаются на поставщиков ИИ, от талантливых стартапов до технологических гигантов, таких как Google или OpenAI,” - сказал он.

Колоченко добавил, что хакеры в основном направляют свои усилия на кражу ценного интеллектуального имущества, включая технологические исследования и ноу-хау, большие языковые модели (LLM), источники обучающих данных и коммерческую информацию, такую как клиенты поставщиков ИИ и новые способы использования ИИ в различных отраслях.

“Более сложные киберугрозы также могут внедрять скрытые задние двери, чтобы постоянно контролировать взломанные компании ИИ и иметь возможность внезапно нарушить или даже остановить их операции, аналогично крупномасштабным хакерским кампаниям, нацеленным на критическую национальную инфраструктуру (CNI) в западных странах в последнее время,” - отметил он.

“Все корпоративные пользователи поставщиков GenAI должны быть особенно осторожными и предусмотрительными, когда они делятся или предоставляют доступ к своим собственным данным для обучения или дообучения LLM, так как их данные – от информации, защищенной адвокатской тайной, и коммерческих тайн ведущих промышленных или фармацевтических компаний до секретной военной информации – также находятся в прицелах киберпреступников, жаждущих ИИ, которые готовы усилить свои атаки.”

По мере того как мы движемся к миру, управляемому ИИ, такие отчеты являются сигналом к необходимости надежных мер кибербезопасности и прозрачности, особенно для организаций, чтобы обеспечить безопасность и конфиденциальность своих клиентов и партнеров.