Un hacker robó detalles internos de IA de OpenAI en la violación de 2023: Informe

Un hacker obtuvo acceso a los sistemas de mensajería interna de OpenAI, creador de ChatGPT, a principios del año pasado, y robó información sobre el diseño de los productos de inteligencia artificial (IA) de la empresa, según un informe publicado por The New York Times el jueves.

El hacker supuestamente extrajo conversaciones de un foro en línea interno donde los empleados de OpenAI discutían los avances tecnológicos más recientes en los que estaba trabajando la empresa, informó el NYT, citando a dos personas familiarizadas con el asunto.

Sin embargo, el hacker no pudo acceder a los sistemas donde OpenAI alberga y construye sus productos de IA.

La empresa compartió información sobre la violación de seguridad con sus empleados y la junta durante una reunión general en abril de 2023.

Sin embargo, el informe agregó que no compartió la información públicamente, ya que no se robó información relacionada con sus clientes o socios en el presunto hackeo.

Además, los ejecutivos de OpenAI supuestamente no consideraron el incidente como una amenaza a la seguridad nacional, ya que pensaban que el hacker era un individuo independiente sin conexiones conocidas con ningún gobierno extranjero.

La empresa con sede en San Francisco tampoco notificó al F.B.I. ni a nadie más en la aplicación de la ley sobre la intrusión.

Un portavoz de OpenAI reconoció un “incidente de seguridad” en un comunicado, pero no proporcionó más información sobre la violación.

“Como compartimos con nuestra junta y empleados el año pasado, identificamos y solucionamos el problema de seguridad subyacente y continuamos invirtiendo en fortalecer nuestra seguridad”, dijo el portavoz de la empresa.

En mayo de este año, OpenAI dijo que había bloqueado cinco operaciones de influencia encubiertas que querían malusar sus modelos de IA para “actividades engañosas” en internet. Esto resalta las crecientes preocupaciones sobre el posible mal uso de las tecnologías avanzadas de IA.

Dada la creciente importancia de la tecnología de IA, los ataques a las empresas de IA probablemente continuarán y aumentarán, advirtió el Dr. Ilia Kolochenko, un experto en ciberseguridad y director ejecutivo de la firma de seguridad ImmuniWeb.

“Si bien los detalles del presunto incidente aún no han sido confirmados por OpenAI, hay una fuerte posibilidad de que el incidente realmente haya ocurrido y no sea el único.

“La carrera global de IA se ha convertido en un asunto de seguridad nacional para muchos países; por lo tanto, los grupos de cibercriminales respaldados por el estado y los mercenarios están atacando agresivamente a los proveedores de IA, desde talentosas startups hasta gigantes tecnológicos como Google o OpenAI”, dijo.

Kolochenko agregó que los hackers principalmente canalizan sus esfuerzos en robar propiedad intelectual valiosa, incluida la investigación tecnológica y el know-how, grandes modelos de lenguaje (LLMs), fuentes de datos de entrenamiento e información comercial como los clientes de los proveedores de IA y nuevos usos de la IA en diferentes industrias.

“Los actores de ciberamenazas más sofisticados también pueden implantar puertas traseras sigilosas para controlar continuamente a las empresas de IA vulneradas y poder interrumpir repentinamente o incluso cerrar sus operaciones, similar a las campañas de hackeo a gran escala que apuntan a la infraestructura nacional crítica (CNI) en países occidentales recientemente”, señaló.

“Todos los usuarios corporativos de proveedores de GenAI deben ser particularmente cuidadosos y prudentes cuando compartan o den acceso a sus datos propietarios para el entrenamiento o ajuste fino de LLM, ya que sus datos, que abarcan desde información privilegiada de abogado-cliente y secretos comerciales de las principales empresas industriales o farmacéuticas hasta información militar clasificada, también están en la mira de los cibercriminales hambrientos de IA que están listos para intensificar sus ataques.”

A medida que avanzamos hacia un mundo impulsado por la IA, tales informes son un llamado de atención sobre la necesidad de medidas de ciberseguridad robustas y transparencia, especialmente para las organizaciones, para garantizar la seguridad y privacidad de sus clientes y socios.