Funcionários da Samsung vazam acidentalmente dados sensíveis da empresa para o ChatGPT

Apenas três semanas antes, a Samsung havia levantado uma proibição sobre o uso do ChatGPT da OpenAI por funcionários devido a preocupações com a privacidade dos dados.

No entanto, desde que a proibição foi levantada, houve três instâncias separadas de funcionários da Samsung vazando acidentalmente informações sensíveis relacionadas à divisão de semicondutores da Samsung para o ChatGPT em um período de 20 dias, afirma um relatório da The Economist Korea (como observado pela Mashable).

A proibição foi originalmente destinada a proteger os dados da empresa, mas foi levantada em 11 de março de 2023, para que os engenheiros da divisão de semicondutores pudessem usar o ChatGPT para resolver problemas com o código-fonte, melhorar a produtividade e estar cientes das últimas mudanças tecnológicas.

Enquanto permitia o uso do ChatGPT, o gigante sul-coreano também emitiu um aviso para a divisão de semicondutores para “ter cuidado com a segurança das informações internas e não inserir informações privadas” no popular chatbot de inteligência artificial (IA).

Na primeira instância, um funcionário da Semiconductor and Device Solutions enfrentou um problema ao executar um software de download de banco de dados (DB) de medição de equipamentos semicondutores.

Como parecia um problema de código-fonte de software, o funcionário copiou e colou o código-fonte confidencial com bugs na ferramenta de IA. Ele então pediu ao chatbot para verificar os erros e encontrar uma solução, fazendo com que o código-fonte se tornasse parte dos dados de treinamento interno do ChatGPT.

Na segunda instância, um funcionário, ao enfrentar dificuldades em entender o rendimento do dispositivo e outras informações, compartilhou o código com o chatbot de IA e solicitou “otimização de código” ao ChatGPT.

Enquanto na terceira instância, um funcionário compartilhou uma gravação de uma reunião confidencial da empresa e pediu ao ChatGPT para convertê-la em notas para uma apresentação. As informações compartilhadas com o ChatGPT devido a esses incidentes agora fazem parte dele para sempre e não podem ser deletadas.

Como resultado, a Samsung tomou medidas imediatas e agora limitou o comprimento dos prompts do ChatGPT de cada funcionário a um kilobyte ou 1024 caracteres de texto. A empresa também está investigando os três funcionários que participaram do vazamento, além de considerar reinstituir a proibição.

Para evitar tais incidentes embaraçosos no futuro, a Samsung está agora desenvolvendo seu próprio chatbot de IA, que deve ser estritamente usado por seus funcionários para fins internos.

“Se um acidente semelhante ocorrer mesmo após a adoção de medidas de proteção de informações de emergência, o acesso ao ChatGPT pode ser bloqueado na rede da empresa,” lê-se em um memorando interno enviado pela Samsung aconselhando seus funcionários a terem cautela ao usar a ferramenta de IA.

“Assim que o conteúdo é inserido no ChatGPT, os dados são transmitidos e armazenados em um servidor externo, tornando impossível para a empresa recuperá-los.”

O guia do usuário do ChatGPT alerta explicitamente os usuários a não compartilharem informações sensíveis em suas conversas, pois não é “capaz de deletar prompts específicos do seu histórico.”

É importante notar que todas as perguntas e textos compartilhados com o ChatGPT são retidos para treinar e melhorar seus modelos de IA, a menos que os usuários optem explicitamente por não participar. Em outras palavras, é difícil ou impossível apagar completamente os dados do sistema.

“Como parte do nosso compromisso com uma IA segura e responsável, revisamos conversas para melhorar nossos sistemas e garantir que o conteúdo esteja em conformidade com nossas políticas e requisitos de segurança… Suas conversas podem ser revisadas por nossos treinadores de IA para melhorar nossos sistemas,” explica claramente a OpenAI em seu site.

Notavelmente, a OpenAI afirma: “Removemos qualquer informação pessoal identificável dos dados que pretendemos usar para melhorar o desempenho do modelo. Também usamos apenas uma pequena amostra de dados por cliente para nossos esforços de melhoria de desempenho do modelo.”

Curiosamente, o ChatGPT tem estado sob muita escrutínio recentemente sobre suas políticas de coleta de dados na Europa, com a Itália banindo temporariamente o chatbot de IA no país devido a preocupações com a privacidade. A Alemanha também pode seguir o recente banimento do ChatGPT na Itália e pode tomar uma ação semelhante bloqueando o chatbot de IA em seu país.