Des hackers abusent de ChatGPT pour écrire des logiciels malveillants : rapport d'OpenAI

OpenAI, la société derrière le populaire chatbot IA ChatGPT, a révélé qu’elle a perturbé plus de 20 opérations et réseaux trompeurs dans le monde entier depuis le début de 2024, y compris des réseaux liés à des hackers soutenus par l’État iranien et chinois.

Dans un rapport publié mercredi, la société d’IA générative (GenAI) a déclaré que ces opérations impliquaient l’utilisation d’un chatbot alimenté par IA, ChatGPT, pour déboguer des logiciels malveillants, rédiger des articles pour des sites web, générer du contenu publié par de fausses personnalités sur des comptes de médias sociaux, et diffuser de la désinformation liée aux élections.

Selon les chercheurs Ben Nimmo et Michael Flossman, qui ont rédigé le rapport, les acteurs de la menace ont tiré parti de l’IA pendant les phases intermédiaires de leurs campagnes.

« Les acteurs de la menace ont le plus souvent utilisé nos modèles pour effectuer des tâches dans une phase d’activité spécifique et intermédiaire — après avoir acquis des outils de base tels que l’accès à Internet, des adresses e-mail et des comptes de médias sociaux, mais avant de déployer des produits