Les cybercriminels ont toujours été connus pour leur ingéniosité, mais ils semblent avoir trouvé une nouvelle arme dans leur arsenal : l'IA générative. En effet, ils exploitent désormais l'engouement pour ChatGPT pour créer des outils basés sur l'IA capables de mener des campagnes élaborées de phishing. L'un de ces outils, WormGPT, a récemment été découvert.
WormGPT : Un outil de phishing basé sur l'IA
WormGPT est un outil basé sur l'IA générative qui circule sur les forums underground. Il promet la création de courriels pertinents pour des campagnes de phishing. Cet outil se présente comme une alternative clandestine aux modèles GPT, conçue spécifiquement pour les activités malveillantes. Les cybercriminels peuvent utiliser cette technologie pour automatiser la création de faux courriels très convaincants, personnalisés en fonction du destinataire, augmentant ainsi les chances de réussite de l'attaque.
WormGPT est un module d'IA basé sur le modèle de langage GPTJ, qui a été développé en 2021. Il est doté d'une série de fonctionnalités, notamment la prise en charge d'un nombre illimité de caractères, la conservation de la mémoire des chats et des capacités de formatage de code.
Il est important de noter que WormGPT est capable de réaliser des courriels pertinents, comme le montre un exemple à destination d'un comptable. Cela démontre la sophistication de ces outils de phishing basés sur l'IA.
Les prompts spécialisés : une autre menace
En plus de WormGPT, les chercheurs de Slashnext ont observé une tendance sur les forums de partage de « jailbreak » pour les IA génératives, en particulier ChatGPT et Bard. Il s’agit de prompts spécialisés pour forcer les agents conversationnels à générer des résultats pouvant impliquer la divulgation d'informations sensibles, la production de contenus inappropriés, voire l'exécution de codes nuisibles.
Plusieurs de ces prompts spécialisés sont disponibles sur les forums, ce qui montre que les cybercriminels sont constamment à la recherche de nouvelles façons d'exploiter l'IA générative pour leurs activités malveillantes.
Face à cette montée en puissance du côté obscur, les éditeurs d’IA générative prennent des mesures pour éviter l’utilisation abusive des LLM (grand modèle de langage). Cependant, tous les acteurs ne sont pas au même niveau. Par exemple, les restrictions anti-abus de Bard dans le domaine de la cybersécurité sont nettement inférieures à celles de ChatGPT. Par conséquence, il est beaucoup plus facile de générer du contenu malveillant en se servant des capacités de Bard.
Conclusion : Une menace en constante évolution
La découverte de WormGPT et l'utilisation de prompts spécialisés pour les IA génératives montrent que les cybercriminels continuent d'innover et de trouver de nouvelles façons d'exploiter la technologie pour leurs activités malveillantes. Cela souligne l'importance pour les entreprises et les individus de rester vigilants et de se tenir au courant des dernières tendances en matière de cybersécurité.
Il est également crucial pour les éditeurs d'IA générative de continuer à renforcer leurs mesures de sécurité pour prévenir l'utilisation abusive de leurs outils. Comme le montre l'exemple de Bard, il est essentiel d'avoir des restrictions anti-abus robustes pour empêcher la génération de contenu malveillant.
Enfin, cette situation souligne l'importance de la sensibilisation et de l'éducation en matière de cybersécurité. Les utilisateurs doivent être conscients des risques associés aux courriels de phishing et être capables de reconnaître les signes d'un courriel frauduleux.
WormGPT : Quand l'IA générative devient l'arme ultime des cybercriminels