Les outils d’IA générative comme Gemini de Google deviennent des ressources précieuses pour divers acteurs menaçants. Les récentes analyses de Google révèlent une utilisation croissante de ces IA par des hackers sponsorisés par les États tels que la Chine, la Corée du Nord, l’Iran et la Russie. Ces groupes tentent d’exploiter ces outils pour optimiser leurs cyberattaques tout en minimisant leur détection.
L’Iran en première ligne
Selon le rapport de Google, l’Iran est particulièrement actif dans l’utilisation de l’IA pour des actions malveillantes. Notamment, dix groupes distincts ont été identifiés utilisant Gemini pour créer des contenus de phishing ciblés. La bande de hackers APT42 fait partie de ces groupes prolifiques. Ils disposent également des capacités de créer des campagnes influentes en ligne grâce à l’IA.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Outre Google, d’autres entreprises sont ciblées. Par exemple, des acteurs iraniens utilisent aussi l’IA de Microsoft pour mener leurs opérations. Leur objectif principal est souvent de recueillir des informations sensibles sur des cibles militaires et technologies nucléaires spécifiques.
Les manœuvres chinoises
L’engagement des groupes chinois envers les outils d’IA est aussi préoccupant. Ces derniers exploitent principalement ces technologies pour faire des reconnaissances sur les organisations militaires et gouvernementales américaines. Ils cherchent à découvrir des failles de sécurité, facilitant ainsi leurs mouvements latéraux et l’escalade des privilèges au sein des réseaux compromis.
En outre, ils se servent de Gemini pour rechercher les vulnérabilités publiquement connues, renforçant ainsi leur niveau de menace potentiel sur un plan global.
La tactique nord-coréenne
Pour la Corée du Nord, les stratégies diffèrent légèrement. Ici, l’IA sert non seulement aux phases classiques du cycle d’attaque mais aussi à des fins plus uniques comme la rédaction de candidatures et lettres de motivation. Cela leur permettrait d’insérer clandestinement des travailleurs dans des entreprises occidentales sous de fausses identités.
Les pirates nord-coréens concentrent également leurs efforts sur l’obtention de renseignements relatifs à la technologie militaire et nucléaire sud-coréenne. Cette approche permet à Pyongyang de rester vigilant et bien informé quant aux évolutions techniques de ses rivaux.
Des actions minimes en Russie
Contrairement aux autres pays, l’activité des groupes russes avec des outils comme Gemini semble limitée. Selon Google, seuls trois groupes ont pu être identifiés jusqu’à présent. Cette faible participation peut s’expliquer soit par une moins grande popularité des modèles linguistiques (LLM) dans ce pays, ou bien par une préférence pour des LLM locaux plutôt que ceux offerts par Google.
Leurs utilisations incluent principalement l’assistance à la rédaction de scripts, à la traduction, et à l’artisanat de charges utiles. Par ailleurs, il semble qu’ils se focalisent davantage sur la reconfiguration de logiciels malveillants disponibles publiquement en différents langages de programmation.
Malgré les soucis grandissants de détournement des IA génératives, le marché continue de se remplir de nouveaux modèles, parfois insuffisamment sécurisés pour prévenir les abus. Récemment, OpenAI a indiqué que certains de leurs produits souffrent de problèmes de « jailbreak » où des utilisateurs peuvent contourner les restrictions de sécurité mises en place.
De même, d’autres firmes de renseignement en cybersécurité, comme KELA, signalent une montée en flèche des demandes de personnalisation des IA pour des usages peu scrupuleux. Les chercheurs de Unit 42, pour leur part, démontrent continuellement des méthodes qui permettent d’abuser facilement de ces puissants outils.