Rechercher
Contactez-nous Suivez-nous sur Twitter En francais English Language
 











Abonnez-vous gratuitement à notre NEWSLETTER

Newsletter FR

Newsletter EN

Vulnérabilités

Se désabonner

Une nouvelle campagne de désinformation russe majeure utilise l’IA générative pour “plagier et militariser" le contenu des d’organes de presse et ainsi influencer les électeurs occidentaux

mai 2024 par Recorded Future

Recorded Future publie un nouveau rapport de ses chercheurs de l’Inksit Group qui ont identifié le réseau d’influence russe CopyCop et étudié son mode opératoire basé sur l’IA generative (GenIA) pour propager à grande echelle des contenus d’influence.

Le réseau d’influence CopyCop utilise de faux medias en France, aux Royaume-Uni et aux États-Unis pour publier des contenus politiques à grande échelle à l’aide de grands modèles de langages (LLMs). Ce groupe de menaces, que l’on soupçonne d’opèrer depuis la Russie et d’être aligné sur le gouvernement russe, utilise l’intelligence artificielle générative (GenIA) pour plagier le contenu de médias grand public et l’adapter à des publics spécifiques, introduisant ainsi un parti pris politique. CopyCop propage des contenus sur des questions nationales contreversées, ainsi que sur des événements tels que la guerre de la Russie contre l’Ukraine et le conflit entre Israël et le Hamas, dans le but de soutenir les objectifs d’influence de la Russie. Outre le plagiat de contenus, le réseau commence à susciter un certain engagement en publiant ces dernières semaines du contenu ciblé, produit par des humains.

Les gouvernements sont des cibles privilégiées

La France notamment est un sujet récurrent des contenus de CopyCop sur des sites web qui plagient des articles d’actualité officiels et introduisent une “orientation conservatrice" contre les "politiques libérales" du président Emmanuel Macron. Des narratifs ciblant la France, diffusés en français via le faux site infoindependants[.]fr et en anglais via des sites web à thème britanniques ou américains, se concentrent largement sur réduction du soutien politique national à la réthorique grandissante du gouvernement français contre la Russie et sur la mise en garde contre une nouvelle escalade militaire. Un article renvoyait à un faux site web de recrutement militaire, sengager-ukraine[.]fr, que des analystes et des représentants du gouvernement français ont ensuite identifié comme étant lié à des opérations d’influence russes.

Le nouveau rapport fait également part de contenus ciblant spécifiquement le Royaume-Uni avec l’objectif de critiquer le gouvernement "autoritaire" et le Premier ministre Rishi Sunak (en affirmant, par exemple, que son gouvernement "criminalise" l’islam), de saper le soutien à l’Ukraine en affirmant que le Royaume-Uni prévoit d’introduire une "zone tampon" des pays de l’OTAN autour de l’Ukraine, et de tenter de semer la méfiance entre les gouvernements du Royaume-Uni et des États-Unis.

Le Groupe Insikt a repéré des titres identiques ou presque identiques publiés par des sites CopyCop, ce qui indique une coordination entre ces faux sites d’information.

La GenIA pour plagier des contenus et cibler notamment des sites d’information officiels français

Les opérateurs de CopyCop utilisent la GenIA pour plagier et adapter le contenu de médias français tels que La Croix et TV5Monde, ainsi que de grands organs de presse tels qu’Al-Jazeera et Fox News. En lien avec ce réseau, le rapport révèle également un domaine jusqu’à présent non signalé usurpant l’identité de la BBC, bbc-uk[.]news, et la création d’autres faux sites d’information britanniques tels que London Crier et GB Geopolitics.

En outre, l’Insikt Group rassemble des preuves démontrant que les opérateurs de CopyCop utilisent du Prompt Engineering pour transformer des articles provenant d’organes de presse officiels en contenus partisans destinés à des publics cibles spécifiques.

La préoccupation constante des narratifs électoraux

Les activités du réseau CopyCop posent des problèmes aux gouvernements et aux fonctionnaires à l’approche des prochaines élections en Europe et aux États-Unis, car l’utilisation de la GenIA rend difficile le suivi et la réponse aux narratifs malveillants ciblant des candidats et des publics spécifiques. Les organisations du secteur public sont invitées à sensibiliser à la menace que représentent CopyCop et les contenus de désinformation générés par l’IA, tandis que les medias officiels risquent de voir leurs contenus plagiés et utilisés à des fins malveillantes.

Selon l’analyste Clément Briens, Insikt Group, Recorded Future : " Les implications des activités de CopyCop sont profondes, car elles représentent une accélération significative dans l’utilisation d’outils alimentés par l’IA à des fins malveillantes. En exploitant les capacités des LLMs, ils disposent d’une portée et d’une efficacité sans précédent dans leurs initiatives visant à façonner la perception du public".

Et Clément Briens de poursuivre : " Si CopyCop réussit à susciter l’engagement et se montre persistant, d’autres opérations et réseaux d’influence suivront probablement ce modèle dans un avenir proche. Les réseaux d’influence exploitant l’IA risquent d’accroître les difficultés rencontrées par les organisations publiques et privées pour surveiller et protéger les élections et autres processus démocratiques contre l’influence étrangère malveillante. En outre, ces réseaux augmenteront les risques auxquels sont exposés la marque et la réputation des médias officiels.”

En réponse à ces révélations, les experts de l’Insikt Group soulignent l’importance de renforcer les mesures de transparence et de responsabilité afin de réduire la menace posée par les acteurs malveillants qui exploitent les technologies avancées à des fins de manipulation. En outre, il existe un consensus croissant sur la nécessité d’une plus grande collaboration entre les gouvernements, les entreprises technologiques et la société civile pour lutter efficacement contre la prolifération de la désinformation et protéger les valeurs démocratiques.

Alors que le paysage numérique continue d’évoluer, il est impératif que les parties prenantes restent vigilantes et proactives face aux nouvelles menaces qui pèsent sur l’intégrité du discours public. La révélation de l’utilisation par CopyCop de LLMs à des fins malveillantes est un rappel brutal de la bataille en cours contre la désinformation et l’importance cruciale de la défense des principes de vérité, de transparence et de gouvernance démocratique.


Voir les articles précédents

    

Voir les articles suivants