« Règlement européen sur l’IA : les règles de transparence constituent une première étape importante mais la vérification indépendante reste essentielle
Nous saluons les nouvelles exigences de transparence du règlement européen sur l’IA concernant les contenus générés par l’IA. Imposer aux créateurs d’identifier clairement les contenus générés par l’IA constitue une première étape importante pour renforcer la confiance dans les informations numériques et accroître la transparence autour des cas d’usage légitimes de l’IA.
Dans le même temps, ces nouvelles règles mettent également en évidence une limite importante. Elles encadrent principalement ceux qui sont déjà disposés à les respecter. Les contenus générés par l’IA qui causent le plus de dommages, notamment les deepfakes utilisés à des fins d’escroquerie, de fraude et d’usurpation d’identité, sont créés par des criminels qui n’ont aucune intention de les identifier comme tels. Par conséquent, nombre des images, vidéos et enregistrements audio générés par l’IA les plus dangereux continueront de circuler sans aucune indication quant à leur origine.
C’est pourquoi les exigences de transparence devraient être complétées par des outils de vérification indépendants permettant à chacun d’évaluer lui-même l’authenticité des contenus numériques, qu’ils aient ou non été identifiés par leur créateur. Des solutions telles que Bitdefender RealCheck contribuent à combler cette lacune en permettant aux utilisateurs de vérifier de manière indépendante les contenus suspects générés par l’IA, tandis que des normes reconnues à l’échelle internationale contribueraient à garantir que les labels relatifs à l’IA sont appliqués de manière cohérente sur les différentes plateformes et dans les différentes juridictions.
Pour les consommateurs, le principal risque ne réside pas dans les contenus générés par l’IA qui sont correctement identifiés, mais dans les contenus malveillants générés par l’IA qui évitent délibérément toute mention de leur origine. Les criminels n’indiqueront pas volontairement que leurs deepfakes ou leurs escroqueries ont été générés par l’IA. Qu’il s’agisse d’une voix clonée faisant croire à une urgence familiale, d’une fausse vidéo d’une célébrité faisant la promotion d’un investissement ou d’une escroquerie sentimentale, les utilisateurs doivent vérifier les contenus suspects avant d’agir. La transparence constitue une première étape importante, mais la vérification indépendante sera essentielle pour combler la lacune laissée par les acteurs malveillants qui choisissent tout simplement d’ignorer les règles. »
