Les cas d’usage performants de l’IA générative continuent d’émerger en entreprise, mettant en évidence les défis liés à la confidentialité des données et à leur réglementation. En France, l’évaluation récente de la CNIL sur l’application des lois de protection des données en matière d’IA générative a démontré l’importance de cette question. La législation de l’UE sur l’intelligence artificielle, première régulation officielle en la matière, stipule que les systèmes d’IA déployés en Europe doivent être sûrs, transparents, traçables, non discriminatoires et respectueux de l’environnement. Cette initiative européenne montre l’implication des régulateurs face aux préoccupations suscitées par l’adoption de l’IA.

D’après l’une de nos études, 47 % des CDO (Chief Digital Officer) identifient la confidentialité des données comme la principale raison pour laquelle l’IA n’a pas encore été implémentée au sein de leurs organisations. La compréhension des données utilisées pour entraîner ces modèles se révèle être une tâche particulièrement complexe même pour les organisations qui entament le déploiement avec les nouvelles capacités d’IA, via notamment des grands modèles de langage (LLMs) pour entreprises.

“Alors que l’utilisation et l’adoption de l’IA générative continuent d’évoluer de la planification à la production, beaucoup ressentent une certaine appréhension quant à la meilleure façon de l’utiliser." déclare Raphaël Savy, VP France and Southern Europe, Alteryx. Mais bien que la technologie offre d’innombrables possibilités pour améliorer notre qualité de vie, notre façon de travailler, et nos échanges, il est impératif de reconnaître notre responsabilité d’instaurer et de promouvoir une IA éthique et transparente.”

"Pour renforcer la confiance globale dans l’IA à l’avenir, il est crucial de mettre en place une politique de gouvernance des données claire. De même, créer ou renforcer les rôles de responsables des données au sein des entreprises, afin de mettre en place une utilisation sécurisée de l’IA qui respectera les réglementations en vigueur sur l’utilisation des données, témoignera d’un engagement envers la confidentialité des données et contribuera à accroître la confiance au sein de toute l’entreprise." conclut Trevor Schulze, Chief Information Officer, Alteryx.