À mesure que l’IA, les technologies de capteurs et l’innovation réseau accélèrent leur développement, l’exploitation de l’analyse de données à l’aide de l’IA afin d’évaluer et de trier les flux entrants en périphérie du réseau va jouer un rôle de plus en plus crucial, notamment parce que les sources de données s’enrichissent quotidiennement. L’utilisation de l’analyse de données augmentée par l’IA à grande échelle peut toutefois se révéler un processus lent et complexe et s’accompagner de coûts de maintenance et logiciels plus élevés afin d’intégrer les nouveaux modèles d’IA et le matériel additionnel. Grâce aux capacités de puissance de calcul en périphérie émergentes sur des sites de plus en plus isolés, l’analyse de données augmentée par l’IA peut intervenir au plus près des capteurs, ce qui a pour conséquence de limiter les temps de latence et d’augmenter la bande passante.

Cette solution se compose du réseau entièrement photonique (APN) d’IOWN et des technologies d’accélération de pipelines de données au sein de l’infrastructure centrée autour des données (DCI) d’IOWN. Le pipeline de données accéléré de NTT pour l’IA adopte une approche de l’accès direct à la mémoire à distance (RDMA) sur l’APN afin de collecter et de traiter efficacement de vastes quantités de données issues de capteurs en périphérie. NTT et Red Hat sont parvenus à démontrer que cette solution permet de réduire efficacement la consommation d’énergie tout en maintenant des temps de latence limités pour l’analyse en temps réel de données augmentées par l’IA en périphérie des réseaux.

Ce PoC (« proof of concept ») a permis d’évaluer la plateforme d’analyse de données en temps réel à l’aide de l’IA5 grâce à une installation dotée de capteurs basée à Yokosuka et à un datacenter distant situé à Musashino, les deux sites étant connectés via l’APN. En conséquence, même lorsqu’un grand nombre de caméras étaient en fonctionnement, le temps de latence requis pour agréger les données des capteurs pour les analyser à l’aide de l’IA a été réduit de 60 % par rapport à des workloads conventionnels pour les inférences d’IA. De plus, le test d’IOWN a permis de montrer que la consommation d’énergie requise pour l’analyse de données à l’aide l’IA pour chaque caméra en périphérie pouvait être réduite de 40 % par rapport à des technologies traditionnelles. Cette plateforme d’analyse augmentée par l’IA permet une mise à l’échelle du processeur graphique (GPU) afin d’accommoder un plus grand nombre de caméras sans que le processeur central (CPU) ne devienne un goulot d’étranglement. Selon les calculs réalisés pendant l’essai, lorsque 1 000 caméras sont connectées, la consommation d’énergie pourrait même s’en trouver réduite de 60 %. Les principaux éléments mis en lumière par le PoC pour cette solution sont les suivants :

● Un pipeline de données accéléré pour les inférences d’IA, fourni par NTT, est doté du RDMA sur l’APN afin de collecter directement des données de capteurs à grande échelle sur des sites locaux pour les acheminer vers la mémoire intégrée à un accélérateur situé dans un datacenter distant, réduisant ainsi les coûts de gestion des protocoles d’un réseau traditionnel. Cela permet ensuite de procéder au traitement des données des inférences d’IA au sein de l’accélérateur en limitant les coûts liés au contrôle du CPU, ce qui améliore l’efficacité énergétique pour les inférences d’IA.
● L’analyse de données en temps réel augmentée par l’IA à grande échelle, en s’appuyant sur Red Hat OpenShift, permet la prise en charge d’opérateurs Kubernetes6 afin de minimiser la complexité qui accompagne la mise en place d’accélérateurs basés sur des pièces matérielles (GPU, DPU, etc.), en offrant davantage de flexibilité et un déploiement plus facile sur l’ensemble des sites non agrégés, y compris les datacenters distants.
● Au cours de ce PoC, ont été utilisés des GPU Tensor Core NVIDIA A100 et des contrôleurs NIC ConnectX-6 NVIDIA pour les inférences d’IA.

Cette solution permet d’ouvrir la voie à des technologies intelligentes alimentées par l’IA qui aideront à mettre à l’échelle les efforts des entreprises en matière de durabilité. Grâce à cette solution, elles bénéficieront notamment :
● De coûts réduits liés à la collecte de vastes quantités de données ;
● D’une collecte de données améliorée, qui permet de partager celles-ci entre les zones métropolitaines et les datacenters isolés pour procéder à une analyse plus rapide à l’aide de l’IA ;
● De la capacité à exploiter les énergies potentiellement renouvelables disponibles localement, comme le solaire ou l’éolien ;
● D’une sécurité renforcée de la gestion des espaces grâce à des caméras vidéo qui font office de capteurs.