Canonical, en collaboration avec NVIDIA, permet et optimise Ubuntu sur les supercalculateurs NVIDIA DGX AI ou les serveurs grand public construits sur la plateforme NVIDIA EGX Enterprise. Aujourd’hui, une étape est franchie avec le lancement d’une solution MLOps certifiée de bout en bout qui associe le meilleur des MLOps open source au meilleur matériel pour l’entraînement et l’inférence, afin d’offrir aux entreprises une pile robuste et unifiée, depuis le noyau et les pilotes jusqu’à la couche d’application de la data science.

Les équipes de Canonical et de NVIDIA testent les systèmes DGX à nœud unique et à nœuds multiples pour valider la fonctionnalité de Charmed Kubeflow au-dessus de MicroK8s et de Charmed Kubernetes. Avec l’ensemble du flux de travail d’apprentissage automatique sur cette pile, les entreprises débloquent des expérimentations et des livraisons plus rapides pour les initiatives d’IA.

Les récentes découvertes dans le domaine de l’IA générative ont incité les organisations à consacrer 5 % de leur budget numérique à l’IA (McKinsey - The State of AI in 2022) et à mettre au défi plusieurs équipes d’intégrer l’IA dans leur plan et leur processus d’innovation. Les compétences clés ainsi que les capacités d’infrastructure sont très demandées, telles que la puissance de calcul, l’automatisation des flux de travail et la surveillance continue. Ces besoins sont directement satisfaits par Charmed Kubeflow sur du matériel NVIDIA.
Charmed Kubeflow est une plateforme MLOps open-source de bout en bout sur Kubernetes. Elle automatise les flux de travail d’apprentissage automatique afin de créer une couche d’application fiable pour le développement de modèles, l’itération et le déploiement en production avec KServe, KNative ou NVIDIA Triton Inference Server, quel que soit le framework ML utilisé.

Les systèmes NVIDIA DGX sont spécialement conçus pour l’IA d’entreprise. Ces plateformes sont équipées de GPU NVIDIA Tensor Core qui surpassent largement les CPU traditionnels pour les charges de travail d’apprentissage automatique, ainsi que de capacités avancées de mise en réseau et de stockage. Avec des performances record, les systèmes NVIDIA DGX fonctionnent sous Ubuntu Pro optimisé avec un engagement de sécurité de 10 ans. De plus, les systèmes DGX intègrent NVIDIA AI Enterprise, la couche logicielle de la plateforme NVIDIA AI, qui comprend plus de 50 frameworks et modèles pré-entraînés pour accélérer le développement.