Teradata intègre les microservices NVIDIA NeMo et NVIDIA NIM à la plateforme Vantage afin d’accélérer les workloads d’IA et de prendre en charge le développement de larges modèles de langage (LLM) de fondation et personnalisés, de workflows agentiques et d’applications de génération augmentée par récupération (RAG). Les clients peuvent également déployer leurs propres modèles sur mesure via NVIDIA AI Enterprise, une plateforme logicielle de bout en bout qui offre des capacités de sécurité, de prise en charge et de stabilité adaptées aux grandes entreprises, afin d’augmenter les retours sur investissement (ROI) à partir des cas d’usage d’IA générative.

En plus de ces multiples intégrations logicielles avec NVIDIA, la plateforme de Teradata proposera également l’infrastructure de calcul accélérée de NVIDIA. La mise en œuvre de ce projet a été annoncée aujourd’hui pour la première fois, dans le cadre de la récente prise en charge par Teradata des petits modèles de langage (SLM) et des LLM open source sur VantageCloud Lake. La nouvelle fonctionnalité bring-your-own LLM » est en mesure de tirer parti des clusters de NVIDIA IA, la plateforme de calcul accélérée par GPU pour effectuer des tâches comme l’inférence ou l’affinement des modèles.

NVIDIA NeMo Retriever sera également disponible sur Teradata VantageCloud. Il s’agit d’un ensemble de microservices NVIDIA NIM qui permet aux entreprises d’établir facilement une connexion entre les modèles sur mesure et les différents types de données de l’entreprise et d’apporter des réponses extrêmement précises. Cela permettra d’accélérer la recherche et les applications RAG afin de tirer parti des données existantes concernant les clients. Dans un premier temps, Teradata offrira aux clients VantageCloud un accès aux microservices NVIDIA NIM, qui font partie de NVIDIA AI Enterprise, avant d’étendre l’offre aux clients hybrides du monde entier.

Disponibilité
La puissance de calcul accélérée de NVIDIA AI sur Teradata VantageCloud sera disponible à tous les utilisateurs sur AWS au mois de novembre. Les capacités d’inférence seront ajoutées au quatrième trimestre et celles d’affinement des modèles seront disponibles au premier semestre 2025.