IBM a annoncé aujourd’hui la disponibilité du célèbre modèle de langage de grande taille (LLM) Mixtral-8x7B, développé par Mistral AI, sur sa plateforme d’IA et de données watsonx, tout en continuant à développer ses capacités pour aider les clients à innover avec les propres modèles de fondation d’IBM et ceux d’un éventail de fournisseurs open-source.
IBM propose une version optimisée de Mixtral-8x7b qui, lors de tests internes, a permis d’augmenter le débit – c’est-à-dire la quantité de données pouvant être traitées dans un laps de temps donné – de 50 % par rapport au modèle standard[1]. Cela pourrait potentiellement réduire le temps de latence de 35 à 75 %, en fonction de la taille du prompt, accélérant ainsi le temps nécessaire pour obtenir des informations. Ce résultat est obtenu grâce à un processus appelé quantization[2] qui réduit la taille du modèle et les besoins en mémoire pour les LLMs et, à son tour, peut accélérer le traitement pour aider à réduire les coûts et la consommation d’énergie.
L’ajout de Mixtral-8x7B élargit la stratégie ouverte et multi-modèle d’IBM pour répondre aux besoins des clients et leur donner le choix et la flexibilité pour mettre à l’échelle des solutions d’IA d’entreprise sur l’ensemble de leurs activités. Grâce à des décennies de recherche et développement dans le domaine de l’IA, à une collaboration ouverte avec Meta et Hugging Face, et à des partenariats avec des leaders en matière de modèles, IBM élargit son catalogue de modèles watsonx.ai et apporte de nouvelles fonctionnalités, modalités et de nouveaux langages.
Les choix de modèles de fondation prêts pour les entreprises d’IBM et sa plateforme de données et d’IA watsonx peuvent permettent aux clients d’utiliser l’IA générative pour obtenir de nouvelles informations et de nouveaux gains d’efficacité, et créer de nouveaux modèles économiques fondés sur des principes de confiance. IBM permet aux clients de sélectionner le bon modèle pour le bon cas d’usage et les objectifs de prix et de performance pour des domaines d’activité ciblés tels que la finance.
Laissez un commentaire