Le matériel spécialisé de Microsoft pour le calcul de l' intelligence artificielle s'appelle Brainwave. Il a été créé de manière à exploiter un réseau de neurones aussi rapidement que possible avec un minimum de latence.

La société a annoncé que depuis qu’elle utilisait Brainwave, elle avait réussi à obtenir une performance dix fois plus rapide de l’IA de Bing. Le modèle d'apprentissage automatique alimente essentiellement les fonctionnalités du moteur de recherche.

L'objectif de Microsoft qui devrait être atteint via Brainwave est de fournir des prévisions d'IA en temps réel pour des applications telles que les dernières fonctionnalités de Bing.

Bing reçoit de nouvelles fonctionnalités

Microsoft fournit également à Bing quelques nouvelles fonctionnalités telles que les plus importantes à mentionner offrent davantage de réponses à des questions de procédure et la prise en charge de la définition de mots moins fréquemment utilisés lorsque les utilisateurs placent le pointeur de la souris dessus. Ces fonctionnalités sont alimentées par Brainwave.

Microsoft utilise le FPGA d'Intel pour alimenter le calcul de l'IA

Les FPGA sont une sorte de toiles vierges que les développeurs peuvent utiliser lorsqu'ils souhaitent déployer divers circuits en envoyant un nouveau logiciel. Cela implique un mélange puissant de performances et de programmabilité.

Maintenant, Microsoft peut faire plus que créer des modèles plus rapides avec le matériel; l'entreprise peut également construire des systèmes d'IA plus sophistiqués. Par exemple, le prototype 1 de Ting de Bing est maintenant dix fois plus complexe et plus rapide grâce à la capacité de calcul ajoutée via Brainwave.

Les FGA déployés par Microsoft sont livrés avec des processeurs de signaux numériques dédiés, améliorés pour les mathématiques complexes de l'IA.

Le principal avantage des FPGA

L'avantage le plus important des FPGA par rapport aux GPU (qui est devenu le choix préféré pour le calcul de l'IA) est qu'ils ne nécessitent pas une utilisation intensive des calculs par lots.

Une innovation clé permettant à Microsoft d’obtenir de tels résultats via les FPGA est l’utilisation de types de données à virgule flottante 8 et 9 bits qui améliorent considérablement les performances.

Les puces FPGA d'Intel permettent à Bing de lire et d'analyser rapidement des milliards de documents sur l'ensemble du Web et de fournir la meilleure réponse à votre question en moins d'une fraction de seconde.

En fait, les FPGA d’Intel nous ont permis de réduire de plus de 10 fois la latence de nos modèles tout en augmentant de 10 fois la taille de notre modèle.

L'utilisation des FPGA pour accélérer le calcul de l'IA remonte à 2012

Microsoft a commencé à utiliser les FPGA pour améliorer la vitesse de calcul de l'IA il y a plus de six ans, lorsque l'équipe Bing a commencé à utiliser les puces. Tout cela est également une excellente nouvelle pour Intel. La société a acheté Altera, un fabricant de FPGA en 2015, et le contrat de 16, 7 milliards de dollars a fourni à Intel le pouvoir nécessaire pour répondre aux besoins de Microsoft jusqu'à aujourd'hui.

Nous sommes impatients de voir Brainwave disponible via Microsoft Azure pour offrir aux clients la possibilité de déployer leurs modèles.