Le laboratoire de Superintelligence Meta : une quête ambitieuse pour l'Intelligence Artificielle Générale

Depuis 2024, l’entreprise Meta, anciennement connue sous le nom de Facebook, s’est engagée dans une course ambitieuse pour le développement de l’intelligence artificielle générale. L’initiative, baptisée Meta Superintelligence Lab (MSL), mobilise des ressources humaines et technologiques sans précédent pour atteindre cet objectif ambitieux.

Le contexte de la création du MSL

En réponse aux enjeux grandissants de l’intelligence artificielle, Meta a fusionné deux de ses divisions majeures pour créer le MSL : FAIR, son centre de recherche fondamentale en IA, et l’équipe à l’origine de <a href="https://ai.facebook.com » target= »_blank »>Meta AI. Cette convergence a permis de former une véritable « Dream Team » de l’IA, composée de plus de 1 200 chercheurs, dont certains des plus grands experts mondiaux. Yann LeCun, l’un des pionniers de l’apprentissage profond, joue un rôle clé dans la définition des priorités scientifiques du laboratoire.

Un recrutement offensif au MSL

Le recrutement au MSL a été particulièrement agressif. Mark Zuckerberg, le fondateur de Meta, a établi une liste confidentielle de 500 chercheurs à recruter. Plusieurs anciens de Google DeepMind et d’Anthropic ont déjà rejoint l’équipe. Parmi les nouveaux arrivants figurent Trapit Bansal et Shengjia Zhao, qui ont travaillé chez OpenAI sur des modèles comme ChatGPT et la série O.

Les investissements massifs de Meta

Meta n’a pas hésité à investir massivement pour attirer les meilleurs talents en IA. Le cas d’Alexandr Wang, le fondateur de Scale AI, est particulièrement notable. Son contrat est estimé à 14 milliards de dollars, avec une participation dans sa société.

Le MSL bouleverse les rémunérations des chercheurs

Les salaires au sein du MSL sont très élevés. Un chercheur senior peut gagner plus de 750 000 dollars par an. Les primes à la signature peuvent atteindre plusieurs millions de dollars. Cette situation a entraîné une hausse des salaires dans le secteur de l’IA, avec OpenAI qui a augmenté ses salaires de 40 % et Anthropic qui a accéléré ses programmes d’actions. Cela a également eu un impact sur le monde universitaire, avec des étudiants de Stanford ou du MIT qui quittent leurs thèses pour rejoindre l’industrie.

Une infrastructure technologique puissante

Pour soutenir ses ambitions, Meta a déployé des infrastructures technologiques sans précédent. L’entreprise a construit deux nouveaux centres de données gigantesques, l’un au Texas et l’autre en Iowa. Ces installations sont dédiées entièrement à la puissance de calcul nécessaire pour l’intelligence artificielle générale.

Un arsenal de GPU : une puissance de feu inégalée

Ces centres de données abritent un arsenal de 50 000 GPU NVIDIA H100, des puces graphiques considérées comme le standard pour l’apprentissage profond. Chaque puce est capable de réaliser des calculs complexes à une vitesse fulgurante, permettant à Meta d’entraîner des modèles de langage massifs qui dépassent le trillion de paramètres.

Réseau ultra-rapide et innovations matérielles

Pour synchroniser les entraînements distribués sur des milliers de machines, Meta a mis en place un réseau interne à une vitesse de 1,6 térabit par seconde. Par ailleurs, pour répondre aux défis énergétiques de cette infrastructure colossale, Meta explore des technologies de rupture, comme les calculateurs optiques, qui utilisent la lumière pour effectuer des calculs et ont le potentiel de réduire drastiquement la consommation d’énergie.