L'intelligence artificielle : une explosion de puissance

Depuis 2010, Mustafa Suleyman, co-fondateur de la startup Google DeepMind et actuel directeur de la division IA de Microsoft, a assisté à une transformation spectaculaire de la puissance de calcul de l'intelligence artificielle (IA).

Un mini-ordinateur de la taille d'une maison pour l'apprentissage automatique

Avec la cadence d'un boom, la puissance de calcul de l'IA a augmenté de manière exponentielle. Selon Suleyman, le coût du calcul a baissé de 100 fois en cinquante ans pour l'énergie solaire, et de 97% en trente ans pour les batteries.

Les puissants processeurs de l'IA, tels que les cartes graphiques Nvidia, ont connu une amélioration phénoménale. Leur puissance a augmenté de 2 250 teraflops en 2020 à 2 250 teraflops aujourd'hui, et certaines cartes utilisent maintenant la mémoire HBM (High Bandwidth Memory) qui accélère considérablement les transferts de données.

Les superordinateurs, qui utilisent des milliers de processeurs, sont devenus des énormes installations, consommant autant d'énergie que des villes entières. Selon Suleyman, c'est déjà la réalité dans les laboratoires les plus avancés, avec des clustères de 100 000 processeurs, des racks de taille industrielle et des centres de données consommant 10 gigavatios d'énergie.

Cette explosion de puissance de calcul ouvre la voie à des systèmes d'IA presque humains, capables d'écrire du code, de négocier des contrats, de gérer des logistiques, etc. Toutefois, elle comporte également des risques énergétiques considérables, car un seul rack de calcul peut consommer 120 kilovatios, équivalent à la consommation d'une centaine de maisons.

Suleyman prévoit que la puissance de calcul global de l'IA atteindra 100 millions de processeurs H100 en 2027, soit une augmentation de 10 fois en trois ans. Cette évolution rapide met en avant les leaders de l'industrie, Microsoft et Nvidia, qui sont au cœur de ce boom de l'apprentissage automatique.