La puissance de calcul nécessaire pour les algorithmes d'intelligence artificielle double tous les 3,4 mois, selon une analyse de l’entreprise OpenAI, qui vise à développer une IA « responsable ». Entre 1959 et 2012, cette progression suivait la loi de Moore, la puissance doublant tous les deux ans. Mais depuis l'émergence des réseaux neuronaux modernes en 2012, la puissance de calcul a été multipliée par 300.000, soit un taux de progression sept fois plus rapide. Le programme Alphago Zero nécessite ainsi 1.860 petaflops par seconde et par jour alors qu'Alexnet, le réseau neuronal conçu par Alex Krizhevsky et sorti en 2012, ne tournait « que » avec 0,0054 petaflop par seconde et par jour.
« Cette tendance est due notamment à la baisse des coûts du calcul (nombre d'opérations par watt), mais aussi par de nouvelles configurations des réseaux qui utilisent toujours plus de puces en parallèle », rapportent les ingénieurs d'OpenAI. Et cette course au petaflops n'est pas prête de s'arrêter : « le budget informatique mondial est de 1.000 milliards de dollars par an et les limites de ce budget semblent lointaines », euphémise OpenAI. Autrement dit, la recherche en IA bénéfice pratiquement d'un « open bar » pour acquérir toujours plus de puissance informatique. Le problème, c'est que ces énormes serveurs génèrent aussi une énorme pollution : une étude de l’université du Massachusetts sortie en juin 2019 avait calculé que l'entraînement d'un programme d'apprentissage de langage naturel tel que Transformer générait jusqu'à 300 tonnes de CO2, l'équivalent de 60 années d'émissions pour un humain.
- Pourquoi nos dents de sagesse poussent si tard, le 14/10/2021 à 18h30
- Bon plan Moulinex : -229 € sur le Robot cuiseur connecté i-Companion, le 14/10/2021 à 18h02
- Le PC portable Lenovo IdeaPad Creator 5i est à -220 € sur Amazon, le 14/10/2021 à 17h29
- Bon plan Cdiscount : 86 € de remise sur le four électrique multifonction Candy, le 14/10/2021 à 17h00
- Événement en live samedi : suivez le lancement de Lucy vers les astéroïdes troyens !, le 14/10/2021 à 16h12
- Une météorite a atterri sur son lit en pleine nuit !, le 14/10/2021 à 15h09
- Le pack PC portable HP 14S-DQ2027NF à prix imbattable sur Darty, le 14/10/2021 à 13h35
- Amazon baisse le prix de l'imprimante HP Officejet 250 !, le 14/10/2021 à 13h02
- Bon plan : l'aspirateur balai Dyson V10 Absolute est à -306 € sur Cdiscount, le 14/10/2021 à 12h30
- Ford fait appel à la neuroscience pour lutter contre la fatigue au volant, le 14/10/2021 à 12h00