La puissance de calcul nécessaire pour les algorithmes d'intelligence artificielle double tous les 3,4 mois, selon une analyse de l’entreprise OpenAI, qui vise à développer une IA « responsable ». Entre 1959 et 2012, cette progression suivait la loi de Moore, la puissance doublant tous les deux ans. Mais depuis l'émergence des réseaux neuronaux modernes en 2012, la puissance de calcul a été multipliée par 300.000, soit un taux de progression sept fois plus rapide. Le programme Alphago Zero nécessite ainsi 1.860 petaflops par seconde et par jour alors qu'Alexnet, le réseau neuronal conçu par Alex Krizhevsky et sorti en 2012, ne tournait « que » avec 0,0054 petaflop par seconde et par jour.
« Cette tendance est due notamment à la baisse des coûts du calcul (nombre d'opérations par watt), mais aussi par de nouvelles configurations des réseaux qui utilisent toujours plus de puces en parallèle », rapportent les ingénieurs d'OpenAI. Et cette course au petaflops n'est pas prête de s'arrêter : « le budget informatique mondial est de 1.000 milliards de dollars par an et les limites de ce budget semblent lointaines », euphémise OpenAI. Autrement dit, la recherche en IA bénéfice pratiquement d'un « open bar » pour acquérir toujours plus de puissance informatique. Le problème, c'est que ces énormes serveurs génèrent aussi une énorme pollution : une étude de l’université du Massachusetts sortie en juin 2019 avait calculé que l'entraînement d'un programme d'apprentissage de langage naturel tel que Transformer générait jusqu'à 300 tonnes de CO2, l'équivalent de 60 années d'émissions pour un humain.
- Qu'est-ce qui se cache dans ces mystérieuses boules gélatineuses ?, le 13/04/2021 à 12h30
- Bon plan : 70 € d'économie sur la Chaise Romaine Station Traction ISE, le 13/04/2021 à 12h00
- Bon plan : la montre connectée Samsung Galaxy Watch en réduction, le 13/04/2021 à 11h00
- Bon plan Cdiscount : 129 € de réduction sur la trottinette électrique GO RIDE 80PRO, le 13/04/2021 à 10h00
- Le risque d'être contaminé par une surface serait de moins de 1 sur 10.000 !, le 13/04/2021 à 09h00
- Des coronavirus encore inconnus et potentiellement « très dangereux » découverts à Wuhan, le 12/04/2021 à 19h07
- Étrangeté du vivant : cette tortue possède un groin de cochon, le 12/04/2021 à 18h01
- Bon plan Samsung Odyssey G9 : -271 € sur l'écran incurvé Gamer sur Cdiscount, le 12/04/2021 à 17h30
- Formation au langage Python : profitez d'une remise de 89% sur ce bon plan, le 12/04/2021 à 15h00
- Bon plan : 88 % de remise sur la formation au bitcoin et aux cryptomonnaies, le 12/04/2021 à 14h30