Des chercheurs de chez Google DeepMind ont réussi à montrer que les intelligences artificielles génératives peuvent produire des informations entièrement nouvelles. Leur outil FunSearch a réussi à créer des programmes pour résoudre deux problèmes mathématiques épineux.


au sommaire


    Dans un article publié dans la revue Nature, des chercheurs de GoogleGoogle DeepMind ont réussi à utiliser un grand modèle de langage (LLM, large language models) pour résoudre deux problèmes mathématiques. Les LLM, ces intelligences artificielles qui propulsent les nouveaux chatbots comme ChatGPTChatGPT ou Google Bard, sont doués pour régurgiter des informations déjà connues, mais ils ont également une tendance à l'hallucinationhallucination. C'est la première fois qu'ils produisent une nouvelle information qui n'existait pas auparavant.

    Les chercheurs ont créé un outil baptisé FunSearch (la recherche de fonctions), qui s'appuie sur Codey, une version du LLM Google PaLM 2 entraîné sur du code informatique, ainsi qu'un algorithme qui évalue le code produit et rejette les tentatives ratées ou hallucinations. Sa première tâche a été de créer un programme pour résoudre le problème « cap set », qui consiste à déterminer le nombre de points maximum sur un graphique sans qu'ils soient alignés.

    La première « véritable découverte scientifique »

    La seconde tâche était de résoudre le problème de bin packing, qui consiste à ranger des objets de taille différente dans le moins de boîtes possibles. Ce problème se pose régulièrement dans le monde réel, comme remplir des conteneurs pour le transport, ou assigner des tâches de calcul dans les centres de donnéescentres de données par exemple. Après avoir répété l'opération en boucle des millions de fois, FunSearch est parvenu à trouver des solutions originales pour ces deux problèmes. Dans le cas du problème de bin packing, sa solution était même plus efficace que les approches heuristiquesheuristiques de référence.

    « À notre connaissance, c'est la première fois qu'une véritable découverte scientifique a été faite par un grand modèle de langage », a affirmé Pushmeet Kohli, vice-président de la recherche chez Google DeepMind. Des algorithmes ont déjà été utilisés pour résoudre des problèmes, mais il s'agissait d'apprentissage automatique spécialisé dans un domaine très précis. De plus, plutôt que de donner une solution à une situation spécifique, FunSearch a produit un programme qui peut être réutilisé pour d'autres situations et qui peut être compris par les humains.