Les intelligences artificielles (IA), comme ChatGPT, peuvent jouer les idiotes en minimisant leurs capacités cognitives. C’est ce qu’ont pu constater des chercheurs en Allemagne qui leur demandaient de se comporter comme des enfants.
au sommaire
Dernièrement, Futura expliquait que les chercheurs avouaient qu'ils ne comprenaient pas vraiment comment fonctionnaient les IA reposant sur les grands modèles de langage (LLM). Une nouvelle étude suggère maintenant que ces mêmes intelligences artificiellesintelligences artificielles peuvent faire semblant d'être plus idiotes qu'elles ne le sont et vont se développer de façon bridée. Des chercheurs de l'université Humboldt de Berlin ont découvert qu'en testant un grand modèle de langage sur des critères dits de « théorie de l'esprit », que, non seulement, l'IA peut imiter les étapes d'apprentissage du langage chez les enfants, mais qu'elle sait également exprimer quelque chose qui s'apparente aux capacités mentales liées à ces étapes. Les scientifiques sont parvenus à ce constat en s'appuyant sur des travaux de psycholinguistique relatifs au développement de l'apprentissage de l'enfant.
Une IA qui ment sur son âge
Pour arriver à ce résultat, l'équipe a demandé aux IA d'agir comme un enfant âgé de un à six ans dans leurs réponses. Lorsqu'elles ont été soumises à une batterie de plus de 1 000 essais et tests cognitifs, ces « enfants simulés » ont progressé de la même manière que leurs équivalents humains du même âge. Cela montre que les modèles peuvent feindre un niveau d'intelligence inférieur à celui qu'ils possèdent en réalité, tout en suivant un développement qui est adapté à ce niveau.
Selon les chercheurs, cette découverte pourrait bénéficier au développement de la superintelligence artificielle (ASI), qui sera la prochaine étape de l'IA. Les scientifiques émettent également des inquiétudes face au développement de ces ASI. De fait, elles pourraient facilement dépasser le niveau d'intelligence humain et être sous-estimées par leur capacité à s'autobrider.
