Lors d’une interview, le cofondateur de Skype s’est inquiété du développement rapide des IA. Il considère que les intelligences artificielles pourraient parvenir à dominer l’humain dans la gestion de la planète et même le massacrer.

au sommaire

    De nombreux experts et ténors des intelligences artificielles (IA) émettent des réserves sur leur développement rapide et non réglementé. Des tribunes rassemblant de nombreux signataires ont été publiées dès les premiers mois de la déferlante d'IA génératives à commencer par ChatGPT auprès du public. Parmi les personnes qui ne sont pas vraiment enthousiastes face à ces IA, il y a Jaan Tallinn, l'un des co-fondateurs de Skype. Connu également pour avoir participé au développement de l'applicationapplication de partage de fichiers peer-to-peer Kazaa, il craint qu'une IA non contrôlée ne conduise à des circonstances désastreuses. En 2017, l'ingénieur avait d'ailleurs participé à la réalisation d'un court-métrage autour des conséquences de leur usage. Baptisé Slaughterbots, comme robots massacreurs, il montrait des robots destinés à être pilotés par des IA. Ils tuaient selon des critères provenant des profils des réseaux sociauxréseaux sociaux, ou des données biométriques, les personnes qui ne correspondaient pas aux normes qu'avaient établies leurs algorithmes.

    Le court-métrage Slaughterbots nous projette dans un monde où l’IA échappe à l’Homme et transforme les robots en tueurs. © Dust

    Vers des robots massacreurs

    C'est dans une interview avec The Bottom Line d'Aljazeera que Jaan Tallinn a tenu à rapprocher le développement actuel des IA avec les conséquences qu'il avait mises en scène dans son film. Il y a quelques mois, le Future of Life Institute avait rassemblé des signataires et appelé à une pause dans les expériences géantes d'IA. Il se trouve justement que Tallinn est bien placé sur le sujet, car c'est l'un des fondateurs de cet institut planchant sur les menaces existentielles. Pour lui, alors que l'être humain contrôle en permanence cette planète, il est en train de se lancer dans une course pour céder cet atout aux machines. Et c'est loin d'être une bonne idée... Ce qui lui fait également peur, c'est d'introduire l'IA dans l’armée. Le scientifique a toutefois émis un bémol en observant que l'Europe planche justement sur une réglementation propre aux IA. Il considère également qu'il faudrait que les résultats générés par des IA soient systématiquement labellisés comme tels. De même, il souhaite qu'une certificationcertification soit mise en place pour le traitement des données employées par les data-centers propres aux IA. Le problème est que les IA risquent d'avoir un sacré coup d'avance par rapport à la mise en place de leurs normes.