Google, Microsoft, Anthropic et OpenAI, quatre entreprises en tête de la course aux intelligences artificielles de dernière génération, ont annoncé mercredi 26 juillet la création d’une nouvelle organisation professionnelle pour lutter contre les risques liés à cette technologie susceptibles d’être révolutionnaire.
au sommaire
Baptisée « Frontier Model Forum », la toute nouvelle organisation est chargée de promouvoir un « développement responsable » des modèles d'intelligence artificielle (IA) les plus sophistiqués et de « minimiser les risques potentiels », d'après le communiqué. Les membres s'engagent à partager entre eux et avec des législateurs, chercheurs et associations des bonnes pratiques pour rendre ces nouveaux systèmes moins dangereux.
Le déploiement rapide de l'IA générative, à travers des interfaces devenues très populaires comme ChatGPT (OpenAI), Bing (MicrosoftMicrosoft) ou Bard (GoogleGoogle), suscite beaucoup d'inquiétudes des autorités et de la société civile. De son côté, l'Union européenne (UE) finalise un projet de régulation de l'intelligence artificielle qui doit imposer des obligations aux entreprises du secteur, comme la transparencetransparence avec les utilisateurs ou le contrôle humain sur la machine.
L’administration Biden réclame des engagements pour encadrer les IA
Aux États-Unis, les tensions politiques au Congrès empêchent tout effort en ce sens. La Maison-Blanche incite donc les groupes concernés à s'assurer eux-mêmes de la sûreté de leurs produits, au nom de leur « devoir moral », selon les mots de la vice-présidente américaine Kamala Harris début mai.
La semaine dernière, l'administration de Joe Biden a obtenu des « engagements » de la part d'AmazonAmazon, Anthropic, Google, Inflection, Meta, Microsoft et OpenAI à respecter « trois principes » dans le développement de l'IA (la sûreté, la sécurité et la confiance).
Elles sont notamment censées tester leurs programmes en amont, lutter contre les cyberattaques et la fraude, et trouver un moyen de marquer les contenus générés par de l'IA, afin de les authentifier clairement comme tels.
« Des capacités dangereuses peuvent émerger de façon inattendue »
Les dirigeants de ces entreprises ne nient pas les risques, bien au contraire. En juin, Sam Altman, le patron d'OpenAI et Demis Hassabis, le dirigeant de DeepMind (Google), notamment, ont appelé à lutter contre « les risques d'extinction » de l'humanité « liés à l'IA ».
Lors d'une audition au Congrès, Sam AltmanSam Altman a soutenu l'idée en vogue de créer une agence internationale chargée de la gouvernance de l'intelligence artificielle, comme il en existe dans d'autres domaines. En attendant, OpenAI travaille vers une intelligence artificielle dite « générale », aux capacités cognitives qui seraient similaires à celles des humains.
Dans une publication du 6 juillet, la start-up californienne a défini les « frontier model » d'IA comme des programmes fondamentaux « très perfectionnés qui pourraient comporter des capacités dangereuses de taille à poser des risques graves pour la sécurité du public ».
« Des capacités dangereuses peuvent émerger de façon inattendue, prévient encore OpenAI, et il est difficile de vraiment empêcher qu'un modèle déployé soit utilisé de façon abusive ».
par Futura avec l'AFP
le 27 juillet 2023
