Le commissaire européen au Marché intérieur Thierry Breton a récemment indiqué que la loi européenne sur l’intelligence artificielle, en cours de finalisation, répondrait aux craintes nées de la démocratisation des chatbots dopés à l’IA comme ChatGPT.
Si le phénomène ChatGPT attise la curiosité, la stupéfaction et la peur devant ses capacités étonnantes, l’outil de complétion de texte d’OpenAI a mis au cœur du débat public les inquiétudes légitimes liées au développement de l’IA.
ChatGPT, un phénomène au fonctionnement encore mal connu
Certes, le fonctionnement de ChatGPT demeure très mal connu, et est sujet à beaucoup de contre-sens : sa seule fonction est en effet de compléter des textes en fonction de son apprentissage, il n’est ni capable de déduction, ni même de vérifier la moindre information par lui-même, simplement de rédiger les suites de mots qui lui semblent le plus probables en fonction d’un contexte.
Mais son succès et ses utilisations potentiellement dangereuses (pour rédiger des messages de scam ou de phishing, pour usurper des identités ou plagier des créations, voire pour faciliter la création de logiciels malveillants par des codeurs débutants) en font un jalon incontournable pour aborder les questions de l’IA et du deep learning.
La loi européenne sur l’IA répond-elle aux craintes nées des chatbots ?
De ce fait, la réaction de la Commission européenne, qui pilote actuellement une loi sur l’encadrement de l’IA, était fatalement très attendue. Cette réglementation, approuvée fin 2022 par les États membres, devrait entrer en vigueur en 2024, et devenir ainsi la première réglementation mondiale sur l’IA – ce qui pourrait bien, à la manière du RGPD, en faire le modèle de nombreuses autres législations sur le sujet dans le monde.
Et, à l’heure où tous le géants de l’IA prépare le lancement de leur propre chatbot concurrent de ChatGPT, le commissaire européen au Marché intérieur, Thierry Breton, s’est montré rassurant. « Comme l’a montré ChatGPT, les solutions d’IA peuvent offrir de grandes opportunités aux entreprises et aux citoyens, mais peuvent aussi présenter des risques », reconnaît-il.
Thierry Breton défend une transparence maximale de ces outils
« Les gens devraient être informés qu’ils ont affaire à un chatbot et non à un être humain. La transparence est également importante au regard du risque de partialité et de fausses informations », ajoute Thierry Breton.
Ce point est crucial, mais pas forcément le plus problématique : le commissaire estime qu’un chatbot ou un outil de complétion de texte doit être transparent et indiquer plus clairement que ChatGPT ce qu’il est, sans ambiguïté possible. De ce point de vue, la réglementation européenne devrait contraindre les opérateurs d’un tel outil à plus de précision sur sa nature et sur ses capacités et limites.
Comment « garantir une IA digne de confiance basée sur des données de haute qualité » ?
Mais c’est sans doute sur la fin de la déclaration de Thierry Breton qu’il faut chercher la grande question de fond : « c’est pourquoi nous avons besoin d’un cadre réglementaire solide pour garantir une IA digne de confiance basée sur des données de haute qualité », déclare-t-il.
Car oui, les capacités d’une IA dépendent exclusivement de son apprentissage. Dans le cas d’un agent conversationnel, ses orientations idéologiques, politiques et morales dépendent ainsi presque exclusivement de la méthode d’apprentissage (les données et l’accompagnement humain pour orienter le point de vue à avoir sur ces données).
Quelles limites et contraintes posera la législation européenne ?
ChatGPT a, typiquement, été entraîné pour éviter, au premier abord, de tenir tout discours moralement problématique, ou de propager des fake news ou théories du complot. Mais ces limites peuvent très facilement être détournées.
Surtout, la déclaration de Thierry Breton dépasse le cadre de ChatGPT et des agents conversationnels : quand on connaît l’importance de l’IA, de son apprentissage et de ses objectifs dans les algorithmes qui président aux contenus mis en avant par tous les sites et réseaux sociaux les plus populaires, il semble indispensable de réguler ce pouvoir.
La loi européenne est-elle pour autant taillée pour répondre à ce défi civilisationnel ? L’avenir le dira…