Intelligence Artificielle : l’Union Européenne met en garde contre des dérives éthiques

Jun 6, 2017
Vote on Hacker News

Le développement des système d’intelligence artificielle semble sans fin, au point que des situations qui relevaient de la science-fiction voici encore quelques années deviennent réalistes aujourd’hui. Face à ces évolutions, les craintes de dérives sont légitimes : un organe consultatif de l’Union Européenne propose un encadrement pour les éviter.

« En matière d’IA, nous avons besoin d’une approche où l’homme reste aux commandes et où les machines restent des machines que les hommes ne cessent jamais de contrôler » : non, cette phrase n’est pas un dialogue du prochain reboot de Terminator. Il s’agit d’une déclaration de Catelijne Muller, rapporteuse d’un communiqué du Comité économique et social européen (CESE), un organisme consultatif de l’Union Européenne.

Pour une IA qui œuvre en faveur du bien-être social

Le CESE vient de présenter son avis d’initiative sur l’impact sociétal de l’IA, où il recommande à l’Europe de mettre en place des politiques pour développer l’intelligence artificielle « d’une manière qui garantisse qu’elle œuvre en faveur de la société et du bien-être social et non pas à l’encontre de ceux-ci. ». Et pour cela, il faut s’assurer qu’un contrôle humain demeure, pour décider quelles tâches l’IA peut accomplir et avec quelle latitude dans ses choix.

Mise en place d’un code éthique

Pour cela, le CESE propose la mise en place d’un code éthique, pour garantir que les systèmes d’IA restent compatibles avec les principes de dignité humaine, d’intégrité, de liberté, de diversité culturelle et d’égalité entre hommes et femmes, ainsi qu’avec les droits fondamentaux  », précise Catelijne Muller.

Le CESE recommande également la mise en place de certification des dispositifs d’IA, fondé sur des cadres d’apprentissage open source, sans opacité, que chaque citoyen peut venir critiquer et corriger, pour éviter toute dérive. Autant de précaution qui, on l’espère, éviteront une prise de contrôle de l’humanité par les machines…