Reconnaissance faciale : est-ce vraiment à Amazon de la réglementer ?

Reconnaissance faciale : est-ce vraiment à Amazon de la réglementer ?
Réglementaire

Le patron d’Amazon, Jeff Bezos, a déclaré que ses équipes juridiques planchaient actuellement sur une réglementation de l’utilisation de la reconnaissance faciale. Ce travail juridique fait suite aux polémiques sur l’utilisation par les forces de l’ordre de l’outil Rekognition, créé et vendu par Amazon Web Service. Si l’avènement d’une telle réglementation est une bonne nouvelle, est-ce vraiment à Amazon (ou Microsoft) de travailler sur se sujet ?

Oui, la reconnaissance faciale pose de graves questions. Et Amazon est bien placé pour le savoir, puisque la firme a été attaqué en justice pour l’utilisation de son outil ad hoc, Rekognition, par les forces de l’ordre, en particulier la police. Le manque de fiabilité de l’outil était notamment critiqué (il peine à différencier un député américain d’un criminel), mais le principe même de son utilisation posait question, en regard de la défense des droits civiques.

Rekognition : la reconnaissance faciale qui pose question

En février 2019, le responsable des politiques publiques d’Amazon Web Service (AWS, le service cloud d’Amazon, qui commercialise Rekognition) publiait un article sur les grandes lignes directrices de l’utilisation de la reconnaissance faciale. Le document demandait notamment que son utilisation par les forces de l’ordre réponde à des normes plus élevées.

En septembre 2019, Brad Smith, président et directeur juridique de Microsoft, également fournisseur de technologies dans ce domaine, appelait lui aussi à un encadrement réglementaire de la reconnaissance faciale.

« Il y a beaucoup de possibilités d’abus de cette technologie, et donc il faut une réglementation »

Et, fin septembre 2019, c’est Jeff Bezos, PDG d’Amazon, qui est monté au créneau. Il a expliqué que ses équipes juridiques travaillent à la mise en place d’une réglementation de l’usage de cette technologie : « La reconnaissance faciale est le parfait exemple d’un outil qui a des utilisations vraiment positives, donc qu’il ne faut pas freiner. Dans le même temps, il y a beaucoup de possibilités d’abus de cette technologie, et donc il faut une réglementation » a ainsi déclaré Jeff Bezos.

Si ces prises de position et ce travail des équipes juridiques sont, en soit, une bonne chose, puisque la reconnaissance faciale doit être réglementée, est-ce vraiment aux entreprises qui commercialisent ces technologies de proposer ces réglementations ?

Intelligence Artificielle : les autorités doivent imposer un cadre réglementaire

Feriez-vous confiance à une réglementation de produits toxiques ou des armes à feu développées par des producteurs de produits toxiques ou d’armes à feu ?

Certes, ce travail juridique préalable des entreprises concernés par un marché à réguler est classique aux Etats-Unis, où les normes et réglementations proviennent toujours de compromis et de discussions entre les acteurs du marché, les autorités et les citoyens.

Pour autant, sur un sujet aussi sensible que l’intelligence artificielle (dont la reconnaissance faciale est une des applications), qui inquiète même un aussi ardent défenseur de l’entreprenariat qu’Elon Musk, le cadre réglementaire doit être imposés aux entreprises par les autorités. Il peut être discuté avec les sociétés, mais ce n’est pas à elles de proposer des réglementations.

Vide juridique abyssal

Le plus problématique, finalement, est bien qu’Amazon ou Microsoft sont obligés de demander la mise en place d’une réglementation pour répondre aux critiques et attaques des citoyens, à cause d’un vide juridique abyssal. La technologie avance souvent plus vite que la loi. Mais, sur ces sujets, les autorités devraient imposer une pause au déploiement de la technologie, afin de la réglementer correctement.

L’intelligence artificielle a besoin d’un cadre réglementaire mondial. C’est une urgence absolue. Les présidents technophiles, comme Emmanuel Macron, le savent parfaitement, et ils devraient oeuvrer plus intensivement à sa mise en place. Car les conséquences d’un défaut réglementaire pourraient être dévastatrices. Bien au-delà d’un canular sur un membre du Congrès confondu avec un criminel…

Leave a Reply

You must be logged in to post a comment.