Reconnaissance faciale : les dérives sont-elles déjà programmées ?

Reconnaissance faciale : les dérives sont-elles déjà programmées ?
Innovation

Un an après avoir effrayé le monde entier par son outil de reconnaissance faciale, aux ramifications libertices, mais prétendument limité aux forces de l’ordre, Clearview AI revient sous le feu des projecteurs. L’entreprise a déposé un brevet, mi-2020, pour une application de reconnaissance faciale grand public tout aussi problématique. Une nouvelle fois, le groupe tente d’éteindre l’incendie en expliquant que sa technologie restera réservée aux services de police. Mais les raisons de s’inquiéter sont plus que réelles.

Définitivement, notre monde a besoin de réglementations claires, précises et robustes encadrant l’usage de l’intelligence artificielle, et en particulier de la reconnaissance faciale, tant ses technologies menacent la vie privée et la liberté individuelle, au niveau mondial. Et non, ce n’est certainement pas à Amazon de s’en charger !

Janvier 2020 : le New York Times révèle le dangereux outil de Clearview AI

Cela étant, la cible principale des craintes sur les dérives de la reconnaissance faciale n’est plus la firme de Jeff Bezos. Non que les recherches d’Amazon en la matière aient cessées d’être problématique, malheureusement. Mais une autre entreprise, beaucoup moins soucieuse de son image de marque, est entrée dans cette dangereuse danse.

Son nom ? Clearview AI. C’est en janvier 2020 qu’elle commence à faire les gros titres de l’actualité, après qu’une enquête du New York Times ait dévoilé les rouages de son logiciel de reconnaissance faciale, alimenté par 3 milliards de photos issues d’Internet, avec leurs dates et leurs sources.

Une reconnaissance faciale qui bafoue tous les principes de protection de la vie privée

Le principe de cet outil fait froid dans le dos. Il suffit de montrer au logiciel une photographie d’une personne, et il est ensuite capable de vous présenter un album de toutes les photos trouvées sur Internet représentant cette personne, avec leurs sources. De quoi identifier cette personne, et même récupérer de nombreuses informations personnelles , y compris sensibles.

Face aux critiques, Clearview AI a répondu en indiquant que son outil était réservé aux forces de l’ordre, et exclusivement pour rechercher des grands criminels ou des terroristes. Mais l’enquête du New York Times indiquaient que plusieurs commerçants, et même des amis des fondateurs, utilisaient à l’époque cet outil…

Quand Clearview AI fait breveter une application grand public de reconnaissance faciale

L’affaire avait fait tellement de bruit que Clearview AI s’était retrouvé devant la justice américaine, en mai 2020. A l’époque, le groupe avait assuré qu’il prendrait des mesures pour « éviter les transactions avec les clients non gouvernementaux ».

Mais, malgré ces promesses, Clearview AI continuait, et continue sans doute toujours, de viser le marché du grand public. C’est ce que révèle le site Buzzfeed, repris par nos collègues de Numerama, qui détaille un brevet, publié en août 2020 par la firme, et rendu public le 11 février 2021.

Ce brevet détaille une application fonctionnant sur l’alliance d’un outil de recherche sur Internet et d’une technologie de reconnaissance faciale. Cela vous rappelle diablement quelque chose ?

Comment en savoir le maximum sur un inconnu ?

Le pire, c’est que le brevet détaille largement les usages de cette application potentielle. Certes, rien ne dit que cette application verra le jour. Mais le simple fait que Clearview AI l’envisage, en sachant que la firme dispose assurément de la technologie pour la mettre en œuvre, rend extrêmement méfiant.

« Dans de nombreuses situations, il est souhaitable pour un individu d’en savoir plus sur la personne qu’il vient de rencontrer. (…) Il existe un fort besoin pour des moyens plus efficaces pour obtenir des informations sur une personne », détaille ainsi le brevet, qui évoque des contextes aussi variés qu’une relation commerciale ou un rendez-vous amoureux.

Etes-vous vraiment rassurés ?

Pouvoir retrouver en un geste toutes les photos d’une personne sur le net, avec ou sans son nom, anciennes et récentes, publiées avec ou sans son consentement : voilà le monde dont rêve Clearview AI. Ne reculant devant aucune limite, l’entreprise évoque même la possibilité d’identifier les « agresseurs sexuels », les « personnes sans abris » ou les personnes souffrant d’un « problème ou handicap mental ».

De quoi ouvrir à des dérives qui pourraient réduire le concept même de vie privée en miettes… Interrogé par Buzzfeed, Hoan Ton-That, PDG de Clearview AI, a répété son mantra : son outil n’est utilisé et ne sera utilisé que par les forces de l’ordre. Vous sentez-vous pour autant parfaitement rassuré ?

Leave a Reply

You must be logged in to post a comment.