Fin février 2021, Google a annoncé le licenciement de Margaret Mitchell, co-directrice de la cellule s’occupant de l’éthique pour les IA du géant du net, deux mois après avoir remercié l’autre directrice de ce service, Timnit Gebru. De nombreux salariés de Google se sont portés au soutien des deux femmes – accélérant la création d’un syndicat des salariés d’Alphabet, maison-mère de Google. La pomme de discorde est la volonté de Google d’utiliser ses IA surpuissantes, y compris si elles souffrent, comme la direction de l’entreprise, de préjugés sexistes et racistes…
L’utilisation éthique de l’Intelligence Artificielle (IA) est bien l’un des enjeux de notre siècle. En effet, les puissances de calcul atteintes par les logiciels de deep learning annoncent une importance croissante accordée aux IA dans les prises de décisions.
L’importance des IA dans les prises de décision de ne cesse de croître
Les IA ont déjà un rôle central dans la vie numérique, via les algorithmes de recommandation, de modération, de ciblage publicitaire, ou les chatbots. Mais l’IA définit aussi de nombreuses stratégies commerciales d’entreprises, elle commence à soutenir des prises de décisions politiques, scientifiques, médicales.
Si, sur les questions strictement techniques (s’il est question exclusivement de chiffres, de valeurs, de seuils ou de statistiques), l’IA pose des problèmes éthiques limités, l’éthique doit être au cœur des questions impliquant des êtres humains.
Google coupe la tête de son département d’éthique IA
La régulation de l’IA souffre d’un vrai retard au niveau mondial : elle a pourtant besoin, pour se développer sainement, d’un arsenal robuste de règles et préceptes. Aujourd’hui, ce sont bien souvent les entreprises qui définissent le cadre éthique de leurs recherches sur l’IA.
Dès lors, il y a de quoi être préoccupé (doux euphémisme) quand l’une des sociétés les plus puissantes du monde, l’une des championnes mondiales en terme de puissance des IA, mais aussi celle qui possède et gère les bases de données les plus larges sur la population mondiale, et l’une de celle dont la stratégie commerciale est la plus intriquée avec ses algorithmes, décide couper la tête à son département d’éthique d’IA !
Levée de boucliers chez les salariés de Google
C’est bien ce qui s’est passé entre décembre 2020 et fin février 2021. A la fin de l’année dernière, Google annonce la démission de Timnit Gebru, co-directrice de sa cellule éthique pour l’IA. La chercheuse afro-américaine avait notamment critiqué Google pour avoir « réduit au silence les voix marginalisées ». Elle avait par ailleurs dirigé une étude scientifique sur les biais et préjugés des IA : le document concluait sur la nécessité, pour les géants de la tech, de s’assurer que les systèmes linguistiques des IA ne favorisent pas les préjugés, sexistes et racistes notamment.
Cette « démission » d’une chercheuse à la démarche respectée a provoqué une véritable levée de boucliers chez les employés de Google. 1 400 d’entre eux ont signé une lettre ouverte de soutien, expliquant que Timnit Gebru faisait face quotidiennement au racisme et à une censure des dirigeants de Google.
« Un danger pour les personnes travaillant pour une IA éthique et juste »
En effet, l’éthique peut coûter (très) cher dans le domaine de l’IA : s’assurer que les données d’apprentissage d’une IA ne soutiennent pas de préjugés nécessite une forte surveillance humaine, forcément coûteuse – et ne pas mettre en service une IA car elle est biaisée réduit à néant tout le travail d’apprentissage (« corriger » une IA biaisée est presque impossible). Pas de quoi encourager une multinationale à être trop regardante sur ces questions…
« Le licenciement est un acte de représailles contre Timnit Gebru, et il annonce un danger pour les personnes travaillant pour une IA éthique et juste – en particulier pour les gens de couleur – chez Google », dénoncent les employés. Cette lettre ouverte a été l’un des actes fondateurs de la création, en janvier 2021, de l’Alphabet Workers Union, le premier syndicat des salariés de la maison-mère de Google.
Après Timnit Gebru, Google licencie Margaret Mitchell, trop critique sur les préjugés racistes et sexistes de la direction de Google
L’autre co-directrice de l’unité d’éthique IA, Margaret Mitchell, n’a, elle non plus, pas mâché son soutien à Timnit Gebru. Elle a notamment déclaré que ce « licenciement semble avoir été alimenté par les mêmes fondements de racisme et de sexisme que nos systèmes d’IA, lorsqu’ils sont entre de mauvaises mains, ont tendance à absorber ».
Plus globalement, elle a accusé la direction de Google de racisme et de sexisme institutionnels, et a rendu public plusieurs documents internes révélant les pratiques douteuses du géant du net.
Le 19 février 2021, Margaret Mitchell publie un tweet laconique : « Je suis virée ». Dans la foulée, Google confirme le licenciement, et le justifie ainsi : « Après avoir examiné la conduite de cette responsable, nous avons confirmé qu’il y avait eu de multiples violations de notre code de conduite, ainsi que de nos politiques de sécurité, dont l’exfiltration de documents confidentiels sensibles et de données privées d’autres employés ». Renforçant d’autant la détermination de ses salariés en colère.
Aucune remise en question profonde du coté de Google
Google a tenté d’éteindre l’incendie en affirmant, via Jeff Dean, le responsable de Google IA, que le départ de Timnit Gebru aurait du être géré « avec plus de sensibilité », puis en nommant une autre afro-américaine, Marian Croak, à la tête de sa nouvelle unité éthique d’IA.
Mais le géant du net n’a pas communiqué sur le fond du problème, à savoir les préjugés racistes et sexistes en vogue de l’entreprise, qui rendent finalement acceptables les mêmes biais dans les IA utilisées par l’entreprise de la tech la plus puissante du monde. Ce silence assourdissant est inquiétant. Très inquiétant.
L’éthique de l’IA est une question trop importante pour la laisser à Google…
En France, le vulgarisateur scientifique Lê Nguyên Hoang (de la chaîne YouTube Science4All), spécialiste des questions sur l’intelligence artificielle et son éthique, a d’ailleurs publié fin février 2021 une vidéo alarmiste sur ce sujet.
Les raisons de remettre en question la politique de Google ne manquent pas, dans des champs variés (vie privée, protection des données, abus de position dominante…). Mais sa gestion de l’éthique dans l’IA, sans être la plus visible, est peut-être celle qui porte en elle les germes les plus dangereux pour notre avenir.
