Pour éviter les biais racistes, Twitter change le système d’aperçu des photos

Pour éviter les biais racistes, Twitter change le système d’aperçu des photos
Innovation

Depuis début mai 2021, Twitter a modifié le système d’affichage en aperçu des photos de tweet : désormais, l’image s’affichera en intégralité, en petit format. Cela permet à Twitter d’éjecter son algorithme de recadrage automatique en aperçu, accusé de biais racistes depuis fin 2020.

Les biais racistes et sexistes des algorithmes d’intelligence artificielle (IA), en particulier dans le gestion des images, continuent de poser de graves problèmes, un peu partout dans le monde. Google a d’ailleurs récemment renvoyé les deux dirigeantes de son département d’éthique de l’IA, notamment parce qu’elles s’étaient montrées trop sourcilleuses sur la questions des biais des algorithmes.

Twitter désactive son algorithme de recadrage automatique des photos en aperçu

Twitter, de son coté, a trouvé une solution plus radicale aux accusations de biais racistes de son algorithme de recadrage automatique des photos en aperçu : depuis début mai 2021, cet algorithme n’est, tout simplement, plus utilisé.

Rappel des faits. Jusqu’ici, Twitter utilisait un outil permettant de recadrer automatiquement les images pour réduire leur taille dans les aperçus des fils d’actualité, en particulier sur mobile. Cet algorithme définissait la partie la plus intéressante de l’image, et centrait le recadrage dessus.

L’algorithme de recadrage favorise toujours les blancs… même face à Barack Obama !

Typiquement, l’algorithme favorise les visages humains quand il en repère. Mais, en septembre 2020, plusieurs internautes avaient fait des tests prouvant l’existence de biais racistes dans la gestion de ces recadrages. Les personnes blanches étaient ainsi systématiquement préférées, quel que soit leur position, vêtement ou expression sur les clichés.

Pour le prouver de façon éclatante, les internautes avaient proposé une image contenant deux photos d’identité, l’une de Barack Obama, premier président des Etats-Unis noir, mondialement connu, et d’un responsable politique américain inconnu hors des frontières des Etats-Unis, mais blanc, Mitch McConnell. Et l’algorithme choisissait systématiquement de se focaliser sur l’image de l’homme politique blanc…

« Nos analyses n’ont pas montré de biais raciaux ou de genre », affirme pourtant (sans rire) Twitter

Face au tollé provoqué par cette expérience, Twitter avait été forcé de reconnaître que le « fait de découper automatiquement les photos peut potentiellement faire du mal ». Mais en niant aussi l’évidence : « Nos analyses n’ont pas montré de biais raciaux ou de genre », avaient précisé les équipes de Twitter.

Depuis début mai 2021, les photos ne sont plus recadrées dans les aperçus. Le problème reste entier quand le tweet comporte plusieurs photos : l’utilisateur ne peut toujours pas choisir l’aperçu par défaut sur Twitter, et l’algorithme favorisera sans doute toujours l’image qu’il souhaite. Mais cela devrait rapidement changer : à l’automne 2020, Twitter affirmait justement vouloir « minimiser [sa] dépendance à l’algorithme, et laisser plus de visibilité aux utilisateurs sur ce à quoi leurs tweets ressembleront ».

Pour illustrer la fin des recadrage abusif, Twitter a d’ailleurs choisi une innocente photo d’oiseau au long cou, dont l’algorithme coupait systématiquement la tête… Bien plus inoffensif qu’une censure de Barack Obama, n’est-ce pas ?

Leave a Reply

You must be logged in to post a comment.