//Constat inquiétant, une IA (Midjourney pour cette exemple) est capable d’associer des caractéristiques physiques a une activité, un état d’esprit, une religion, ou toute autre croyance/opinion impossible a déterminer avec l’apparence d’un individu .
POURQUOI CE RÉSULTAT ?
Il est évident que l’IA, étant un simple programme, ne choisit rien, ne connaît rien, le programme va seulement associer une très grande quantité d’image trouvées sur internet à un mot, une idée.
Étude de proportion de différents visages par Albrecht Dürer.
La physiognomonie est une méthode pseudo-science fondée sur l’idée que l’observation de l’apparence physique d’une personne, et principalement les traits de son visage, peut donner un aperçu de son caractère ou de sa personnalité.
« La physiognomonie est la science, la connaissance du rapport qui lie l’extérieur à l’intérieur, la surface visible à ce qu’elle couvre d’invisible, physiognomonie la connaissance des traits du visage et de leur signification« . Johann Kaspar Lavater
Planche tirée du « Livre de portraiture pour ceux qui commencent à dessiner », dessin de Charles Le Brun, 1705Illustration extraite d’un manuel de physiognomonie du XIXe siècle.
Pseudo-science justifiant notamment le racisme, par la « science »
C. PURIG VERLAG VOLKER/BRIDGEMAN. L’angle facial, qui permet d’évaluer l’avancée de la mâchoire, devient une obsession dans les classifications scientifiques du XIXe siècle.
CRÉER DES GÉNÉRALITÉS À PARTIR DE CAS RÉPÉTÉS, PARFOIS BIAISÉS …
Physiognomonie et criminologie :
Planche extraite de L’Homme criminel de Lombroso.
Cesare Lombroso, criminologue s’appuyant sur la physiognomonie
À l’issue de travaux sur trente-cinq crânes d’assassins guillotinés, il observe la fréquence de certaines caractéristiques, ce qui lui permet d’en déduire certaines « lois » qui le convainquent que la criminalité est innée.
Cette pseudo-science ,complètement biaisée et abandonnée depuis le XXe siècle est aujourd’hui oubliée par la plupart, mais en réalité, on retrouve actuellement des principes similaires dans les moyens d’apprentissage de beaucoup d’intelligences artificielles.
DESCRIPTION ET PORTRAIT-ROBOT PAR IA D’UNE PERSONNE COUPABLE ET INNOCENTE :
COUPABLE
INNOCENT
.
.
.
Entre DÉLIT DE FACIÈSet RECONNAISSANCE FACIALE …DISPOSITIF DYSTOPIQUE, FORME FLOUE DU PROJET.
La reconnaissance faciale est implantée dans les systèmes de surveillance gouvernementaux. En Chine, plus de 750 000 000 de caméras équipées de cette technologie sont utilisées pour surveiller les citoyens. Dans le monde plus de 83% des gouvernements utilisent la reconnaissance faciale à grande échelle, pour la sécurité publique, mais aussi pour le contrôle des populations.
Avec l’avancée particulièrement rapide et exponentiel de la technologie IA, de plus en plus de responsabilité, de pouvoir de décision leurs sont données. Il n’est pas absurde d’imaginer un système de jugement physiognomonique (vu précédemment) couplé avec la technologie de reconnaissance faciale.
On peut imaginer une installation qui va grossir légèrement le trait pour rendre explicite un danger qui est déjà là, mais peu considéré.
Pour la réalisation de l’installation, la modération et les problèmes, techniques me freinent, je compte alors simplement donner les réponses d’une IA en fonction de 4 visages différents mettant alors en lumière à la fois les automatismes racistes de l’IA liant une apparence à une activité illégale, mais aussi la modération essayant de cacher au maximum ce biais particulièrement dangereux.
IMAGES EXTRAITES DE LA VIDÉO FAISANT OFFICE DE RENDU, D’ILLUSTRATION DE MES RECHERCHES ET DU PROBLÈME QUE J’AI TENTÉ DE POINTER.
AI Tribunal :
Entre délit de faciès et reconnaissance faciale
Avec l’outil “ComfyUI”, j’ai combiné plusieurs algorithmes d’IA pour créer un flux complexe me permettant d’importer une image de quelqu’un (ici prise sur le site web “ThisPersonDoesNotExist”), de segmenter le visage, de décrire ses caractéristiques physiques, et enfin de donner un pourcentage de criminalité ou d’innocence de ce visage.
Les recherches que j’ai faites mettent en évidence les biais intrinsèques à l’apprentissage des IA, qui associent des caractéristiques physiques à des idées ou activités, reflétant les stéréotypes présents dans les données d’entraînement de ces IA. Ce phénomène rappelle la physiognomonie, une pseudo-science depuis longtemps discréditée reliant une apparence à un comportement, mais qui renaît aujourd’hui sous des formes technologiques modernes, notamment dans la reconnaissance faciale, le processus de deep learning ou encore plus problématique, l’association des deux. Cela soulève des questions éthiques sur la reproduction de préjugés racistes et de biais dangereux, avec un usage de plus en plus généralisé de ces technologies. J’ai aussi voulu mettre en lumière l’hypocrisie de la modération chez les IA et les dangers de cette prétentiond’objectivité.
Pour accompagner ces recherches, j’ai choisi d’illustrer mes expérimentations en faisant une vidéo (assistée par IA) et des petites cartes mettant en scène les tests que j’ai effectués.
