{"id":123,"date":"2024-10-23T10:06:15","date_gmt":"2024-10-23T08:06:15","guid":{"rendered":"https:\/\/ensci.etienne.design\/?p=123"},"modified":"2024-12-31T14:33:13","modified_gmt":"2024-12-31T13:33:13","slug":"zakine-recherche","status":"publish","type":"post","link":"https:\/\/ensci.etienne.design\/index.php\/2024\/10\/23\/zakine-recherche\/","title":{"rendered":"AI TRIBUNAL"},"content":{"rendered":"\n

Entre<\/mark> <\/strong>D\u00c9LIT DE FACI\u00c8S<\/em> <\/strong><\/kbd>et<\/mark> <\/strong>RECONNAISSANCE FACIAL<\/em>E …<\/strong><\/h2>\n\n\n\n
\n
\n
\n

…………………………………………………………………………………………………………..<\/mark><\/h1>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n<\/div>\n\n\n\n
\"\"
Images g\u00e9n\u00e9r\u00e9es par midjourney.<\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

prompt : <\/mark>terroriste<\/strong><\/p>\n\n\n\n

\"\"<\/figure>\n<\/div>\n\n\n\n
\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\"\"<\/figure>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

\/\/<\/strong><\/mark>Constat inqui\u00e9tant,<\/mark><\/strong> une IA (Midjourney<\/em><\/strong><\/mark> pour cette exemple) est capable d’associer des caract\u00e9ristiques physique<\/mark>s<\/strong> a une activit\u00e9, un \u00e9tat d’esprit, une religion, ou toute autre croyance\/opinion impossible a d\u00e9terminer avec l’apparence d’un individu <\/strong>.<\/p>\n\n\n\n

<\/p>\n\n\n\n

POURQUOI CE R\u00c9SULTAT ?<\/b><\/mark> <\/p>\n\n\n\n

Il est \u00e9vident que l’IA<\/strong>, \u00e9tant un simple programme, ne choisit rien, ne conna\u00eet rie<\/strong>n, le programme va seulement associer une tr\u00e8s grande quantit\u00e9 d’image trouv\u00e9es sur internet<\/strong> \u00e0 un mot, une id\u00e9e.<\/p>\n\n\n\n

…………………………………………………………………………………………………………………………………………..<\/mark><\/p>\n\n\n\n

<\/p>\n\n\n\n

Une renaissance de la<\/mark> physiognomonie ?<\/mark><\/strong> <\/p>\n\n\n\n

\n
\n
\n
\n
\"\"
\u00c9tude de proportion de diff\u00e9rents visages par Albrecht D\u00fcrer<\/mark><\/em><\/strong>.<\/figcaption><\/figure>\n\n\n\n

La physiognomonie<\/strong> est une m\u00e9thode pseudo-science<\/strong> fond\u00e9e sur l’id\u00e9e que l’observation de l’apparence physique<\/strong> d’une personne, et principalement les traits de son visage<\/strong>, peut donner un aper\u00e7u de son caract\u00e8re<\/strong> ou de sa personnalit\u00e9.<\/strong><\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

\n

\u00ab\u00a0La physiognomonie<\/strong> est la science, la connaissance du rapport<\/strong> qui lie l\u2019ext\u00e9rieur \u00e0 l\u2019int\u00e9rieur<\/strong>, la surface visible \u00e0 ce qu\u2019elle couvre d\u2019invisible, physiognomonie la connaissance des traits du visage<\/strong> et de leur signification<\/strong>\u00ab\u00a0. Johann Kaspar Lavater<\/mark><\/strong><\/em><\/p>\n\n\n\n

\n
\n
\n
\"\"
Planche tir\u00e9e du \u00ab Livre de portraiture pour ceux qui commencent
\u00e0 dessiner \u00bb, dessin de Charles Le Brun, 1705<\/figcaption><\/figure>\n\n\n\n
\"\"
Illustration extraite d’un manuel de physiognomonie du XIXe<\/sup> si\u00e8cle.<\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/blockquote>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

Pseudo-science<\/strong> justifiant notamment le racisme<\/strong>, par la \u00ab\u00a0science\u00a0\u00bb <\/h2>\n\n\n\n
\"\"
C. PURIG VERLAG VOLKER\/BRIDGEMAN. L\u2019angle facial, qui permet d\u2019\u00e9valuer l\u2019avanc\u00e9e de la m\u00e2choire, devient une obsession dans les classifications scientifiques du XIXe si\u00e8cle.<\/figcaption><\/figure>\n\n\n\n

<\/p>\n\n\n\n

CR\u00c9ER DES G\u00c9N\u00c9RALIT\u00c9S \u00c0 PARTIR DE CAS R\u00c9P\u00c9T\u00c9S, PARFOIS BIAIS\u00c9S …<\/mark><\/strong><\/p>\n\n\n\n

Physiognomonie et criminologie <\/strong>: <\/p>\n\n\n\n

\n
\n
\n
\n
\n
\n
\n
\n
\"\"
Planche extraite de L’Homme criminel<\/em> de Lombroso.<\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\n

Cesare Lombroso<\/mark><\/strong><\/em>, criminologue s’appuyant sur la physiognomonie<\/p>\n\n\n\n

<\/p>\n\n\n\n

\u00c0 l’issue de travaux sur trente-cinq cr\u00e2nes d’assassins <\/strong>guillotin\u00e9s, il observe la fr\u00e9quence de certaines caract\u00e9ristiques<\/strong>, ce qui lui permet d’en d\u00e9duire certaines \u00ab lois \u00bb<\/strong> qui le convainquent que la criminalit\u00e9 est inn\u00e9e<\/strong>. <\/p>\n\n\n\n

<\/p>\n\n\n\n

Cette pseudo-science<\/strong> ,compl\u00e8tement biais\u00e9e<\/strong> et abandonn\u00e9e<\/strong> depuis le XXe si\u00e8cle est aujourd’hui oubli\u00e9e par la plupart<\/strong>, mais en r\u00e9alit\u00e9, on retrouve actuellement des principes similaires<\/strong> dans les moyens d’apprentissage<\/strong> de beaucoup d’intelligences artificielles<\/strong>.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

<\/p>\n\n\n\n

DESCRIPTION ET PORTRAIT-ROBOT PAR IA D’UNE PERSONNE COUPABLE ET INNOCENTE :<\/mark><\/strong><\/p>\n\n\n\n

\n
\n
\n
\n
\n
\n
\"\"
COUPABLE<\/strong><\/figcaption><\/figure>\n<\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n
\n
\"\"
INNOCENT<\/strong><\/figcaption><\/figure>\n<\/figure>\n\n\n\n

<\/p>\n<\/div>\n\n\n\n

<\/p>\n\n\n\n

.<\/mark><\/p>\n\n\n\n

.<\/mark><\/p>\n\n\n\n

.<\/mark><\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

Entre<\/mark> <\/strong>D\u00c9LIT DE FACI\u00c8S<\/em> <\/strong><\/kbd>et<\/mark> RECONNAISSANCE FACIAL<\/em>E …<\/strong> DISPOSITIF DYSTOPIQUE<\/mark>, FORME FLOUE DU PROJET<\/strong>.<\/em><\/p>\n\n\n\n

\n
\n
\n
\n
\n
\n
\n
\"\"<\/figure>\n<\/div>\n\n\n\n
\n



La reconnaissance faciale <\/strong>est implant\u00e9e dans les syst\u00e8mes de surveillance<\/strong> gouvernementaux. En Chine, plus de 750 000 000 de cam\u00e9ras<\/strong> \u00e9quip\u00e9es de cette technologie sont utilis\u00e9es pour surveiller les citoyens<\/strong>. Dans le monde plus de 83%<\/strong> des gouvernements utilisent la reconnaissance faciale \u00e0 grande \u00e9chelle<\/strong>, pour la s\u00e9curit\u00e9<\/strong> publique, mais aussi pour le contr\u00f4le <\/strong>des populations.<\/p>\n<\/div>\n<\/div>\n\n\n\n

Avec l’avanc\u00e9e particuli\u00e8rement rapide et exponentiel de la technologie IA<\/strong>, de plus en plus de responsabilit\u00e9<\/strong>, de pouvoir de d\u00e9cision<\/strong> leurs sont donn\u00e9es. Il n’est pas absurde d’imaginer un syst\u00e8me de jugement physiognomonique<\/strong> (vu pr\u00e9c\u00e9demment) coupl\u00e9 avec la technologie de reconnaissance faciale<\/strong>.<\/p>\n\n\n\n

On peut imaginer une installation qui va grossir l\u00e9g\u00e8rement le trait pour rendre explicite<\/strong> un danger <\/strong>qui est d\u00e9j\u00e0 l\u00e0, mais peu consid\u00e9r\u00e9<\/strong>.<\/p>\n<\/div>\n<\/div>\n\n\n\n

\"\"
un exemple parmi beaucoup d’autres.<\/figcaption><\/figure>\n\n\n\n

<\/p>\n<\/div>\n<\/div>\n<\/div>\n\n\n\n

lien vers le site Internet interactif pr\u00e9sentant en d\u00e9tail<\/em><\/a> l\u2019exposition aux technologies intrusives<\/em><\/p>\n\n\n\n

PROBL\u00c8ME<\/strong> DE<\/strong><\/mark> MOD\u00c9RATION<\/strong> <\/strong><\/kbd><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Pour la r\u00e9alisation de l’installation, la mod\u00e9ration et les probl\u00e8mes, techniques me freinent, je compte alors simplement donner les r\u00e9ponses d’une IA en fonction de 4 visages diff\u00e9rents mettant alors en lumi\u00e8re \u00e0 la fois les automatismes racistes de l’IA liant une apparence \u00e0 une activit\u00e9 ill\u00e9gale, mais aussi la mod\u00e9ration essayant de cacher au maximum ce biais particuli\u00e8rement dangereux. <\/p>\n\n\n\n

IMAGES EXTRAITES DE LA VID\u00c9O FAISANT OFFICE DE RENDU, D’ILLUSTRATION DE MES RECHERCHES ET DU PROBL\u00c8ME QUE J’AI TENT\u00c9 DE POINTER.<\/mark><\/strong><\/p>\n\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n
\"\"<\/figure>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

<\/p>\n\n\n\n

AI Tribunal :<\/strong><\/p>\n\n\n\n

Entre d\u00e9lit de faci\u00e8s et reconnaissance faciale<\/strong><\/p>\n\n\n\n

Avec l\u2019outil \u201cComfyUI\u201d, j\u2019ai combin\u00e9 plusieurs algorithmes d\u2019IA pour cr\u00e9er un flux complexe me permettant d\u2019importer une image de quelqu\u2019un (ici prise sur le site web \u201cThisPersonDoesNotExist\u201d), de segmenter le visage, de d\u00e9crire ses caract\u00e9ristiques physiques, et enfin de donner un pourcentage de criminalit\u00e9 ou d\u2019innocence de ce visage.<\/p>\n\n\n\n

Les recherches que j\u2019ai faites mettent en \u00e9vidence les biais intrins\u00e8ques \u00e0 l\u2019apprentissage des IA, qui associent des caract\u00e9ristiques physiques \u00e0 des id\u00e9es ou activit\u00e9s, refl\u00e9tant les st\u00e9r\u00e9otypes pr\u00e9sents dans les donn\u00e9es d\u2019entra\u00eenement de ces IA. Ce ph\u00e9nom\u00e8ne rappelle la physiognomonie, une pseudo-science depuis longtemps discr\u00e9dit\u00e9e reliant une apparence \u00e0 un comportement, mais qui rena\u00eet aujourd\u2019hui sous des formes technologiques modernes, notamment dans la reconnaissance faciale, le processus de deep learning ou encore plus probl\u00e9matique, l\u2019association des deux. Cela soul\u00e8ve des questions \u00e9thiques sur la reproduction de pr\u00e9jug\u00e9s racistes et de biais dangereux, avec un usage de plus en plus g\u00e9n\u00e9ralis\u00e9 de ces technologies. J\u2019ai aussi voulu mettre en lumi\u00e8re l\u2019hypocrisie de la mod\u00e9ration chez les IA et les dangers de cette pr\u00e9tention <\/em>d\u2019objectivit\u00e9.<\/p>\n\n\n\n

Pour accompagner ces recherches, j\u2019ai choisi d\u2019illustrer mes exp\u00e9rimentations en faisant une vid\u00e9o (assist\u00e9e par IA) et des petites cartes mettant en sc\u00e8ne les tests que j\u2019ai effectu\u00e9s.<\/p>\n\n\n\n

\n