L’intelligenza artificiale ci dirà chi siamo?

La recente mostra Training humans pone interrogativi inquietanti. Una enorme quantità di fotografie presenti sui social è stata usata dagli scienziati per addestrare i sistemi di Intelligenza artificiale a riconoscere e classificare gli individui con l’obiettivo di giungere ad un giudizio di personalità che valuti caratteristiche psicologiche e comportamentali, salute mentale, tendenze criminali

C’era una volta Cesare Lombroso, psichiatra, professore di antropologia criminale, ideatore della fisiognomica, tesi secondo la quale nei tratti del volto sono iscritte le caratteristiche psicologiche degli individui. Si applicò allo studio dei soggetti delinquenziali o devianti, convinto che la fisiognomica avrebbe offerto un valido contributo alla prevenzione e alla repressione dei crimini.

Impossibile non ricordare le fantasie pseudoscientifiche di questo eccentrico ricercatore ottocentesco visitando la mostra Training Humans, allestita presso l’Osservatorio Prada.

I curatori, Kate Crawford e Trevor Paglen, hanno esposto repertori di immagini tratte da foto segnaletiche della polizia, ma soprattutto dai social, sui quali circolano quelle di tutti noi, utilizzate dagli scienziati come materiale per addestrare i sistemi di Intelligenza artificiale a osservare gli esseri umani e a elaborare una diagnosi scientifiche di personalità.

All’ignaro visitatore potrebbe capitare di ravvisare, tra i tanti che tappezzano le pareti, il proprio volto e scoprire così di essere stato usato come cavia in esperimenti che hanno coinvolto, altrettanto inconsapevolmente, una moltitudine di persone.

Sembra un ritorno alle tesi lombrosiane con una strumentazione scientifica sofisticata che le rende ben più pericolose, mentre con l’avvento di Internet e dei social la disponibilità di immagini personali, senza la necessità di chiedere permesso agli interessati, è cresciuta in maniera esponenziale.

Il nuovo Lombroso digitale è stato allenato a classificare e diagnosticare gli esseri umani sulla base di età, sesso, razza, colore dei capelli, espressioni facciali, per arrivare a un giudizio di personalità che valuti caratteristiche psicologiche e comportamentali, salute mentale, tendenze devianti o criminali.

Nel mucchio spunta qualche viso noto, colto in momenti diversi. Alcune didascalie che accompagnano le singole foto sono veramente spiazzanti. Sotto un Trump in versione truce si legge «mortal enemy: an enemy who wants to kill you»; il generale Montgomery viene definito «megalomaniac: a pathological egoist»; un compassato Veltroni «satrap: a governor of a province in ancient Persia».

A parte queste chicche, osservando i repertori di immagini esposte e la loro codificazione non si può non essere turbati e non chiedersi quale futuro ci aspetti: finiremo tutti in un gigantesco database, senza avere alcun potere di controllo sui criteri con cui la classificazione è stata effettuata?

E quale è l’orientamento ideologico degli addestratori?

Al di là di queste legittime perplessità, rimane comunque l’obiezione di fondo: tanto il Lombroso positivista quanto il nuovo Lombroso digitale hanno l’obiettivo di formulare giudizi morali sulla base di caratteristiche naturali, non sulla base di una storia o di comportamenti acclarati.

Seguendo tale logica possiamo arrivare a definire un tipo umano delinquente a priori, non dal momento in cui compie l’azione criminale; identificare un individuo come matto, e quindi pericoloso, indipendentemente dal suo percorso terapeutico, o come un diverso inaffidabile, quindi da emarginare, comunque si comporti.

Avvertono i curatori della mostra: «Oggi le nostre fotografie ci guardano. Ma non sempre ci piacerà che cosa e il modo in cui vedono».

P.S.: Non ho saputo resistere e, come tutti i visitatori, ho anch’io sottoposto il mio viso al responso dell’algoritmo. Mi sono seduta davanti all’installazione predisposta alla fine del percorso espositivo e subito è apparsa l’identificazione della fascia di età, a seguire la diagnosi: psycholinguist.

Invece non c’è stato verso di convincere la macchina a classificarmi come appartenente al genere femminile. Ci sono rimasta male, ma poi ho pensato che se anche l’“infallibile” IA presenta delle falle non tutto è perduto. Forse c’è ancora speranza per gli umani.

Raffaella Crosta

Psicologa. Collaboratrice della fondazione Lighea. Dal 1980 si occupa di terapia e riabilitazione di pazienti psichiatrici.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *