E’ nata la prima intelligenza artificiale psicopatica e la premessa è d’obbligo: non si tratta di uno scherzo e nemmeno della trama di un film di fantascienza. Si parla in questo caso di un esperimento del Mit di Boston, che ha voluto indagare su quale influenza possano avere i dati con i quali si addestra un’intelligenza (artificiale o meno) rispetto alla “sviluppo della personalità”. Il risultato è sbalorditivo e fa riflettere.
Norman
Il profilo di intelligenza artificiale sviluppato dai ricercatori del Mit di Boston è stato chiamato Norman, in onore del protagonista di Psycho Norman Bates. Come detto, Norman è la prima intelligenza artificiale ufficialmente psicopatica. L’algoritmo che ha dato vita a Norman è capace di osservare una foto e capirne il contenuto dopo aver costruito un database da immagini precedenti. I ricercatori del Mit Media Lab lo hanno allenato con delle immagini di persone morenti prelevate da una sottodirectory del sito Reddit, mentre un’altra intelligenza artificiale è stata addestrata con foto normali di animali e persone. Entrambe sono state poi sottoposte al famoso test di Rorschach, in cui viene chiesto di interpretare delle macchie di inchiostro indistinte per valutare la personalità.
Confronto
Le differenze tra le due interpretazioni sono risultate evidenti. La macchia che “l’intelligenza normale” interpretava come «un gruppo di uccellini su un ramo» per Norman era «un uomo che subiva una scarica elettrica». Un «vaso di fiori» diventava «un uomo a cui hanno sparato a morte». Un «guanto da baseball» è stato interpretato come «un uomo ucciso da una mitragliatrice». L’esperimento fa capire quanto siano determinanti le esperienze che formano la personalità. «Norman nasce dal fatto che i dati che vengono usati per addestrare un algoritmo influenzano significativamente il comportamento», scrivono gli ideatori sul sito. «Quindi quando le persone parlano di algoritmi razzisti o scorretti il problema non è nell’algoritmo in sé, ma nei dati usati».
