La recensione di CODED BIAS, al Trieste Science+Fiction Festival

 

Shalini Kantayya, regista e attivista ambientale famosa per il suo documentario Catching the Sun presenta il suo nuovo lavoro al Trieste Science+Fiction Festival che ha come tema principale l’Intelligenza Artificiale. In Coded Bias la regista parte dagli studi condotti dalla scienziata del MIT Joy Buolanwini e che ha notato l’impossibilità da parte dei software di riconoscimento facciale di distinguere il suo volto da donna di colore. Che i software e gli algoritmi possano essere razzisti? Sono discriminatori nei confronti delle minoranze o anche del distinguere un uomo da una donna? Si sa, gli algoritmi vengono comunemente usati nelle tecnologie che utilizziamo tutti i giorni come i social network, ma se essi non fossero perfetti come comunemente pensiamo?

Gli stessi algoritmi vengono usati anche nei sistemi per riconoscere i possibili criminali, svolgendo un servizio pubblico molto importante: quando invece questi sbagliano fino a confondere un innocente per un criminale? Perché si considerano le macchine infallibili? E, quando vengono usate tali tecnologie non solo per riconoscere preventivamente i criminali, ma anche per riconoscere la recidiva nei fuorilegge fino alla decisione di assumere o meno un nuovo dipendente o un nuovo studente in un collage, non rischiano questi di isolare ed emarginare maggiormente chi lo è già?

Sono le domande e i contenuti su cui verte il documentario, che non vuole presentare queste nuove tecnologie come qualcosa di negativo, da eliminare, per non finire come nella società descritta da Orwell, bensì concentra l’attenzione sulla vera necessità di leggi che regolamentino questi algoritmi e il loro utilizzo nella società affinché essi divengano veri strumenti per i cittadini e non possibili cause per il loro isolamento. La regista vuole evitare specialmente che il razzismo venga automatizzato: tali tecnologie sono specchio della società perché create con i dati che la comunità offre, ma ciò non vuol dire che questi siano sempre corretti.

Il documentario riesce a porre l’attenzione su argomenti di stretta attualità e attraverso gli occhi di Joy, come di altri scienziati e attivisti, comprendere quanto si è fatto, ma anche quanto ancora manca al fine di raggiungere una vera giustizia automatizzata che controlli e supervisioni le tecnologie stesse, poiché senza etica l’intelligenza non è vera intelligenza.

Da non perdere.

Voto: 3/4