USO RESPONSABILE DELL'I.A. AL CENTRO DEL DIBATTITO PUBBLICO

PREMESSA

Nel 2021 il World Economic Forum metteva sul tavolo una serie di tematiche connessi ai rischi dell’impiego dell’A.I. Ma ancora si parlava di rischio generico dovuto all’uso di tool per il riconoscimento facciale e altri sistemi automatici per influenzare l’opinione pubblica con la relativa questione dell’uso dei dati.
​
Tuttavia, nell’ultimo anno, soprattutto con l’apparire improvviso sul mercato mondiale del sistema GPT della società Open AI, il dibattito di come impiegare l’I.A. per avvantaggiare l’umanità si impone con estrema urgenza.  Nel frattempo, altri sistemi di I.A. sono stati implementati da Microsoft, Google, Meta, ecc. e il diffondersi di una tecnologie che per certi versi è oscura nel suo costituirsi come forma di intelligenza, genera allarmi diffusi a livello globale.
Anche l’Unione Europea ha da poco emanato norme che entreranno pienamente in vigore entro un biennio sulla mitigazione del rischio dell’IA.
In generale nella nuova normativa, di cui si darà spazio in questo blog in successivi articoli, la Commissione europea mette in guardia sui rischi connessi all’impiego dell’IA che dovrebbero essere proibiti perché molto alti e ingovernabili; su rischi alti, ma governabili tramite una forte governance;  su rischi permessi ma soggetti a informazione/trasparenza e obblighi e, infine, su rischi permessi senza nessuna restrizione.
I tempi di attuazione della normativa appena annunciata non sono brevi considerato l'esplodere a livello mondiale di sistemi e applicazioni basati sull'I.A. 

Un tema ricorrente: i bias dell'I.A. Uso responsabile del riconoscimento facciale

In particolare, la normativa europera si concentra sul riconoscimento facciale consentendone l'impiego alle forze dell'ordine appositamente autorizzate in sede di indagine. ​Algoritmi di rilevamento e classificazione dei volti sono stati impeigati dalle forze dell'ordine americane per finalità di sorveglianza e prevenzione della criminalità.
In “The Perpetual Lineup”, Garvie e colleghi hanno fornito un'analisi approfondita del non regolamentato uso della polizia del riconoscimento facciale e hanno richiesto maggior rigore negli standard di analisi facciale automatizzata, test per evitare bias razziale e maggiori informazioni al pubblico e ai cittadini sull'uso di tale tecnologia (Garvie et al., 2016). Altre ricerche avevano dimostrato che la precisione dei sistemi di riconoscimento facciale utilizzati dalle forze dell'ordine negli Stati Uniti erano sistematicamente inferiore per le persone etichettate come donne, nere o di età compresa tra 18 e 30 anni rispetto ad altre specfiche popolazioni (Klare et al., 2012).
Naturalmente questa tematica è di molto interesse e particolarmente calda per le possibili conseguenze di controllo sociale, violazione di regole di vita democratica e privacy. Ne seguiremo gli sviluppi.