Algoritmo e libertà individuale

Con l'aumentare dell'autonomia e delle capacità cognitive dell'IA, emergono preoccupazioni sulla gestione di vasti flussi di dati. La relazione tra IA e strutture sociali solleva interrogativi etici e antropologici sulla delega di decisioni che influenzano libertà individuali e collettive.

Algoritmo e libertà individuale

Ciò che un tempo sembrava appartenere alla fantasia della mitologia o della science fiction ora si concretizza attraverso veicoli autonomi, sistemi diagnostici avanzati, algoritmi decisionali e altro ancora. L'AI si configura come un "termine ombrello" che abbraccia una varietà di tecniche computazionali mirate a potenziare l'abilità delle macchine nell'esecuzione di attività intelligenti. Al centro di questo processo c'è un vasto flusso di dati che, secondo alcuni, sviluppa una sua autonomia e capacità di pensiero, sollevando preoccupazioni sulla nostra capacità di gestire tali flussi informativi e computazionali. Il rapporto tra l'IA e i sistemi sociali e giuridici emerge ora con tutte le sue complesse implicazioni e sfide adattive. Oggi il tema suscita molto interesse per via dell’impatto sui diversi aspetti della vita sociale ed economica sollevando interrogativi etici e antropologici fondamentali, circa la correttezza nel delegare decisioni che incidono sulle libertà individuali e collettive, in ambiti variegati tra cui quello giuridico, medico, aerospaziale, vengono formulate da macchine.
L'interesse del diritto per l'AI è intrinseco, poiché il diritto si evolve in risposta alle forze sociali, e l'AI è diventata un elemento essenziale nella vita delle persone e nelle relazioni sociali.

La necessità di dare significato alla realtà in rapido cambiamento e alle esperienze umane è confermata dalla Risoluzione del Parlamento europeo del 16 febbraio 2017, contenenti le Norme di diritto civile sulla Robotica secondo cui  «l'autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un'influenza esterna; (…) tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l'interazione di un robot con l'ambiente; (…) nell'ipotesi in cui un robot possa prendere decisioni autonome, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati da un robot, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati». Le macchine e i sistemi di Intelligenza Artificiale possono causare danni fisici, morali ed economici con comportamenti poco prevedibili e programmabili. Questa problematica si estende oltre le questioni legate alle auto senza conducente, coinvolgendo l'uso militare dei sistemi di AI e la diffusione di armi autonome. Ciò pone sfide al diritto internazionale umanitario, minacciando principi come la distinzione tra obiettivi militari e civili e il rispetto della dignità umana.
La tecnologia, fino a tempi recenti è stata considerata uno strumento a disposizione dell’uomo ma un'accelerazione improvvisa dell’innovazione l’ha resa un “soggetto” in cui l’essere umano ripone la sua libertà. Viene attribuita una sorta di  "agentività" all'impattante presenza e azione delle reti sensoriali, digitali e artificiali nel mondo. Si solleva l'interrogativo se sia possibile assegnare una personalità legale a questi sistemi, considerando la loro autonomia crescente e la capacità di compiere scelte con implicazioni morali.

Emblematico è il caso Compas dove le decisioni giudiziarie e amministrative sono state prese attraverso l’uso degli algoritmi. COMPAS è un algoritmo prodotto da Equivant, una società privata che valuta la pericolosità sociale di un individuo e il rischio di recidiva in base a dati statistici, risposte di un questionario da parte dell’imputato e altre variabili protette da proprietà intellettuale da parte di Equivant. Nel 2013 il cittadino americano Eric Loomis, venne condannato a 6 anni di reclusione e 5 di libertà vigilata per non essersi fermato all’ordine di un poliziotto dopo essere stato riconosciuto alla guida di un veicolo rubato. La Corte della contea di La Crosse giustificò questa pena ingente con la dichiarazione che l’individuo venne riconosciuto come “ad alto rischio per la comunità” da parte di Compas. L’imputato impugnò la sentenza che fu rinviata fino alla Corte Suprema dello stato del Wisconsin, sostenendo la violazione della clausola costituzionale di giusto processo dal momento che vista la natura privata del software utilizzato per la sentenza, non aveva potuto ottenere l’accesso al codice sorgente di valutazione del rischio. L’argomentazione di Loomis venne respinta e la Corte Suprema stabilì la correttezza della prima sentenza sostenendo che i punteggi di rischio accreditati dal software vengono presi in considerazione ad altri fattori indipendenti e che tale software viene impiegato come strumento nei tribunali che possono scegliere se e quali dati accettare.

Davanti a questo caso, possiamo vedere come non sempre sia possibile avere una conoscenza o comprensibilità totale dell’algoritmo che decide della libertà individuale e per questo motivo è necessario che questi strumenti non siano utilizzati in maniera esclusiva, come dei soggetti autonomi ma che debbano sempre essere sottoposti a un raziocinio umano. L'asimmetria sociale nell'impatto dell'AI è evidente, con sistemi che possono perpetuare modelli discriminatori, soprattutto nei confronti di gruppi minoritari. La programmazione etica dei modelli algoritmici diventa cruciale, insieme alla formazione etica dei programmatori e sviluppatori. L'educazione degli algoritmi a perseguire logiche di eguaglianza e comprensione delle condizioni di partenza storicamente sbilanciate sono sfide importanti per prevenire discriminazioni indirette.

Oggi un numero crescente di decisioni che influiscono sulle libertà umane è preso da algoritmi. Questa evidenza solleva molte domande sulla trasparenza di tali strumenti, sul quadro legale ed etico per la presa decisionale algoritmica e gli impatti sociali e cognitivi di tale automazione algoritmica.