Regolamentazione dell'Intelligenza Artificiale in Europa

Già a partire dal 2018 con GDPR si inizia a discutere sul tema del trattamento dei dati automatizzati. La nuova legge sull'Intelligenza Artificiale dell'UE, approvata l'8 dicembre 2023, adotta un approccio basato sul rischio, con regole per modelli ad alto impatto e una governance rinnovata…

Regolamentazione dell'Intelligenza Artificiale in Europa

Il quadro normativo europeo ha preso in considerazione le problematiche legate al trattamento dei dati sul web creando un ricco corpus di norme sul trattamento automatizzato dei dati personali. Tutte queste leggi e le loro modifiche sono state cambiate e sostituite dal nuovo Regolamento Generale sulla Protezione dei Dati (Reg. GDPR), operativo da maggio 2018, che tiene conto specificamente delle decisioni prese attraverso il trattamento automatico (usando algoritmi) dei dati personali che coinvolgono le persone a cui appartengono tali dati.
Il quadro normativo nel contesto dell'uso degli algoritmi è riducibile a 3 principi: il principio di conoscibilità, di non-esclusività e di non-discriminazione.

  1. Principio di conoscibilità e comprensibilità:
    nel quadro normativo europeo e italiano sulla protezione dei dati personali, ogni individuo ha il diritto di essere a conoscenza dell'esistenza di processi decisionali automatizzati che lo coinvolgono. Questo diritto si estende a decisioni prese sia da entità private che pubbliche. La semplice consapevolezza dell'esistenza di un algoritmo non è sufficiente tuttavia; vi è la necessità che le decisioni siano comprensibili. La complessità sorge quando gli algoritmi predittivi basati sul machine learning producono criteri di inferenza non comprensibili ai programmatori stessi.
  2. Principio di non esclusività e coinvolgimento umano:
    secondo l'articolo 22 del Regolamento GDPR “l'interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona”.
    Il diritto europeo aderisce al principio noto come "HITL" (human-in-the-loop), che richiede un coinvolgimento umano nel processo decisionale per controllare, convalidare o respingere la decisione automatica. Sorge una perplessità sull'efficacia intrinseca del principio stesso di non esclusività, che teoricamente vieterebbe decisioni basate esclusivamente su trattamenti automatizzati dei dati. Tuttavia, le eccezioni sono ampie in quanto una volta che gli algoritmi sono integrati nei processi decisionali umani, tendono a prevalere per ragioni pratiche più che per valore scientifico o affidabilità tecnica. Sia negli Stati Uniti che in Europa, l'uso di evidence-based risk assessment tools è stato fortemente promosso, con l'obiettivo di aumentare l'efficienza e l'affidabilità delle decisioni in quanto l’utilizzo di questi strumenti dona un'aura di autenticità, scientificità e attendibilità.
  3. Principio di non discriminazione algoritmica:
    questo principio si trova latente nel Regolamento 679/2016 del diritto euro-nazionale e sottolinea l'importanza di evitare effetti discriminatori nei confronti delle persone basati su razza, origine etnica, opinioni politiche, religione, convinzioni personali, appartenenza sindacale, status genetico, stato di salute o orientamento sessuale durante il trattamento automatizzato dei dati, specialmente nella profilazione e negli algoritmi predittivi. Il principio evidenzia quindi la possibillità che un algoritmo, pur considerato obiettivamente affidabile, possa portare il rischio di discriminazione quando si basano su dati inizialmente discriminatori. 

Il dialogo tra diritto e tecnologia è ancora limitato. Simoncini propone l'adozione di una dottrina della "precauzione costituzionale", che richiede la protezione anticipata di beni costituzionali come la libertà e il rispetto dello stato di diritto prima della produzione delle applicazioni tecnologiche. Intervenire dopo la creazione e diffusione degli algoritmi è troppo tardi e suggerisce una tutela anticipata della privacy: è necessario intervenire durante la formazione di scienziati e tecnologi per integrare i principi costituzionali e trasmettere i principi fondamentali, come la protezione dei dati personali e la comprensibilità degli algoritmi. La sostenibilità e la precauzione costituzionale sono esigenze cruciali rispetto agli sviluppi dell'IA, garantendo il mantenimento nel tempo delle condizioni di base della vita umana e della natura, con una consapevolezza delle potenziali sfide che possono accompagnare l'evoluzione di questa tecnologia.

Venerdì 8 dicembre 2023, dopo mesi di intense trattative e tre giorni di negoziati "maratona", il Parlamento europeo e il Consiglio hanno raggiunto un accordo politico sull'Atto dell'Unione Europea sull'Intelligenza Artificiale ("EU AI Act"). La Presidente della Commissione europea Ursula von der Leyen rivendica il "primato globale", che posiziona l'UE come pioniere nella regolamentazione dell'IA, essendo il "primo continente a definire regole chiare per l'uso dell'IA". Con questa legislazione di rilievo, l'UE mira a creare un quadro legale ampio e completo per la regolamentazione dei sistemi di intelligenza artificiale in tutta l'UE, con l'obiettivo di garantire che tali sistemi siano "sicuri" e "rispettino i diritti fondamentali e i valori dell'UE", oltre a promuovere gli investimenti e l'innovazione nell'IA in Europa. Una volta che il testo consolidato sarà finalizzato nelle prossime settimane, la maggior parte delle disposizioni del EU AI Act entrerà in vigore due anni dopo.

Il decreto mira a regolamentare l'Intelligenza Artificiale (IA) basandosi sulla sua capacità di causare danni alla società, adottando un approccio "basato sul rischio", dove maggiore è il rischio, più stringenti sono le regole. Questa proposta legislativa, la prima nel suo genere a livello mondiale, potrebbe stabilire uno standard globale per la regolamentazione dell'IA in altre giurisdizioni, simile a quanto fatto dal GDPR, promuovendo l'approccio europeo alla regolamentazione tecnologica a livello mondiale. Gli elementi principali del decreto, rispetto alla proposta iniziale della Commissione, includono:

1. Regole per i modelli di IA general-purpose ad alto impatto e sistemi di IA ad alto rischio, con una classificazione basata sul rischio.

2. Una governance rivista con competenze di applicazione a livello dell'UE.

3. Estensione delle proibizioni, con la possibilità di utilizzare l'identificazione biometrica remota da parte delle autorità di contrasto in spazi pubblici, soggetta a salvaguardie.

4. Migliorata protezione dei diritti, con l'obbligo per i gestori di sistemi di IA ad alto rischio di condurre una valutazione dell'impatto dei diritti fondamentali prima di mettere in uso un sistema di IA.

Per quanto riguarda le definizioni e l'ambito, il decreto si allinea all'approccio proposto dall'OCSE, escludendo settori al di fuori del campo di legge dell'UE e non influenzando le competenze nazionali in sicurezza e difesa. Le classificazioni ad alto rischio per i sistemi di IA e le pratiche vietate sono definite in modo da garantire una protezione efficace. Inoltre, vengono introdotte eccezioni per l'uso militare e per scopi di ricerca e innovazione.
Il decreto stabilisce anche un sistema di governance che include un Ufficio per l'IA presso la Commissione, responsabile della supervisione dei modelli di IA avanzati. Sono previsti un pannello scientifico di esperti indipendenti e un consiglio di rappresentanti degli Stati membri per coordinare e consigliare sulla regolamentazione dell'IA oltre a sanzioni proporzionate in caso di violazioni, con limitazioni più lievi per le PMI.

Ulteriori misure sono previste per garantire trasparenza e protezione dei diritti fondamentali, inclusa un'analisi dell'impatto sui diritti fondamentali prima dell'introduzione di sistemi di IA ad alto rischio. Inoltre, il decreto promuove l'innovazione attraverso l'introduzione di sandbox regolatori per lo sviluppo e la verifica di nuovi sistemi di IA.

Il decreto entrerà in vigore due anni dopo la sua adozione, e il processo di finalizzazione e adozione formale sarà completato dopo una revisione legale e linguistica.