ATED ICTIntelligenza artificiale e diritto: il caso spagnolo

Lo scorso 21 aprile la Commissione Europea ha presentato a Bruxelles la proposta di nuove regole e azioni con un obiettivo molto ambizioso: trasformare l'Europa nel polo mondiale per un'intelligenza artificiale affidabile. In sintesi, sono state delineate regole e incentivi per fare dell'Unione un polo mondiale dell'innovazione nel settore, dove l'AI è utile per i cittadini. Ma sono stati stabiliti anche quattro livelli di rischio, con la possibilità di ammettere il riconoscimento biometrico dietro specifica autorizzazione. Sull’argomento avevamo intervistato a suo tempo l’Avvocato Europeo Zulay Manganaro Menotti (articolo qui), ma oggi ritorniamo in materia con un intervento molto articolato che ci proviene dalla Spagna. Abbiamo, infatti, raccolto il punto di vista di Carlos Carmona Román, Avvocato e Presidente della Fundación Andalucía Territorio Empresa, su temi di grande attualità. Un’istituzione prestigiosa che sta collaborando con realtà locali come Sensytouch Innovation, che da alcuni anni si occupano di studiare modalità innovative nelle architetture dell’Artificial Intelligence (di cui abbiamo scritto qui).

Quali sono gli impatti che l'intelligenza artificiale in termini generali può avere sul campo del diritto e della giurisprudenza?

La crisi generata dalla pandemia globale COVID 19 ha evidenziato le carenze del sistema giudiziario spagnolo, le cui procedure sono eccessivamente formalistiche e inflessibili, non adattate alla realtà tecnologica che ci permette di rispondere alle sfide che dobbiamo affrontare. Pertanto, la congiuntura del momento richiede una trasformazione e una riforma globale del sistema giudiziario per rendere un moderno ed efficiente sistema giudiziario del 21° secolo una realtà.I continui riferimenti all'intelligenza artificiale potrebbero indurci a pensare che siamo di fronte a una panacea, quando in realtà ci stiamo riferendo ad algoritmi predittivi o previsioni algoritmiche, o, in altre parole, previsioni basate sui dati. Le macchine non forniscono "intelligenza" ma informazioni e previsioni basate su ciò che è successo in passato con situazioni simili o analoghe, ma l'intelligenza è la capacità di "inventare" e sviluppare una soluzione adattata.

Il Libro Bianco sull'Intelligenza Artificiale ha evidenziato graficamente l'importanza dei dati in relazione alla fattibilità di questa tecnologia, affermando categoricamente che "senza dati, non c'è intelligenza artificiale". Il potenziale impatto trasformativo che avrà l'applicazione di soluzioni basate sull'AI applicate al mondo legale trasformerà il nostro futuro immediato e, senza dubbio, niente sarà più lo stesso.

Quali sono le peculiarità e le caratteristiche che rendono il sistema spagnolo particolarmente adatto all'IA?

Il campo del diritto è una parte fondamentale della società odierna, in cui possiamo distinguere diverse famiglie e sistemi di diritto. Tra questi possiamo evidenziarne due: da un lato, il civil law, il diritto napoleonico le cui origini risalgono al diritto romano, e che è alla base del sistema giuridico spagnolo e, dall'altro, il common law, il diritto consuetudinario o diritto inglese, chiaramente distinguibile dal primo.

Il sistema giuridico spagnolo si basa su elementi di codificazione che ci permetterebbero, in ambienti di intelligenza artificiale, di sviluppare un'elaborazione di dati che fornirebbe ai cittadini soluzioni immediate ed efficaci in ambito giuridico.

ll 21 aprile 2021, la Commissione europea ha presentato la tanto attesa proposta di regolamento che stabilisce norme armonizzate sull'intelligenza artificiale e che modifica alcune normative dell'UE. Qual è la sua opinione su questa iniziativa dell'UE? 

Infatti, la versione finale della tanto attesa Proposta della Commissione Europea per un Regolamento (UE) sul quadro giuridico applicabile ai sistemi di intelligenza artificiale (AI) è stata pubblicata il 21 aprile. La Commissione Europea intende promuovere l'uso e lo sviluppo di questi sistemi di IA in modo sicuro ed etico, stabilendo una serie di regole con l'obiettivo di mitigare alcuni rischi e conseguenze negative. Il regolamento europeo mira a garantire un accesso affidabile, responsabile e non discriminatorio per consentire, soprattutto, lo sviluppo di sistemi di IA ad alto rischio con garanzie adeguate. Il regolamento si basa sulla classificazione dei sistemi di intelligenza artificiale secondo il loro livello di rischio, distinguendo tra quelli che presentano un rischio inaccettabile, quelli che presentano un rischio minimo e quelli che, invece, sono considerati di alto livello.

È importante notare che il regolamento propone un ampio campo di applicazione soggettivo e territoriale che coprirebbe tutti gli attori all'interno della catena del valore dell'IA (cioè fornitori, importatori, distributori) e raggiungerebbe sia quelli situati nell'UE che quelli impiegati in un Paese terzo, (a condizione che, in quest'ultimo caso, essi utilizzino gli effetti nell'UE). Il regolamento proposto divide i sistemi AI in quattro livelli di rischio, imponendo loro più o meno obblighi a seconda della loro categorizzazione:

1. Sistemi in cui l’AI è proibita. Un certo numero di sistemi di IA sono elencati in una lista prioritaria e rivista periodicamente, il cui uso sarebbe proibito perché rappresentano un rischio inaccettabile per la sicurezza, la vita e i diritti fondamentali. Questa lista include sistemi come quelli in grado di manipolare il comportamento umano, di prevedere informazioni su gruppi o gruppi al fine di identificare le loro vulnerabilità o circostanze speciali, o quelli che comportano l'identificazione biometrica o la videosorveglianza di massa in diretta da parte delle autorità negli spazi pubblici. Per quanto riguarda questi ultimi, sono consentiti solo a fini di applicazione della legge, sotto autorizzazione giudiziaria o amministrativa. Tuttavia, questa autorizzazione può essere richiesta dopo la loro attuazione in casi di "estrema urgenza", il che può riaprire il dibattito.
2. Sistemi con AI ad alto rischio. Sono elencati altri sistemi di IA che, pur non essendo proibiti, pongono un "alto rischio" per i diritti e le libertà degli individui e dovrebbero quindi essere soggetti ad alcuni obblighi rafforzati per garantire il loro uso legale, ético e sicuro. Questo elenco è anche soggetto a revisione periodica in futuro per adattarlo alle nuove tecnologie. I sistemi di questa categoria includono componenti di sicurezza applicabili a settori regolamentati o infrastrutture critiche come il trasporto aereo, la sorveglianza dei veicoli a motore, il trasporto ferroviario, ecc. Includerebbe anche sistemi per l'identificazione e la categorizzazione biometrica, lo screening del personale, il controllo delle frontiere, o sistemi volti a verificare l'applicazione della legge o a valutare l'affidabilità creditizia degli individui, tra gli altri.
3. Sistemi AI a medio/basso rischio. Sistemi che non rappresentano un rischio elevato per i diritti e le libertà. Includono alcune tecnologie di minore sofisticazione o intrusività come gli assistenti virtuali come i chatbot.
4. Altri sistemi AI. Questi ultimi, in linea di principio, non sarebbero soggetti ad alcun obbligo particolare, e gli attori della catena potrebbero scegliere se aderire a schemi di conformità volontari. Questi sistemi sarebbero quindi, in linea di principio, al di fuori del campo di applicazione del regolamento.

In relazione alla materia di cui parliamo e nel contesto del mondo legale, ci troveremmo di fronte allo sviluppo di sistemi di IA ad alto rischio che potrebbero essere permessi a condizione che siano soggetti a una valutazione di conformità e alla gestione del rischio. Ogni operatore della catena del valore sarebbe soggetto a una serie di obblighi specifici, come: governance dei dati, sicurezza e supervisione umana, obblighi di trasparenza, registri approvati e certificazioni, ecc. Il regolamento proposto sarà esaminato e discusso dal Parlamento Europeo e dal Consiglio, che possono suggerire emendamenti. Una volta approvato, il Regolamento sarà direttamente applicabile in tutti i Paesi dell'UE, il che dovrebbe permettere un'applicazione omogenea.

Per concludere, l'efficienza e l'efficacia potrebbero essere raggiunte con l'aiuto di sistemi di intelligenza artificiale, sostituendo le istituzioni statali con meccanismi di prevenzione e risoluzione delle controversie online. La promozione e l'accesso alla giustizia possono essere raggiunti fornendo mezzi più economici ed efficienti per risolvere l'incertezza delle controversie legali. Tuttavia, la difficoltà di determinare quando l'AI fornirà una risposta affidabile rimane il più grande limite alla corretta applicazione dei sistemi di intelligenza artificiale. La risoluzione delle controversie rappresenta un'area promettente per lo sviluppo di sistemi AI, e l'AI sta già aiutando con i meccanismi di risoluzione delle controversie. Tuttavia, dovremo aspettare che tali sistemi si affermino, e anche allora, dobbiamo aspettarci che ci sarà una forte resistenza alla sostituzione dei tradizionali giudici umani con sistemi intelligenti.