ATED TICINORischi, responsabilità e leggi nell’era dell’AI

Uno dei temi più complessi e problematici da dirimere da un punto di vista del diritto, riguarda il tema della responsabilità e dei rischi che siamo disposti a correre nell’adozione e maggior utilizzo di soluzioni basate sull’AI. Infatti, come in passato ci si è più volte trovati dinanzi a uno scenario in mutamento per effetto di innovazioni dirompenti, è chiaro che anche oggi le normative sono rapidamente superate dall’evoluzione rapida cui assistiamo nel panorama tecnologico e digitale. Ma proprio per capire come si sta cercando di ragionare su temi di responsabilità, etica, rischio e diritto, abbiamo intervistato la Professoressa Crenguta Leaua, ospite del primo AIperithink, organizzato da ated per il 20 giugno a Lugano presso il Centro Sportivo Collina d'Oro.

Leaua è una figura di spicco nel campo dell'arbitraggio internazionale, svolgendo il ruolo di arbitro e avvocato e fondatrice dello studio legale LDDP a Bucarest. Ha completato programmi executive in leadership presso l'Harvard Kennedy School e in blockchain presso la The London School of Economics and Political Science (LSE). La sua influenza si estende oltre il mondo accademico e legale: ha ricoperto incarichi di alto livello, tra cui il vicepresidente dell'ICC Arbitration a Parigi ed è membro del comitato del Silicon Valley Arbitration & Mediation Center. Attualmente, è anche docente presso l’Università di Studi Economici di Bucarest, autrice di numerose pubblicazioni e articoli che esplorano l'intersezione tra diritto, tecnologia e scienze sociali e ricopre il ruolo di direttrice presso lo Swiss Institute for Alternative Thinking.

Professoressa Leaua, come si può gestire da un punto di vista legale il concetto di responsabilità quando c’è un’AI o un robot che risponde a domande?

Il tema è ancora soggetto di grandi dibattiti al livello internazionale, la legislazione si sta sviluppando diversamente da un paese all’altro, però essenzialmente nella logica legale dobbiamo capire che un robot conversazionale (la chatbot) è semplicemente uno strumento di una persona. È un’interfaccia verbale con una base di dati, da cui si formano, con l’aiuto di vari algoritmi, le sue risposte. I danni che può produrre una chatbot sono collegati al valore e alla credibilità che diamo noi a quelle risposte. Da questo punto di vista, per capire dove si trova la responsabilità, dobbiamo comprendere quale sia il ruolo della chatbot in una situazione specifica.

Se la utilizzo come un mio assistente, per ritrovare delle informazioni per me oppure per darmi delle idee, diventa uno strumento utilizzato da me. Se non la utilizzo nel modo giusto, il rischio è mio. Se non è stata prodotta in modo corretto, oppure se i rischi non mi sono stati presentati correttamente, potrebbe esserci la responsabilità del produttore. 

Se invece nella conversazione la chatbot è l’assistente di un'altra persona (ad esempio, la chatbot che risponde alle domande frequenti sul sito web di una ditta), il robot è come un rappresentante di quella persona. In questo caso, la ditta che lo utilizza sarà responsabile per le risposte della chatbot come se fosse un suo dipendente. Anche in questa situazione è possibile che la responsabilità sia del produttore della chatbot. 

La situazione è uguale per un robot che si trova nelle auto a guida autonoma? 

Qui la situazione è diversa, perché non si tratta semplicemente di una funzione conversazionale, ma il robot prende delle decisioni comportamentali in situazioni complesse nel traffico stradale, in cui può produrre dei danni materiali oppure anche ferire delle persone. Qui, prima di tutto, troviamo la responsabilità del proprietario che utilizza il robot; noi siamo sempre responsabili degli oggetti che sono di nostra proprietà. Poi, si può individuare la responsabilità del produttore, se alcuni comportamenti non sono stati previsti in modo giusto o se i compratori non sono stati informati correttamente. Se il robot è stato autorizzato da un ente statale, possiamo anche riscontrare delle responsabilità amministrative in caso di un’analisi superficiale.

E, di conseguenza, quali sono i rischi che ci assumiamo nel delegare a un robot basato su IA alcune decisioni?

È un rischio derivante da una delega con molti elementi di imprevedibilità, cioè un rischio grande. È un rischio anche maggiore rispetto a quello di una delega ad un essere umano. Non dobbiamo dimenticare che la maggior parte dei robot sono dei prototipi o hanno pochi anni di funzionamento, il che rende difficile anticipare tutti i comportamenti potenzialmente dannosi. Pensiamoci: nell’interazione con gli esseri umani abbiamo un po' più di esperienza…e sempre ci sorprendono. 

Rispetto ad altre tecnologie, che nel tempo sono state normate dalle leggi, quali sono le difficoltà e gli equivoci su cui oggi il diritto si deve confrontare?

Direi che la sfida più grande nel mondo legale attuale risiede nel fatto che, per la prima volta, possiamo confondere un essere umano con una macchina. A causa dello sviluppo dei robot conversazionali e della tecnologia IA generativa di immagini e voce, dobbiamo considerare il rischio di confondere l’identità della “persona” con cui interagiamo. C’è un uomo o una macchina? Questo dilemma non è mai stato preso in considerazione dalla legge perché fine adesso non faceva parte della nostra realtà…