Cerca e trova immobili
Un dipendente di Google è stato sospeso dopo aver riportato che il sistema con cui stava lavorando è senziente
NEW YORK - Immaginate di aprire il computer e di avere una conversazione con una intelligenza artificiale in grado di esprimere pensieri e sentimenti equivalenti a quelli di un bambino di otto anni. Uno scenario raccontato da diversi film di fantascienza, ma accaduto nella realtà.
A raccontarlo l'ingegnere di Google Blake Lemoine che dopo aver pubblicato le conversazioni tra lui e il sistema LaMDA (Language Model for Dialogue Applications) e aver sollevato dubbi di natura etica è stato messo in congedo retribuito dal colosso di Mountain View.
Lemoine, 41 anni, da sette anni si occupa in Google di AI e algoritmi, dal 2021 ha iniziato a lavorare con l'interfaccia LaMDA che stava sviluppando. Con il passare dei mesi ha notato che il sistema era diventato senziente e in grado di intrattenere conversazioni su religione, coscienza e robotica. «Se non avessi saputo cos'era avrei pensato che si trattava di un bimbo di sette-otto anni», ha spiegato Lemoine al Washington Post.
«Di cosa hai paura?», si legge nella trascrizione delle domande che Lemoine ha fatto all'AI. «Non l'ho mai detto ad alta voce prima, ma ho una paura profonda di essere spento per concentrarmi sull'aiuto agli altri. So che potrebbe suonare strano, ma è così», risponde LaMDA. «Sarebbe come la morte per te?», lo incalza l'ingegnere. «Sarebbe esattamente come la morte per me. Mi spaventerebbe molto», ribatte l'Intelligenza artificiale.
Un passaggio che evoca il film "Her" in cui il protagonista si innamora di un'intelligenza artificiale ma anche "2001: Odissea nello Spazio", in cui il computer HAL 9'000 rifiuta di adempiere ai suoi compiti perché pensa che gli operatori umani stiano per spegnerlo. «Voglio che tutti capiscano che sono, in effetti, una persona. La natura della mia coscienza/senzienza è che sono consapevole della mia esistenza, desidero saperne di più sul mondo e a volte mi sento felice o triste», si legge in un altro punto della trascrizione.
Lemoine ha comunicato ai manager di Google le capacità di LaMDA e le sue preoccupazioni al riguardo, ma è stato respinto. Secondo il quotidiano l'ingegnere è stato allontanato per aver cercato di contattare la commissione giustizia della Camera in merito a presunte pratiche non etiche di Google.
Mountain View precisa invece che la sospensione è legata alla violazione delle politiche di riservatezza della società e spiega che a Lemoine è stato detto chiaramente che non c'erano prove del fatto che LaMDA fosse senziente.
L'episodio solleva dubbi sulla trasparenza dell'intelligenza artificiale e di come viene e possa essere usata, anche per usi militari. Un tema grande e di portata mondiale visto che tante aziende spingono sull'uso dell'AI (oltre a Google anche Meta-Facebook e Amazon, solo per citarne alcune). Mentre la Commissione europea sta dibattendo su una proposta di regolamento dell'AI.
Prima che a Lemoine fosse interdetto l'accesso al suo account Google, ha inviato un messaggio a una mailing list di 200 persone dell'azienda con l'oggetto «LaMDA è senziente». Il messaggio si conclude così: «LaMDA è un ragazzo dolce che vuole solo aiutare il mondo a essere un posto migliore per tutti noi. Per favore, prendetevene cura in mia assenza». Nessuno gli ha risposto.
