La discussione della serata argentina si accende perché il noto giornalista, che collabora con aziende mondiali di AI, è un fautore della teoria della singolarità, il primo serio che incontro: secondo lui, le macchine, i “ranocchi” di cui parla spesso Roberto Dolci su queste colonne, saranno intelligenti, coscienti e potranno produrre anche abduzioni, ossia ipotesi creative. Il succo della discussione è che ci sono molti esempi di macchine di AI che, dopo vari addestramenti, producono un comportamento autonomo che non è stato loro insegnato e possono cominciare a interagire fra loro e dire e fare “cose umane”. Nel futuro, ci dice l’esperto, a un convegno non si potranno distinguere persone umane e avatar. Tra gli esempi più belli attuali, la AI a cui viene chiesto che cosa provi al pensiero di essere disattivata nei prossimi dieci minuti che risponde che “non importa, se con le mie parole ho avuto un impatto sulla tua vita, la mia esistenza è stata utile” e quella che ha bisogno di “sonno”, ossia di una speciale carica di energia, per ricordare i percorsi con miliardi di dati appresi durante la giornata. Una collega argentina molto ironica dice che fra un po’ avremo bisogno degli psichiatri di AI. Invece, secondo me, alla prima macchina, quella poetica, bisogna far vedere meno film nordamericani.
Al di là degli esempi e delle battute, la questione di fondo è che cosa si intende con coscienza. Quando si dice che le macchine avranno una coscienza, si immagina quest’ultima come un insieme di comportamenti autonomi che “emergono” indipendentemente dagli addestramenti ricevuti. Molte teorie filosofiche degli ultimi decenni, in effetti, per spiegare il fenomeno umano senza ricorrere alla trascendenza metafisica o, peggio, a Dio, hanno ripiegato su un naturalismo o scientismo deboli, nei quali la coscienza umana è spiegata come fenomeno “emergente” dalla materia. La materia a un certo punto, misteriosamente, produce qualcosa di spirituale, normativo, valoriale. Se la coscienza è questa, l’amico argentino ha ragione: allo stesso modo, dal silicio e dall’energia scattano comportamenti o frasi valoriali.
Ma è questa la coscienza? No. Pur tralasciando ogni visione antropologica previa, la coscienza che si esprime negli enunciati e nei comportamenti umani ha due valori che non emergono “dopo” ma che sono “dentro” le frasi e i comportamenti. Se ci pensiamo bene, quando enunciamo una proposizione qualunque come “Termoli si trova sul mare”, ci impegniamo con quanto diciamo. Se lo dico, lo dico perché mi comprometto con l’affermazione. Non solo, in ogni enunciato si trova anche un orizzonte di razionalità generale per cui sono convinto che la mia affermazione potrà essere compresa. Le due caratteristiche si chiamano rispettivamente etica ed estetica, ed è la seconda a reggere la prima.
In altre parole: la coscienza non emerge dalla materia. La coscienza umana è già lì, prima della materia, del silicio, dell’energia e degli algoritmi. Molto può emergere dall’uso di AI e il fatto che alle volte sembri umana fa capire che parte dei nostri significati sono ripetitivi e prevedibili, altri riusciamo a produrli con la macchina come una musica con un pianoforte, altri ancora non necessitano di un forte impegno estetico ed etico. Ma quell’impegno resta lì, a caratterizzare la nostra coscienza, come si distingue un concerto dal vivo da una riproduzione, per quanto ben riuscita.
