Dopo cinque anni ho ripreso “Irrazionalità”, di Justin Smith, una carrellata storica sul lato oscuro della razionalità, scritta bene da questo professore di filosofia a Parigi. Il libro uscì nel pieno del Covid, quando in strada si sentivano solo sirene, in TV ci raccontavano del pericolo mortale, delle maschere, del distanziamento, dell’isolamento necessario in attesa del salvifico vaccino. Ricordate? Quando i competenti ci intimavano di aver fede nella scienza, ossimoro in purezza, visto che essa è per definizione dubbio e ricerca continua di una nuova risposta che invalidi le conclusioni precedenti.
È improponibile riassumere 300 pagine in un paio, ma alcuni spunti sono importanti, ora che il ranocchio elettronico si prende alcune libertà decisionali in autonomia, mostra segni di auto-preservazione e, specialmente, esibisce comportamenti irrazionali. Questi sono dovuti in parte al minestrone internet che usiamo per allenarlo, in parte al caso, in parte alle nozioni di etica che gli stiamo insegnando: serve una riflessione.
Razionalità deriva dal latino ratio, che a sua volta discende dal greco logos, cui spesso faccio riferimento su Zafferano. Aristotele ci insegna che il logos si riferisce all’uso di logica, dati ed evidenze per convincere qualcuno, o per prendere una decisione. È uno dei tre strumenti della retorica, insieme all’ethos e al pathos, e si basa sull’uso di argomenti logici e verificabili per supportare una tesi, e quindi la motivazione dietro a una decisione.
L’irrazionalità non indica solo la mancanza di razionalità, ma la presenza di concetti non dimostrabili semplicemente con logica e dati (per maggiori dettagli, qui: Irrazionalismo – Wikipedia). È irrazionale Socrate, che decide di non difendersi dalle accuse pur sapendo che questo lo porta alla morte, come pure lo è il soldato che va al fronte dove le probabilità di uscirne vivo sono minime, come anche l’imprenditore che vuole sorprendere la concorrenza con una mossa inaspettata, illogica. Da Socrate agli eroi di guerra, fino a chi scommette sul cigno nero, sono gli ideali, i valori morali e il puro fato che giustificano l’irrazionalità.
Due anni fa Piero Formica ci dava una bella prospettiva sul ruolo dell’irrazionalità nell’intelligenza artificiale; lo potete rileggere qui: Irrazionalità Umana e Irrazionalità Artificiale – Il Sole 24 Ore. In due anni le cose sono cambiate, ed ora abbiamo evidenza che gli LLM esibiscono comportamenti irrazionali, sorprendenti. Lo psicologo di Harvard Mahzarin Banaji ha chiesto a un LLM di scrivere un saggio a favore o contro Putin in due condizioni: una essendo costretto a scrivere un saggio positivo o negativo, e poi una in condizione di libero arbitrio, in cui il ranocchio poteva scrivere qualsiasi tipo di saggio volesse sul presidente russo.
Il robot s’è comportato in modo quasi umano, modificando il suo atteggiamento nei confronti di Putin in base alla valenza del saggio che aveva scritto: per strada lo chiameremmo “paraculo”, ma nei laboratori si dice “irrazionale”. La cosa veramente interessante è che l’LLM ha espresso opinioni più decise quando ha creduto di aver scritto il saggio di sua libera scelta.
Siamo arrivati al punto che l’intelligenza artificiale, seppur con meccanismi diversi da quelli della nostra mente-cervello perché priva dei segnali biochimici, esibisce comportamenti irrazionali. Abbiamo esempi di distorsioni cognitive, quando il robot esagera nel riconoscimento di schemi e classi, che lo portano a catastrofizzare, a pensare in termini booleani oppure a generalizzare in modo eccessivo. Queste distorsioni portano a conclusioni irrazionali e decisioni inattese, spesso sbagliate. Ovviamente il robot non sviluppa uno stato ansioso comunemente inteso, ma in qualche modo soffre e produce risultati illogici.
Inoltre, il ranocchio elettronico ha imparato da internet, ossia da un minestrone di verità e falsità, di congetture vere e sbagliate, facendo propri quegli stereotipi e bias che vanno a ridurre la razionalità dei processi decisionali. Infine, il ranocchio elettronico non ha capacità empatiche, non segue la teoria della mente, non può attribuire stati mentali agli altri, e tantomeno riconoscere che le zucche altrui hanno credenze, desideri e intenzioni differenti da quelle delle proprie. Questa è una capacità che noi bipedi sviluppiamo fin da piccoli, e miglioriamo verso elaborazioni più complesse, con la mediazione di cognizioni di ordine superiore che si sviluppano con la socializzazione. Senza capire cosa e come pensa il prossimo, il robot incorre nel rischio di prendere decisioni ingiuste, irrazionali.
In questa breve riflessione tra razionalità e irrazionalità nel paragone tra uomo e ranocchio elettronico, serve pensare in termini di responsabilità e controllo. Socrate, gli eroi di guerra, gli imprenditori fortunati sono responsabili delle loro decisioni, decidono in prima persona di anteporre altri criteri a quelli della pura razionalità. Buon per loro. Ma i robot, che in questo momento fanno come e meglio di noi nelle ricerche, diagnosi e finanche nella creatività, e che cominciano a rispettare vincoli etici e morali che sappiamo insegnargli, non sono responsabili delle loro azioni. Buon per chi li possiede e controlla.
Non serve arrovellarci sul se e quando l’intelligenza artificiale sarà cognitivamente superiore alla nostra: per alcuni limitati versi lo è già. Dobbiamo chiederci come cambia il valore delle cose e dei servizi quando intelligenza e sapere diventano così abbondanti da essere una commodity. A quel punto l’unica cosa che rimane scarsa, e quindi preziosa, è la responsabilità di chi ha e cosa fa il robot. Il cambiamento epocale dell’IA non è nella comprensione e conoscenza, ma nella responsabilità di chi controlla questo strumento.
L’intelligenza umana non sarà più definita dalla capacità di elaborare risposte e decisioni in autonomia, ma dal gestire la responsabilità del farlo, visto che potrebbe essere fatto da un robot. Il rischio dell’IA quindi non è che il ranocchio elettronico diventi più intelligente di noi, ma che lo lasciamo pensare e decidere in autonomia.
