I Competenti, che già abbiamo conosciuto nella gestione del virus, del cambiamento climatico e della geopolitica, non possono accettare che una professionista di un altro campo sia in grado di capire come funziona lo strumento, contestualizzarlo rispetto al proprio mestiere e riuscire a farne buon uso. Son gli stessi che non vi volevano fare prendere l’aspirina, né correre in spiaggia senza la mascherina durante il Covid. I migliori di questa specie fanno carriera fino a Bruxelles, e ci illuminano di immenso andando ad accusare X (Twitter) che la spunta blu non garantisce la veridicità delle informazioni fornite dal social media. Il duello tra pragmatismo e burocrazia è quello tra Musk e Breton, quello tra prof di latino e Competente di LLM, quello tra chi fa e chi parla: decidete voi per chi fare il tifo.
Voi lettori siete quasi sicuramente capaci di guidare un’automobile in sicurezza e di usare un computer senza fare danni: la prova sta nella percentuale minima di incidenti rispetto ai miliardi di chilometri percorsi e terabyte consumati su internet. Ovvio: airbag, cinture di sicurezza, antivirus e firewall sono lì per mitigare il rischio di incidenti. Per quasi tutti noi su Zafferano, il funzionamento di un motore o di un applicativo resta un mistero: a noi basta che funzioni, che l’auto ci porti da A a B, che il computer riceva la posta elettronica. Da quando scrivo questa rubrica raccomando di giocare con gli strumenti digitali, di vedere come usarli, perché prima o poi potrebbero servirvi. Non vi ho mai raccomandato di leggere tomi di informatica o di norme di legge.
Entriamo a casa dei Competenti degli LLM. Questi sono costruiti con il deep learning, ovvero sulla base di qualche miliardo di neuroni simulati con il software e modellati ad immagine e somiglianza del nostro cervello, seppur in modo estremamente più semplificato della nostra zucca. Agli LLM insegniamo con migliaia di milioni di esempi di testi, ed alla fine riescono a fare conversazione, scrivere in prosa come un autore famoso, tradurre tra lingue diverse e scrivere altro codice software.
Questo significa che a differenza di programmi precedenti, scritti per filo e per segno, gli LLM sono educati con tantissime informazioni, e non sappiamo esattamente come funzionano: allucinano come abbiamo già visto in un numero precedente. I ricercatori di OpenAI, Anthropic e Meta studiano e pubblicano parecchio sul tema, e l’evidenza ad oggi ci dice che gli LLM si comportano in qualche misura come il nostro cervello. Quando leggete “ripensa alla tua prima bicicletta”, in circa 240 millisecondi il vostro cervello s’è acceso in varie parti della zucca, ricostruendo nella vostra corteccia prefrontale la forma, il colore, le memorie, le emozioni della vostra bici. Questo lo sappiamo perché si vede sperimentalmente con gli MRI funzionali. Non possiamo mettere ChatGPT in una risonanza magnetica, ma la ricerca di questi giorni suggerisce che il meccanismo di associazione tra neuroni, informazioni e connessioni logiche sia quantomeno simile se non lo stesso. Per saperne di più, qui .
A mio umilissimo parere, essendo tutt’altro che Competente, è meglio fidarsi ed incoraggiare la professoressa. Con i suoi anni a gestire classi, casi violenti, uso di droghe, malattie mentali, problemi famigliari, gravidanze precoci e tutto il possibile dei rischi che si vivono a scuola, preferisco sia lei a fare usare ChatGPT ad uno studente. Perché’ lo farà in scienza ed in coscienza, proprio come quei medici che davano l’aspirina e non si mettevano la mascherina in spiaggia quando ancora gli scienziati provavano a capire come funzionasse il Covid.
Il rischio, venga esso dal lasciare dati personali a OpenAI o qualsiasi altro uso di strumenti facciamo, non è mai prevedibile ed azzerabile in modo completo, ma sempre contestuale al nostro vissuto. La divisione tra pragmatismo e burocrazia sta tutta lì: tra chi pensa a come proteggersi nel proprio particolare, e chi crede di saper proteggere il prossimo in assoluto.
