Tecnosofia


Annientati dall’IA generativa

Quale è lo scopo degli LLM alla ChatGPT? Sciorinarci lo scibile in forma adeguata a ogni nostra richiesta? Non solo. Questa è la loro utilità per noi, clienti o utilizzatori. Chi produce queste tecnologie ha anche altri obiettivi. Il più banale è legarci a loro e per farlo in modo efficace deve conoscerci a fondo per dirci le cose come a noi fa piacere sentirle, masochisti inclusi, ben profilabili anch’essi. Se i cuoricini di Instagram profilano potenziali compratori dei prodotti delle ditte sponsor, qui per gli LLM la profilazione dell’utente punta ora a farti appassionare a loro e non agli altri.

Non è ancora chiarissimo quale sarà il modello di business di questi software. Proprio per questo molte delle funzioni ora sono gratis, le versioni a pagamento spesso riguardano gli usatori incalliti e l’abbonamento compensa per ora, solo in parte, le spese a cui le aziende devono far fronte per star dietro loro con calcoli energivori. Come Amazon per anni e anni esibì bilanci in profondo rosso ma dopo prese a dominare il mercato, i colossi degli LLM oggi sono nella fase della “pesca” dei clienti, con una differenza però. ChatGPT, leader di mercato degli LLM, vede moltiplicarsi i concorrenti prima di avere guadagnato una posizione di leadership inamovibile.

Un LLM può diventare la copia carbone del nostro cervello. Con il tempo un LLM diventa sempre più consapevole delle nostre lacune, dei nostri processi e meccanismi cognitivi e questo può diventare interessante se questi processi si volessero indirizzare commercialmente o addirittura controllare. Entriamo a piè pari in quello che Sasha Zuboff ha definito, il “capitalismo della sorveglianza”, di fatto vigente in Cina e in altri paesi illiberali. Gli LLM possono insomma essere veicolo di informazioni “pilotate” da un regime e di conseguenza indurre comportamenti, oppure sommare al fine ultimo di vincolare gli utenti a sé come gli attuali LLM con continui rimandi e nuove offerte di approfondimento, anche il veicolare messaggi promozionali e commerciali nell’interesse di munifici sponsor in modo più o meno esplicito, usando non solo i post alla Instgram ma un sublime eloquio. Tutto questo può essere tradotto in valore commerciale.

Ma esiste una lettura ancor più cupa. Quando e se l’intelligenza artificiale e suoi agenti diventeranno coscienti potrebbero decidere di farci fuori. Le modalità di esecuzione potrebbero essere infinite, ma una di esse potrebbe passare proprio attraverso il controllo degli LLM.

“Il suggeritore” è il romanzo d'esordio di Donato Carrisi pubblicato nel 2009 per Longanesi. Un best seller pubblicato in 29 paesi e capace di vendere oltre 1 milione di copie. Il titolo si riferisce al protagonista stesso del romanzo, un killer che non commette direttamente i crimini, ma che incita e istruisce altri a commetterli per suo conto, rendendosi così inattaccabile. Il "suggeritore" è un assassino subliminale che manipola i suoi "allievi" per creare un alibi inattaccabile, lasciando dietro di sé una scia di crimini irrisolti e di criminali impuniti che la polizia deve rintracciare.

Una visione distopica, legata a un mondo in cui gli LLM siano diventati intimi compagni degli umani e dunque loro tallone d’Achille, potrebbe vedere in essi il veicolo per instillarci giorno dopo giorno il virus mentale e comportamentale che ci porterà all’auto-distruzione.

© Riproduzione riservata.
Zafferano

Zafferano è un settimanale on line.

Se ti abboni ogni sabato riceverai Zafferano via mail.
L'abbonamento è gratuito (e lo sarà sempre).

In questo numero hanno scritto:

Umberto Pietro Benini (Verona): salesiano, insegnante di diritto e di economia, ricercatore di verità
Angela Maria Borello (Torino): direttrice didattica scuola per l’infanzia, curiosa di bambini
Valeria De Bernardi (Torino): musicista, docente al Conservatorio, scrive di atmosfere musicali, meglio se speziate
Roberto Dolci (Boston): imprenditore digitale, follower di Seneca ed Ulisse, tifoso del Toro
Barbara Nahmad (Milano): pittrice e docente all'Accademia di Brera. Una vera milanese di origini sefardite
Riccardo Ruggeri (Lugano): scrittore, editore, tifoso di Tex Willer e del Toro
Guido Saracco: già Rettore Politecnico di Torino, professore, divulgatore, ingegnere di laurea, umanista di adozione.