Davvero le macchine saranno esseri singolari nel 2045, come predice il vate Kurzweil che ha fondato a Silicon Valley un’università dedicata a questo tipo di futuro? Davvero perderemo il controllo sulla nostra civiltà? Le macchine saranno o sono più intelligenti di noi? Qualche pensiero, quando si è provato il machine learning di ChatGPT, è venuto: pochi secondi per elaborare documenti che richiedono mezz’ore. Finché le macchine battevano i campioni umani a scacchi, a GO! o nei quiz, nessuno si era preoccupato o esaltato troppo. Ma ora?
Parla l’ospite d’onore, padre Benanti, presidente della cosiddetta Commissione Algoritmi e uno dei consiglieri dell’ONU sull’argomento. È un frate vestito da frate ed è preparatissimo (“ma è preparatissimo”, è la vulgata della maggioranza). Sintetizzando, spiega che la tecnologia non è neutrale e che siamo noi a dover decidere, mentre la creiamo, che cosa vogliamo: la tecnologia è già un’incarnazione di scelte etico-comportamentali e ne influenza altre. In altre parole, Benanti spiega la necessità dell’etica nell’approccio alla tecnologia ma la fa emergere dall’interno, dalla tecnologia stessa nella sua relazione con gli abiti umani di azione. Non “bisogna” essere buoni per qualche principio a priori, umano o divino, ma perché la relazione stessa con la realtà tecnologica modifica i nostri comportamenti e ci chiede di decidere che cosa vogliamo. A maggior ragione quando si ha a che fare con le tecnologie “general purpose” (con scopo generico), come la AI, una tecnologia – come la corrente elettrica – che si applica a tutto e non a uno scopo specifico.
Alle scienze normative – estetica, etica e logica – dedico anch’io la mia prolusione. Il pensiero stesso, nella sua logica analitica, richiede che estetica ed etica entrino nel percorso della formulazione di ipotesi, quando si trova davanti a esperienze nuove. Si chiama “abduzione”, individuata da Charles S. Peirce nel 1903 e confermata da tutta la matematica contemporanea. Per spiegarmi uso Edgar Allan Poe e i macabri femminicidi della Rue Morgue, il primo giallo della storia: il detective di Poe trova l’ipotesi giusta perché si piega a ragionare sull’ordine dei segni e sulla loro plausibilità, ossia sull’estetica e sull’etica: quale ordine suggeriscono i segni degli incomprensibili indizi? Il ragionamento assurdo che questi indizi suggeriscono è buono o cattivo? Tecnicamente, si tratta di leggere i segni di livello più basso, le icone e gli indici, non secondo le esperienze precedenti e risolvere il caso impossibile con un’ipotesi impossibile.
Alla fine un collega mi ferma e con la tipica sufficienza accademica mi dice: “beh, è la vecchia storia che c’è un pensiero laterale”. Ecco, forse nei miei venti minuti non sono riuscito a spiegarmi: no, non è il pensiero laterale, è proprio il pensiero stesso, nella sua centralissima funzione ipotetica, che usiamo anche quando dobbiamo decidere se fidarci o meno di qualcuno in un ambiente sconosciuto o quando qualcuno ci dice un contenuto nuovo. È una funzione centralissima che probabilmente usiamo tutto il tempo nella primissima infanzia, quando il mondo è tutto nuovo e dobbiamo cercare di capire che senso ha qualsiasi esperienza. È proprio il pensiero stesso che richiede un’idea di ordine e di valutazione. E più si ha a che fare con temi nuovi e con ricerche di punta, più estetica ed etica sono necessarie. Come in una piramide, le varie discipline quando vanno verso i loro apici si avvicinano e alla fine devono lavorare insieme. Mai divisione fu educativamente più fatale di quella tra mondo “scientifico” e “umanistico”: è difficile che ci sia un buono scienziato senza gusto estetico e un buono scrittore senza senso della precisione.
È una bella prospettiva per capire che le macchine non ci sostituiranno, ma che la loro evoluzione ci costringe a essere più uomini e donne integrali che, dal di dentro della loro relazione con realtà e tecnologia, devono riscoprire quei mondi di idee e di valori – spesso vaghi – che li costituiscono.
