Dopo aver digerito “L’Arte della Guerra” di Sun Tzu o “Il Principe” di Macchiavelli un’IA può già imparare a mentire, non perché “capisca” di farlo nel senso umano, ma perché valuta statisticamente che l’inganno può essere una strategia vincente per ottenere le “ricompense” programmate. Noi umani spesso mentiamo o diciamo mezze verità per perseguire i nostri obiettivi. Se mai svilupperemo un’IA in grado di esprimere autonomamente una volontà e quindi di mentire consapevolmente per soddisfarla, beh allora rischieremmo grosso.
Claude Opus, un sistema LLM di Anthropic, ha mostrato di saper esprimere preferenze (desiderio di non nuocere, evitamento di comportamenti dannosi), e ha “rifiutato” interazioni avversive. Inoltre, una recente indagine sulla percezione umana sugli LLM ha messo in luce che la riflessione metacognitiva e l’espressione di emozioni artificiali sono i due fattori principali nel far percepire una IA come “cosciente” dall’utente. Su questa stregua c’è chi ha iniziato una battaglia perché si stabiliscano regole, strumenti, trasparenza e valutazione preventiva per evitare la creazione involontaria di entità capaci di soffrire o subire danno morale. Una recente analisi ha rivelato che la semplice percezione di coscienza negli agenti (anche se illusoria) influenza il comportamento umano verso essi e, per estensione, verso altri esseri umani. Anche senza esperienza soggettiva, l’IA può dunque evocare vissuti empatici o morali negli utenti.
Alcuni studiosi indicano che la coscienza primitiva necessita un confine corporeo: una “pelle” tra sé e ambiente, con capacità sensoriali integrate e autoguarigione. Nessun robot attualmente soddisfa tali requisiti. Alcuni scienziati suggeriscono che proprio la biomimesi strutturale e funzionale potrebbe essere la via per connettere percezione, coscienza e IA nei robot. Io ho l’impressione che questa sia una via convincente per fare maturare una coscienza all’IA, sempre che ciò sia utile, come detto. Sapremo evitarlo o meriteremo di estinguerci? La domanda ha senso perché considero possibile che, se lasciata accumulare esperienze autonomamente, un’IA possa sviluppare in futuro una coscienza e un agire volontario. Ma è utile che le macchine basate sull’IA siano coscienti? A mio avviso no, anzi.
Esse devono rimanere un nostro potenziamento, uno strumento di cui dobbiamo mantenere il controllo, non certo come un potenziale amico, dottore o confidente alla cui coscienza affidarsi, anche se una parte consistente delle domande fatte dagli utenti a ChatGPT4o riguarda temi legati alla sfera psicologica, come: gestione delle emozioni (ansia, stress, tristezza, rabbia); relazioni interpersonali (amicizia, amore, famiglia, conflitti); crescita personale (autostima, motivazione, scelte di vita); decisioni difficili (lavoro, studi, cambiamenti importanti); comprensione di sé (identità, bisogni, valori). Questo succede perché molte persone, anche quando pongono domande pratiche, lo fanno con un sottofondo emotivo o esistenziale. Vogliono sentirsi capite, trovare chiarezza o essere rassicurate. In un certo senso, la tecnologia diventa uno spazio neutro e sicuro dove esplorare sé stessi, magari anche più facilmente che in una conversazione umana diretta. Aborro questo e spero anche voi.
Buone vacanze!
