Questo è uno dei problemi chiave per adottare questa tecnologia nelle grandi organizzazioni, perché se il ranocchio sbaglia, ci si pianta: vediamo alcuni esempi in cui l’agente elettronico può fare il mestiere, ma senza il capo, fallisce.
Pensiamo ad un robot che trova il profilo di un cliente, mentre il collega crea un’offerta commerciale: nel momento in cui profilo automaticamente una persona, ne verifico il credito e mando un’offerta personalizzata, i singoli passi hanno funzionato correttamente, ma il risultato finale non era autorizzabile per via delle leggi sulla privacy. Senza il consenso del cliente al trattamento dei dati sensibili, ciccia. Oppure, altro agente calcola correttamente un rimborso, poi lo eroga al cliente ma pagando oltre il proprio limite autorizzato, perché non c’era un capo ranocchio che consente l’eccezione al limite: altro caso dove l’operazione è perfettamente riuscita, il paziente è morto. Infine, immaginiamo un chatbot che parla con una persona comprendendo tutto perfettamente, comunicando quanto di dovere, ma saltando spiegazione ed accettazione di una clausola vessatoria: ancora una volta l’intelligenza artificiale ha funzionato correttamente, ma il risultato non è ammissibile.
Tutte le aziende di IA stanno sviluppando modelli sempre migliori per capacità di ragionamento e spiegazione, ma nella maggiorparte dei casi ci sono regole e leggi da rispettare, vincoli che solo un capo sa e può decidere di osservare nel minimo dettaglio, o meno. Negli altri campi dell’information tecnology sappiamo rispettare le regole, e come verificarne il rispetto. Ad esempio nella connettività distinguiamo tra spedire il pacchetto di dati e decidere che percorso debba fare, come nei sistemi operativi separiamo il kernel dai processi che attingono alle diverse risorse, oppure nel cloud, dove c’è una chiara linea di demarcazione tra l’erogazione di calcolo da una parte, e la gestione del dato che sposta i byte dall’altra. La differenza tra norme di legge ed algoritmi è semplice: le prime consentono margine di interpretazione e manovra, i secondi sono rigidi come il marmo. Per le prime serve il buon senso che manca al ranocchio elettronico.
Se la segregazione dei compiti che abbiamo tra bipedi deve esistere pure tra agenti IA, ci sono anche altri quattro fattori di base che servono per rendere pienamente adottabile questa tecnologia. Innanzitutto nessuna azione può prescindere dal contesto, per sapere se un’azione deve necessariamente risultare da condizioni precise, e non da semplice calcolo probabilistico. È il caso della diagnosi: devo arrivare alla certezza che quella linea è una frattura seria prima di operare su un paziente anziano, o che quella macchia è veramente un calcolo renale in oncologico, prima di fare cose. In termini digitali qui si entra nel campo del Conjunctive Context Failure (CCF), che deve risolvere l’angolo cieco determinato da come il RAG (retrieval augmented generation), il COT (chain of thought) e la tracciatura dei dialoghi, lasciano spazi di dubbio nell’intersezione del contesto.
In secondo luogo serve proprio un meccanismo di autorizzazione, che vieti azioni contrarie alle regole. Sembra banale, ma il ranocchio elettronico non ha un senso etico, o basi di diritto, e di conseguenza occorre pensare a tutti i casi in cui un’azione non può essere consentita. L’abbiamo visto spesso con le auto a guida autonoma: se non gli metti dei paletti, quelle ti svoltano a sinistra al tramonto semplicemente perché hanno imparato a guidare in quel contesto.
Terzo punto da sviluppare bene è il concetto del riuso: un risultato che sia correttamente calato nel contesto ed autorizzato, deve poter essere riprodotto senza rifare tutto il ragionamento da capo, in automatico, a patto che si trovi nelle stesse condizioni. Questo è ben diverso dal mettere cose in memoria, dal caching, che serve solo ad aumentare la velocità di un’azione. In questo caso dobbiamo rispondere alla domanda: quali autorizzazioni precedenti si applicano ancora? È per questo che si parla di CAS (Certified Answer Store), come componente che memorizza risultati certificati ed autorizzati che, in specifici contesti, si possono ripetere.
Da ultimo, serve la prova: ogni azione o decisione deve attestare perché è stata fatta, o presa. In questo campo è utile l’esperienza dell’ambito cripto, attraverso token che in modo inequivocabile e non falsificabile confermino che il contesto è stato adeguatamente preso in conto, che l’autorizzazione è legittima, che il riutilizzo è permesso, e di conseguenza la scelta del ranocchio elettronico è corretta.
