Da anni ci stiamo abituando a servizi rapidissimi fruiti attraverso il nostro smartphone. Tutto è diventato più semplice, fare un'operazione di conto corrente, rinnovare una polizza assicurativa, effettuare un acquisto online. Poi un giorno tra la miriade operazioni online che effettuiamo o nella routine quotidiana del rapporto con i robot o automatismi vari, qualcosa non funziona e ripiombiamo in una sorta di incubo tecnologico. I motivi li ho in parte chiariti nel precedente articolo. Cercherò di fare alcuni esempi in una logica di gravità crescente.
Partiamo dai servizi. Il Banking è il settore che conosco meglio. Già nel 2015 si era verificato un fenomeno nel Regno Unito che aveva portato il governo a correre ai ripari con una legge apposita. Dopo la crisi finanziaria del 2009 e poi quella economica degli anni successivi, in un mercato particolarmente flessibile quale quello anglosassone, le banche avevano rapidamente licenziato migliaia di persone per ridurre i costi. Come spesso accade i tagli erano stati “lineari” e avevano colpito in particolare le sedi centrali e dipartimenti ICT dove “sembrava” che fosse più semplice ridurre i costi senza grandi impatti. Dopo qualche mese iniziarono a verificarsi dei veri e propri “black out” dei servizi online, mai registrati in precedenza, con la conseguenza che il governo inglese dovette introdurre multe salatissime per le banche responsabili del blocco dell'operatività ordinaria della clientela. Cosa era successo? Erano stati licenziati dipendenti che “formalmente” risultavano poco produttivi, ma proprio perchè “anziani” avevano conservato le conoscenze storiche dei sistemi informativi, senza le quali i giovani (e molto meno costosi) dipendenti rimasti a gestire processi automatici, impiegavano giorni se non settimane a risolvere le problematiche.
L'automotive è un settore che conosco meno, ma voglio portare la mia esperienza di utente. Come accennato nel mio articolo precedente, da qualche mese posseggo un'auto con guida autonoma livello 2. Molte auto di fascia media oggi offrono questa tecnologia. Sostanzialmente è possibile, ad esempio in autostrada, disporre della guida autonoma per lunghi tratti, senza dover intervenire sui comandi. Come ha scritto Roberto Dolci in Zafferano 42, tutto va bene fino a quando il clima è perfetto, la strada è lineare e non vi sono piloti indisciplinati in giro. Quando qualcosa va storto, per il guidatore inizia una vera e propria “lotta” con l'auto per imporre la propria guida, con la necessità di dover escludere gli automatismi “ribelli”. La stessa Tesla che propone auto a guida autonoma di livello tre, chiarisce fin da subito al neofita l'importanza di tenere sempre le mani sul volante. Tesla ha vinto le cause in cui si sono verificati incidenti mortali perchè ha dimostrato che il guidatore in quel momento non lo faceva. Il livello 4 dovrebbe arrivare quest'anno ma per ora, è bene che l'umano non si distragga troppo.
Volo: è recentissima la notizia che i due gravi incidenti dei Boeing 737 Max del 2018 e 2019, potrebbero essersi verificati a causa di errori di progettazione del software di navigazione automatica e del ridotto training dei piloti. La crisi ha portato alle dimissioni “milionarie” del CEO. Gli sfortunati piloti potrebbero aver “lottato” senza successo contro l'intelligenza artificiale dell'aereo.
In questi esempi l'uomo c'è ancora, ma fa fatica a tenere testa ai Robot e all'A.I. quando si verificano delle anomalie. A questo punto ci si deve chiedere: quando le macchine potranno veramente operare senza più alcun controllo? E chi deciderà che è giunto questo momento?
