IL Digitale


Dove funzionano gli LLM

Ad inizio 2021, nel boom dei charger per le auto elettriche, mi ritrovai una bella gatta da pelare: assumere e formare un numero sufficiente di persone per il supporto clienti, per stare al passo con la crescita delle chiamate. Il lavoro nel supporto clienti è antipatico: una chiamata dopo l’altra è una sequela di persone stressate, che si lamentano, ti insultano, chiedono aiuto, non sanno cosa premere sullo schermo, ed hanno fretta.

Mentre il sistema telefonico e di gestione delle chiamate reggeva il volume, molto banalmente i pochi agenti esperti non riuscivano a soddisfare i clienti, mentre neoassunti e meno esperti lasciavano molto a desiderare e spesso mollavano per lavori meno stressanti.

Avendo provato le soluzioni di mercato disponibili in quel momento senza risultati, ho iniziato a testare la soluzione di una start-up di imprenditore italiano a San Francisco, Minerva CQ . Dopo aver caricato alcune migliaia di ore di registrazioni telefoniche, questo LLM ha imparato la risoluzione dei problemi di clienti alle prese con un caricatore per EV. Dopo che i nostri esperti hanno rifinito le diciassette classi di problemi proposte dal ranocchio elettronico, il robot ha iniziato ad aiutare gli agenti, ascoltando in tempo reale il dialogo e suggerendo cosa dire e cosa chiedere. Parallelamente faceva anche il riassunto delle chiamate e ci dava un’interpretazione univoca delle intenzioni dei clienti, un notevole passo avanti rispetto al modello precedente quando ogni capo e capetto interpretava le chiamate secondo il proprio metro e non si capiva mai come migliorare il servizio.

Fast Forward ad oggi, e possiamo dire che questo caso d’uso, l’LLM che risponde alle chiamate del supporto clienti, è l’unico che vale veramente l’investimento: funziona davvero (approfondite qui). Il rischio adesso è che le grandi multinazionali mandino tutto in malora spingendo le loro soluzioni come antibiotici ad ampio spettro, vittime della famosa sindrome: quando hai un martello in mano, tutto ti sembra un chiodo. Vi ho già parlato del giudice canadese che ha condannato Air Canada a pagare le spese di un cliente “truffato” dal loro robot: è solo uno degli esempi di soluzione portata in produzione senza adeguato test di accettazione da parte degli utenti che conoscono il processo.

Altra osservazione non banale è la scelta tra LLM pubblico o privato: nel primo caso il robot impara meglio e prima tutti i possibili problemi da risolvere, ma questo elimina il vantaggio competitivo di essere i primi ad usare questo strumento rispetto ai tuoi concorrenti. Quando da piccolo mi occupavo di miglioramento continuo, l’obiettivo era passare da un processo ad un altro, da un ufficio ad un altro per incrementare le prestazioni in modo omogeno. Anche oggi con questi LLM è meglio concentrarsi a migliorare un’area specifica dell’azienda e poi provare a scalare nelle altre.

Da ultima, la considerazione più generale se il gioco valga la candela. Ora che tutte le multinazionali dell’IA si agganciano a centrali nucleari per fare datacenter sempre più grossi ed energivori, essenzialmente incapaci a differenziare le loro piattaforme, devono farci trangugiare soluzioni IA a tutti i costi, anche quando non ci servono o non ci portano benefici. Se consideriamo che l’unica applicazione IA che veramente da’ risultati è questa del supporto clienti, prendiamoci una buona dose di scetticismo prima di saltare sul prossimo carro vestito a festa. C’è tanta fuffa in giro, e non dobbiamo far beneficenza alle multinazionali del digitale.

© Riproduzione riservata.
Zafferano

Zafferano è un settimanale on line.

Se ti abboni ogni sabato riceverai Zafferano via mail.
L'abbonamento è gratuito (e lo sarà sempre).

In questo numero hanno scritto:

Angela Maria Borello (Torino): direttrice didattica scuola per l’infanzia, curiosa di bambini
Valeria De Bernardi (Torino): musicista, docente al Conservatorio, scrive di atmosfere musicali, meglio se speziate
Roberto Dolci (Boston): imprenditore digitale, follower di Seneca ed Ulisse, tifoso del Toro
Giovanni Maddalena (Termoli): filosofo del pragmatismo, della comunicazioni, delle libertà. E, ovviamente, granata
Barbara Nahmad (Milano): pittrice e docente all'Accademia di Brera. Una vera milanese di origini sefardite
Riccardo Ruggeri (Lugano): scrittore, editore, tifoso di Tex Willer e del Toro
Silvia Andrea Russo (Cremona): passione per l'antichità, la letteratura, la recitazione, la musica, il canto e la scrittura
Guido Saracco: già Rettore Politecnico di Torino, professore, divulgatore, ingegnere di laurea, umanista di adozione.