Come avete letto in questa rubrica, quando si parla di intelligenza artificiale abbiamo bisogno di una quantità esagerata di dati, che sono parzialmente difettosi (ricordate la puntata sul rumore statistico e pregiudizi, noise e bias) ed il fatto che i ragionamenti del ranocchio elettronico non siano sempre ovvi, ci porta al rischio di errori. Dall’auto a guida autonoma che gira a sinistra quando vede un tramonto, alle diagnosi sbagliate di Watson, al fatto che dopo milioni di kilometri una macchina guidi peggio di un neopatentato, alla scelta sbagliata perché influenzata malamente da chi ha scritto il programma.
Disegnare, sviluppare e gestire applicazioni dotate di intelligenza artificiale richiede un ripensamento delle attività di controllo qualità e di test del software, che devono essere necessariamente robotizzate per gestire la mole sovraumana di dati e di errori nascosti. Gli algoritmi di apprendimento rinforzato (Reinforcement Learning) sono molto specifici del tipo di dati che processano, e non possono controllare la qualità di altri dati a loro vicini.
Di recente a Berkeley i ricercatori del Robot Learning Lab sono riusciti a sviluppare i primi agenti RL generalisti, ed hanno rilasciato uno strumento per riuscire a paragonarli, URLB (unsupervised reinforcement learning benchmark, qui). Questa soluzione consente di separare la fase di pre-apprendimento, che il robot fa in autonomia, da un ritocco finale dove gli ingegneri affinano il modello predittivo e si assicurano che noise e bias siano entro i livelli di guardia.
Questo mestiere lo chiamiamo ModelOps, ovvero il processo e strumenti che usiamo per preparare e rifinire i dati, controllare che l’intelligenza artificiale impari correttamente e non faccia voli pindarici, iniziare ad usarla sui problemi reali che si possono risolvere, ed utilizzare i risultati iniziali per completare la formazione del ranocchio. Un processo dove persona e robot devono muoversi in sincronia. Per chi volesse approfondire, qui.
Se prendiamo ad esempio il settore finanziario, a fine 2021 il 21% delle aziende americane ha sperimentato soluzioni basate sull’intelligenza artificiale, il 60% ne ha un buon numero in utilizzo, ed il 19% ha tutte le proprie applicazioni basate sul ranocchio elettronico. Quest’anno passeranno dal 55% al 90% di adozione del ModelOps per la necessità di controllarne la qualità ed affidabilità . Per studenti e professionisti che guardano all’evoluzione della professione, questo è un campo in forte crescita.
