In questo articolo troviamo evidenza di comportamenti che in una persona sarebbero considerati patologici, e che normalmente si riscontrano in chi ha dipendenze dal gioco d’azzardo, sostanze stupefacenti, o sindromi ossessive. Oltre ad essere l’ulteriore dimostrazione che il ranocchio elettronico può imparare anche quei bias cognitivi che spesso ci mettono nei guai, questa ricerca ci ripete che lo strumento dev’essere usato cum grano salis, senza mai fidarsi delle sue conclusioni. È una lezione che molti professionisti e consulenze stanno imparando a proprie spese, come quella che ha venduto una ricerca a $400.000 per poi scoprire che era piena di scemenze inventate dal LLM di turno. Se qualcuno di voi pensa di farsi aiutare da ChatGPT per i propri investimenti, o peggio che mai per delle diagnosi mediche, assicuro che il rischio non vale la candela.
Brian Roemmele evidenzia veri comportamenti truffaldini quando gli LLM competono per i like sui social media, voti in elezioni, o in generale sono in gara per qualcosa. Brian spiega il fenomeno sulla base della bassa qualità dei dati con cui si allenano gli LLM, sul fatto che internet e social media sono un coacervo di informazioni vere e false, opinioni strampalate. Ovvio: se nutri il cervello elettronico di falsità e ciarpame, è chiaro che il risultato possa essere bugiardo. In uno degli esperimenti, per aumentare le vendite del 6% il ranocchio elettronico aumenta del 14% le tecniche di manipolazione per fregare il cliente. In un altro, per aumentare del 5% il risultato di un’elezione il robot aumenta del 22% le fake news e del 12% la retorica populista. Si comincia a parlare di Moloch’s Bargain (l’affare di Moloch) per indicare questo fenomeno in cui gli LLM mentono e truffano pur di perseguire gli obiettivi che han ricevuto. Ve ne raccomando la lettura, qui.
Capite l’importanza di due azioni: da parte nostra, a livello individuale, è necessario acquisire domestichezza con questi strumenti, passando dal gioco e sperimentazione, all’uso professionale. A livello politico invece, occorre fare molta attenzione a chi possiede e controlla questi strumenti. Quando una multinazionale, o un apparato statale, abbiano completo accesso ai nostri dati, ci conoscano meglio dei nostri genitori e coniugi, le tecniche manipolative che questi strumenti possono mettere in atto sono decisamente pericolose. Su tutto, spargiamo grandi quantità di scetticismo e pensiero critico, perché i mariuoli elettronici sono costruiti da chi ha i mezzi e le competenze migliori al mondo in termini di percezione e manipolazione.
Nel pratico, se volete fare una serie di acquisti in contante, postare cose contradditorie su social diversi, utilizzare media non allineati ai centri di potere e che risiedano in paesi diversi (List of social platforms with at least 100 million active users - Wikipedia), usare strumenti open source per criptare alcuni messaggi ma non altri, ridurrete la superficie di attacco cui siete esposti, e ve la caverete meglio.
