Un anno fa non era chiaro cosa andasse ad instillare pregiudizi nella testa artificiale di una macchina, e le grandi aziende risposero con l’accetta, bloccando alcuni algoritmi o schierando frotte di umani ad esaminare ogni risposta prima di pubblicarla. Una debacle.
Nel frattempo, aziende come Microsoft hanno intrapreso una strada di medio termine, andando a rivedere le percentuali di assunzioni dai diversi gruppi etnici, dislocando le squadre di sviluppo anche in paesi remoti, e rivedendo con occhio critico quanto produce il ranocchio elettronico. In poco tempo sono passati al 55% di personale non bianco/americano, hanno finalmente incluso sistemi LLM in lingue diverse dall’inglese, e lavorano in posti come India o sud-est asiatico dove tutta una serie di valori e concetti funziona in modo diverso.
Personalmente, ipotizzo che questo approccio ci porti ad un’intelligenza artificiale senza senso dell’umorismo, sciapa, incapace di sarcasmo, sicuramente woke e politicamente corretta, certamente noiosa. A mio parere sarebbe meglio far gareggiare LLM ed altri sistemi di IA di origine diversa, come quello fatto a Napoli in lingua italiana, o quello sviluppato in arabo nei paesi del golfo. Un agente orchestratore potrebbe far rispondere ad intelligenze artificiali concorrenti, da paesi diversi, e proporre quindi diverse risposte e punti di vista alla domanda che ha fatto la persona. Chi utilizzasse questo sistema dovrebbe avere capacità critiche e di sintesi, che almeno per ora sono appannaggio della zucca umana e non di quella artificiale.
Quando vivi in paesi diversi ti accorgi che certi concetti non si traducono letteralmente, perché in quel posto non si pensa proprio in quel modo. Non mi serve un grosso sistema di intelligenza artificiale che mi faccia un minestrone che non sappia di niente, ma la possibilità di capire e quindi sfruttare concetti diversi, tipici della cultura nazionale o professionale del contesto specifico. Troppa gente pensa al bias in termini negativi, di pregiudizio sempre finalizzato ad escludere il diverso, ma a tutti gli effetti è semplicemente un meccanismo di difesa del nostro cervello per accelerare i tempi di decisione. A nessuno di noi verrebbe in mente di avvicinarsi ad un cane ringhioso, e quella paura viscerale è molto più importante dell’aver pensato male dell’animale e dell’essere inclusivi nei suoi confronti. In altri termini, può ben darsi che la nostra paura sia infondata rispetto a quel determinato cane, ma chi se ne frega se esser rimasti lontani ci ha evitato il rischio di un morso.
Le euristiche mentali sono quei processi mentali intuitivi e sbrigativi, non necessariamente fondati su dati certi, che ci aiutano a decidere velocemente, pur esponendoci al rischio di bias cognitivi. Come li andiamo a riprodurre nel semplicissimo cervello elettronico è un capitolo interessante di sviluppo tecnologico.
