Come tutta risposta Dario Amodei, CEO di quell’azienda, la più ricca di investimenti al mondo nel settore, lancia la proposta di una moratoria sugli sviluppi dell’IA. Con ciò in qualche modo dà ragione al transfuga. Gli si accodano Elon Musk e Sam Altman nel giro di 24 ore.
Da Trump arriva un no secco alla moratoria. Con la Cina che corre verso la superintelligenza l’America non può fermarsi. Tornano i tempi dell’escalation nucleare, insomma.
Ed ecco materializzarsi il peggiore degli incubi associati all’IA: la perdita di controllo.
La semplice sostituzione degli umani sarebbe già una iattura in quanto resta da decidere e progettare che cosa farebbero umani sempre più longevi oltre a passeggiate ai giardinetti. Affidare a IA e robot lo sviluppo di un Paese in quanto più efficienti di noi esseri umani va insomma preordinato e progettato per tempo.
Ma se quell’IA e quei robot decidessero di farci fuori? Niente di più probabile a detta di chi guida lo sviluppo di frontiera di queste tecnologie. E allora c’è da preoccuparsi, soprattutto stante la pessima salute del diritto internazionale.
Riuscirà l’homo sapiens a sorprenderci un’altra volta e sopravvivere alla sua stessa creatura?
Che fare, allora, oltre a tremare?
Primo: nessun modello di frontiera dovrebbe essere addestrato o distribuito senza test indipendenti obbligatori su capacità pericolose, possibilità di auto-replicazione, cyberattacco e aggiramento dei vincoli. I valutatori devono avere accesso reale ai sistemi, non ricevere soltanto dossier preparati dalle aziende.
Secondo: gli incidenti devono essere notificati come avviene per l’aviazione o il nucleare, con registri pubblici, audit e responsabilità precise.
Terzo: oltre una certa soglia di potenza di calcolo, i grandi training run dovrebbero essere dichiarati alle autorità e sottoposti a verifica prima del rilascio.
Ma il nodo vero è internazionale. Stati Uniti, Cina ed Europa dovrebbero concordare poche linee rosse invalicabili e verificabili: niente IA autonoma nel comando nucleare; niente sistemi capaci di progettare armi biologiche senza barriere; niente agenti autorizzati ad acquisire risorse, replicarsi o accedere a infrastrutture critiche senza controllo umano. Servono poi “interruttori” tecnici: sandbox, limiti di rete, autorizzazioni a più livelli e possibilità di arresto esterno.
Infine, occorre finanziare l’allineamento e la sicurezza almeno quanto la corsa alle prestazioni. Se investiamo centinaia di miliardi per rendere le macchine più potenti e briciole per capire come controllarle, il problema non è l’IA: siamo noi.
La superintelligenza non va demonizzata, ma governata prima che arrivi. Il tempo per farlo, se persino chi la costruisce chiede di rallentare, è adesso.
