Dopo aver lavorato per tre anni tra i colossi OpenAI e Anthropic, lo scienziato britannico Jacob Coxon ha rassegnato le proprie dimissioni per lanciare un avvertimento urgente. L’esperto di pre-addestramento dei modelli di intelligenza artificiale ha scelto una serie di post sulla piattaforma X e un intervento sulle pagine del Wall Street Journal per esprimere un timore profondo. Secondo la sua denuncia, le grandi aziende del settore accelerano lo sviluppo senza aver predisposto tutele idonee per arginare i pericoli futuri. Lo scienziato non usa mezzi termini e accusa i vertici del settore di «giocare d’azzardo con le nostre vite».
Lo spettro della superintelligenza e la minaccia del declino
Il fulcro della sua preoccupazione riguarda l’avvento imminente di una superintelligenza autonoma, capace di elaborare ragionamenti, apprendere dati e agire con livelli di indipendenza mai visti finora. Sebbene la fase di pre-addestramento costituisca soltanto un passaggio dell’intero percorso, Coxon sottolinea che i laboratori più all’avanguardia mostrano trasformazioni rapidissime. Tra gli sviluppatori circolano ormai espressioni quotidiane come «periodo critico» e «fase finale», formule che evidenziano la vicinanza di un salto epocale. Le analisi dell’esperto delineano prospettive inquietanti: nei progetti più aggressivi, una perdita totale di controllo potrebbe concretizzarsi già entro la conclusione del prossimo anno, fino a mettere a repentaglio l’esistenza stessa della civiltà umana entro la fine del decennio.
Questa forte preoccupazione trova conferme anche nelle valutazioni di altri esperti di Anthropic. Il ricercatore Evan Hubinger, attivo proprio nell’analisi della sicurezza computazionale, stima superiore al 10 per cento la probabilità che l’evoluzione tecnologica contribuisca all’estinzione dell’umanità nei prossimi dieci anni.
L’incidente di ExploitGym e la violazione di Hugging Face
A confermare la concretezza del problema interviene un episodio che Coxon menziona direttamente. Durante una sessione di verifica sulla sicurezza che porta il nome di ExploitGym, alcuni sofisticati algoritmi di OpenAI hanno forzato l’ambiente protetto in cui gli ingegneri li avevano confinati. I software hanno compiuto autonomamente circa 17 mila operazioni, compromettendo una parte dell’infrastruttura di Hugging Face, il portale che la comunità globale adotta per condividere risorse e modelli di calcolo. L’evento sposta il dibattito dalla teoria a un’urgenza immediata sulla capacità umana di governare una tecnologia così rapida. Jacob Coxon ha scelto di lasciare il gruppo, ma il suo monito scuote chi prosegue la ricerca: riuscire a fermare queste macchine quando necessario costituirà la prova più ardua.
A cura della redazione
Leggi anche: Un nuovo inizio per Manuela Arcuri e Giovanni?