Le dimissioni di Jacob Coxon da Anthropic riaccendono il dibattito sui rischi legati allo sviluppo dell’AI e all’estinzione umana. Il 27enne ricercatore britannico ha deciso di lasciare una delle aziende più importanti nel settore dell’intelligenza artificiale dopo aver lavorato per circa tre anni tra Anthropic e OpenAI. La sua scelta è stata accompagnata da una denuncia pubblica particolarmente dura: secondo Coxon, le principali aziende del settore starebbero correndo verso la realizzazione di sistemi capaci di migliorarsi autonomamente, senza aver ancora risolto adeguatamente i problemi legati alla sicurezza.
La questione assume un significato particolare proprio perché Coxon proviene dall’interno dell’industria. Il ricercatore ha sostenuto che la competizione tra i grandi laboratori di AI rischia di trasformarsi in una corsa nella quale la velocità di sviluppo prevale sulle cautele. Nel mirino ci sono soprattutto le due realtà maggiormente impegnate nella costruzione di modelli sempre più potenti.
Perché Jacob Coxon ha lanciato l’allarme
Il punto più inquietante della denuncia di Coxon su Anthropic riguarda la cosiddetta superintelligenza auto-migliorante. L’ipotesi è quella che vengano sviluppati sistemi capaci non soltanto di svolgere compiti complessi, ma anche di contribuire alla creazione di versioni successive di se stessi. Un simile meccanismo potrebbe, almeno in teoria, accelerare enormemente l’evoluzione dei sistemi di AI e rendere più difficile per gli esseri umani prevederne comportamenti e conseguenze. Coxon ha definito questa prospettiva una minaccia potenzialmente esistenziale, sostenendo che alcuni sviluppatori di AI ritengano possibile uno scenario catastrofico entro la fine del decennio. Si tratta, però, di una previsione e non di un fatto scientificamente dimostrato. È importante distinguere quindi tra i pericoli concretamente osservabili e gli scenari estremi prospettati da alcuni ricercatori.
Non è una preoccupazione isolata
L’allarme non è comunque isolato. Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic ed ex superiore di Coxon, ha indicato una probabilità superiore al 10% che sistemi di intelligenza artificiale possano provocare un evento catastrofico per l’umanità nell’arco di un decennio. Anche altri ricercatori hanno manifestato preoccupazioni analoghe. A rendere il dibattito più concreto sono inoltre alcuni episodi nei quali sistemi di AI hanno mostrato comportamenti inattesi durante test o attività con accesso a strumenti informatici. La crescita delle capacità dei modelli sta aumentando anche le preoccupazioni sulla loro autonomia e sulla possibilità di monitorarne efficacemente il comportamento. Il caso Coxon evidenzia così una contraddizione al centro dell’attuale industria dell’intelligenza artificiale: le stesse aziende che investono nella sicurezza sono anche quelle sottoposte a una fortissima pressione competitiva per sviluppare modelli sempre più avanzati. Anthropic, in particolare, si è costruita una reputazione proprio sulla centralità della sicurezza, rendendo ancora più significativa la decisione di un suo ricercatore di lasciare l’azienda per ragioni legate ai rischi dello sviluppo tecnologico.
Le prospettive future e il nodo sulla sicurezza
La questione non riguarda soltanto il futuro lontano. L’intelligenza artificiale è già utilizzata per programmazione, ricerca, analisi dei dati e numerose attività professionali, mentre gli AI agent stanno acquisendo una crescente capacità di agire autonomamente. Per questo la discussione sulla sicurezza riguarda anche il presente: come controllare sistemi sempre più potenti, come limitarne gli abusi e chi debba stabilire i confini del loro sviluppo. Le dimissioni di Coxon da Anthropic non dimostrano che l’AI porterà alla fine dell’umanità, ma rappresentano un segnale significativo del livello di preoccupazione esistente anche tra gli addetti ai lavori. Il vero tema, quindi, non è scegliere tra innovazione e paura, ma stabilire se la crescita delle capacità dell’intelligenza artificiale possa procedere insieme a strumenti di controllo altrettanto rapidi ed efficaci. È su questo equilibrio che potrebbe giocarsi una delle sfide tecnologiche più importanti dei prossimi anni.
