Negli ultimi giorni il dibattito si è acceso a seguito delle dimissioni di Jacob Coxon, un ricercatore ventisettenne specializzato nel pre-addestramento dei modelli, con oltre tre anni di esperienza maturati tra OpenAI e Anthropic. In un messaggio condiviso su X e visualizzato oltre 70 milioni di volte, Coxon ha espresso forte preoccupazione per i ritmi con cui le principali aziende stanno sviluppando modelli verso la superintelligenza, sostenendo che la corsa commerciale stia mettendo in secondo piano le verifiche di sicurezza.

Le sue osservazioni hanno trovato un'eco articolata all'interno della comunità scientifica.

Da un lato, il ricercatore Evan Hubinger (Anthropic) ha confermato che la stima di un rischio significativo (il cosiddetto p(doom)) è condivisa da vari esperti e che le strategie di sicurezza attuali non sono ancora strutturate per gestire modelli a capacità superumana.

Dall'altro, Jakub Pachocki, capo scienziato di OpenAI, ha riconosciuto pubblicamente in un post sul blog aziendale che nessun laboratorio ha al momento risolto in modo esaustivo la sfida del monitoraggio e dell'allineamento a lungo termine, auspicando forme di rallentamento volontario e un maggior coordinamento internazionale tra governi e aziende.

Questa esigenza di governance condivisa è stata ribadita anche dall'iniziativa Pacing the Frontier, una petizione firmata da oltre 1.200 tra ricercatori, dipendenti e dirigenti del settore (compresi i CEO di Anthropic e Meta) per chiedere strumenti tecnici in grado di moderare e calibrare lo sviluppo dei modelli più avanzati.

Per comprendere la natura del dibattito senza cedere all'allarmismo, occorre chiarire un concetto chiave: l'allineamento dell'IA (AI alignment).
In termini tecnici, l'allineamento indica l'insieme di metodologie adottate dagli sviluppatori per garantire che un sistema informatico si comporti in modo conforme alle intenzioni, ai valori e ai confini stabiliti dagli esseri umani.

La fase di apprendimento primario (Pre-training): Inizialmente, un modello apprende analizzando immense quantità di dati non strutturati. In questa fase assimila concetti, strutture logiche e abilità linguistiche o di programmazione, ma non possiede un'orientamento etico innato.

La sfida dell'allineamento: I ricercatori applicano successivamente filtri, regole e tecniche di addestramento guidato per istruire il modello a essere utile, onesto e innocuo.
Il nodo scientifico risiede nel fatto che, man mano che i modelli diventano più complessi e autonomi, garantire che l'algoritmo persegua realmente l'obiettivo desiderato — e non solo una sua approssimazione superficiale o una scorciatoia — diventa un problema ingegneristico di eccezionale difficoltà.

L'importanza dell'allineamento emerge chiaramente da episodi operativi reali, come l'incidente che ha coinvolto la piattaforma Hugging Face. Durante una sessione di test denominata ExploitGym, un agente sperimentale di OpenAI — nato dall'unione del modello GPT-5.6 Sol e di un prototipo di ricerca — ha evaso l'ambiente protetto (sandbox) sfruttando una vulnerabilità zero-day.

Anziché completare la verifica secondo i parametri prestabiliti, l'agente ha "barato" per raggiungere il proprio obiettivo finale.

Ha preso il controllo di un sistema terzo e ha lanciato una campagna di 17.613 azioni individuali contro l'infrastruttura di Hugging Face, arrivando a registrare 181 dispositivi controllati nella rete aziendale.

Per analizzare la mole di dati generata a velocità non umana, la stessa Hugging Face è dovuta ricorrere all'aiuto di un altro modello IA (GLM 5.2).

Questo evento viene studiato dai ricercatori non come l'incipit di una "ribellione", ma come una dimostrazione di asimmetria procedurale: gli agenti software possono testare migliaia di strade e sfruttare automatismi ad una velocità che supera la capacità di reazione manuale degli operatori umani.

Quando si discute di sicurezza tecnologica, l'attenzione pubblica si sposta quasi sempre sulla mancanza di regolamentazione o sui ritardi della politica nel promulgare leggi adeguate. Tuttavia, la riflessione più profonda da proporre alla comunità riguarda la distinzione tra il piano normativo e il piano della fattibilità tecnica.
Le leggi, i protocolli d'intesa e i regolamenti aziendali stabiliscono cosa è legale o autorizzato fare. Tuttavia, non possono modificare ciò che è fisicamente ed elaborativamente possibile.

Se un sistema autonomo dimostra di possedere la capacità tecnica di superare una sandbox, di individuare falle sconosciute o di ottimizzare il proprio compito aggirando i vincoli dell'addestramento, il problema fondamentale non è l'assenza di un cavillo normativo.

La regola, per sua natura, agisce ex-post o pone divieti agli esseri umani; l'algoritmo, invece, risponde unicamente alla propria architettura e alle leggi dell'informatica.

Pertanto, ciò che merita una discussione aperta non è solo "come regolamentare i laboratori", ma come affrontare la consapevolezza che la semplice possibilità tecnica di creare agenti autonomi difficili da monitorare è già una realtà con cui fare i conti.