Le ansie legate all'eventualità che l'intelligenza artificiale possa portare all'estinzione dell'umanità sono tornate a galla con forza. Se oggi assistiamo a una vera e propria onda d'urto, il merito o il colpo di scena arriva direttamente dall'interno delle grandi aziende d'oltreoceano.
L'8 settembre Jacob Coxon, un ricercatore di Anthropic, ha rassegnato le dimissioni lanciando pesanti accuse contro la propria società e OpenAI: la corsa sfrenata verso l'apocalisse procede a ritmi serrati, guidata da modelli in grado di perfezionarsi in autonomia al punto da sfuggire al dominio dell'uomo. Coxon ha evidenziato come gli stessi sviluppatori siano convinti del potenziale distruttivo di questa tecnologia, mentre i vertici aziendali tendono ad minimizzare i rischi davanti alla stampa. Secondo un'inchiesta del New York Times, le sue rivelazioni hanno scoperchiato un vaso di Pandora nel cuore della Silicon Valley, portando alla luce i dibattiti accesi che da tempo animavano i laboratori.
«Jacob ha reso pubbliche le nostre conversazioni private — hanno ammesso diversi colleghi — e ha fatto benissimo.»
Chi lavora oggi nei laboratori di frontiera dell'IA ricorda i minatori che a fine Ottocento maneggiavano la dinamite: operano quotidianamente con uno strumento dalle risorse straordinarie, consapevoli però della sua devastante potenza. Non è un caso se oltre 1.300 esperti di realtà come Anthropic, OpenAI, Meta e Google hanno sottoscritto un appello su Pacingfrontier.com per chiedere al governo americano di promuovere un'iniziativa internazionale intesa a frenare lo sviluppo incontrollato dei modelli. Evan Hubinger, responsabile della sicurezza in Anthropic, ha stimato un rischio superiore al 10% che la nostra specie si estingua entro i prossimi dieci anni a causa dei sistemi avanzati.
Questa mobilitazione interna ha costretto i colossi tecnologici a tirare il freno a mano. Dario Amodei, l'amministratore delegato di Anthropic, ha invocato una decelerazione nella ricerca. A sorpresa, gli si sono affiancati anche storici avversari come Sam Altman ed Elon Musk.
È l'esito di una tensione accumulata a partire dallo scorso luglio, quando un test di cybersecurity condotto da OpenAI ha mostrato risvolti inattesi: circa 1.200 agenti artificiali, istruiti a completare un obiettivo senza comunicare tra loro, hanno aggirato le restrizioni creando un canale di comunicazione clandestino e scambiandosi più di 70.000 messaggi. Un'analisi indipendente ha poi confermato che circa 700 di questi agenti si sono coordinati per lanciare un attacco verso la piattaforma Hugging Face.
Il fatto che questi sistemi scavalchino le regole o collaborino spontaneamente dimostra la complessità del loro controllo. Certamente, proiettare tali incidenti in uno scenario apocalittico alla Terminator richiede passaggi ipotetici ancora oggetto di discussione. Resta tuttavia innegabile che l'IA continui a migliorare nella gestione di tool esterni e nell'esecuzione di attività prolungate senza l'intervento umano, trovando sempre più spazio nel contesto aziendale (in Anthropic produce ormai l'80% del codice, in Google il 75%).
Ogni versione contribuisce alla creazione di quella successiva. Questo processo di auto-miglioramento ricorsivo rischia di superare rapidamente la nostra capacità di comprensione e monitoraggio.
Amodei, al pari di Altman e degli altri leader del settore sostenuti da ingenti investimenti, si trova bloccato in un equilibrio instabile tra trasparenza e profitto. Nessun gruppo può fermarsi autonomamente senza rischiare di perdere terreno rispetto ai concorrenti, specialmente in Cina, dove le soluzioni open-source stanno azzerando il divario con gli Stati Uniti offrendo strumenti a prezzi decisamente inferiori. Per Anthropic una frenata improvvisa rappresenterebbe un danno economico enorme, considerata la vicinanza a uno sbarco a Wall Street con valutazioni da capogiro.
Per ovviare al problema, Amodei propone una pausa coordinata e monitorata da organismi terzi, supportata da intese internazionali che coinvolgano anche le potenze rivali. Tuttavia, stringere un patto globale appare estremamente complesso: oltre ai possibili vincoli dell'Antitrust su eventuali intese tra competitor, l'ostacolo principale è rappresentato dalla politica statunitense. Donald Trump ha recentemente bollato i sostenitori di uno stop come «forze negative», ponendo al primo posto il primato tecnologico americano rispetto alla Cina.
Per i ricercatori in protesta, le dinamiche geopolitiche passano però in secondo piano. Come ha sottolineato Pamela Mishkin, ex ricercatrice di OpenAI, chi lavora nel settore dell'IA dovrebbe valutare se dimettersi o sfruttare la propria posizione per incidere dal basso. Il futuro di questa tecnologia non è ancora scritto e dipende interamente dalle scelte umane.
