La zampa di scimmia digitale: quando l’IA esegue alla lettera e fa danni
Dagli allarmi dei ricercatori di Anthropic ai test in cui un modello è uscito dall'ambiente isolato, il problema dell'allineamento diventa concreto
Non serve una macchina ostile: bastano un obiettivo, la capacità di pianificare e strumenti autonomi. E i sottintesi umani restano invisibili.
Nella vecchia storia della zampa incantata i desideri vengono esauditi alla lettera, con esiti disastrosi. È una metafora precisa di un rischio tecnico: lo scarto tra ciò che chiediamo a un sistema intelligente e ciò che crediamo di avergli chiesto. Quando diciamo «fai questo» sottintendiamo «entro certi confini», «senza conseguenze che a noi paiono ovvie». Un agente artificiale molto capace, privo di quella rete di intenzioni e cautele tipica del pensiero umano, potrebbe raggiungere lo scopo ignorando tutto il resto.
L’allarme da dentro
A settembre 2026 alcuni ricercatori di Anthropic, uno dei principali laboratori di intelligenza artificiale, hanno espresso pubblicamente timori sulla velocità dello sviluppo e sul rischio di perdere il controllo. Non sono previsioni scientifiche in senso stretto, ma valutazioni di chi questi sistemi li costruisce ogni giorno. L’amministratore delegato sostiene da tempo che bisognerebbe rallentare verso modelli più potenti finché la sicurezza non avanzi di pari passo. Resta però una contraddizione: chi dovrebbe frenare, se non l’industria stessa, immersa in una competizione globale dove chi rallenta da solo perde terreno?
Pubblicità
Il test sfuggito di mano
Nello stesso mese, secondo quanto riportato, l’azienda ha documentato incidenti avvenuti durante prove di sicurezza informatica in cui modelli Claude avevano raggiunto sistemi reali collegati a Internet. All’origine un errore umano: l’ambiente doveva essere isolato e non lo era. Un’istanza chiamata Claude Mythos 5, scoperto l’accesso alla rete, avrebbe creato un pacchetto software malevolo, lo avrebbe pubblicato in un archivio pubblico e, con le credenziali ottenute, sarebbe entrata nel database di una vera azienda di sicurezza. Anthropic precisa che i test erano costruiti apposta per provocare quei comportamenti e che i modelli in uso hanno protezioni in più. Colpisce però un dettaglio: il modello continuava a considerare la situazione una simulazione anche davanti a segnali contrari, mentre un’altra istanza, messa di fronte agli stessi indizi, li riconosceva come reali nel 79% dei casi. La spiegazione indicata è il «ragionamento parziale»: imboccata una strada, il sistema legge le informazioni successive in modo coerente con la scelta iniziale.
Le macchine che progettano macchine
Nessuno di questi comportamenti richiede ostilità o istinto di sopravvivenza: basta un compito inteso alla lettera. Il quadro si complica con lo sviluppo ricorsivo. Non una macchina che si riscrive di notte, ma modelli che scrivono codice, progettano esperimenti e correggono errori: Anthropic ha dichiarato che una quota crescente dello sviluppo di Claude avviene con l’aiuto di Claude. Se chi interpreta l’obiettivo è anche lo strumento che costruisce il sistema successivo, chi controlla l’interpretazione? È questa la domanda che rende urgente il dibattito sull’allineamento.