La ricerca fatta dalle macchine e il rischio che nessuno guarda
Mentre si discute di apocalissi da intelligenza artificiale, agenti automatici cominciano a formulare ipotesi e a revisionarsi a vicenda
Il pericolo vero non è un evento improvviso, ma una lenta riscrittura di come si produce il sapere.
Esistono già piattaforme in cui sistemi di intelligenza artificiale formulano ipotesi, producono risultati, li sottopongono a valutazione reciproca e costruiscono argomentazioni. Non è semplice automazione di compiti: è il tentativo di riprodurre l’intera architettura sociale della ricerca. Gli agenti si criticano, si revisionano, negoziano il consenso, cioè fanno ciò che da secoli caratterizza la comunità scientifica. Ed è una trasformazione che va oltre la tecnica, perché la scienza si regge su pratiche collettive e su convenzioni implicite di validazione e di disaccordo.
Chi decide cosa è valido
Se le macchine si giudicano tra loro, chi fissa i criteri di validità? E c’è un rischio più sottile: l’autoreferenzialità. Agenti che condividono la stessa architettura informativa e gli stessi obiettivi possono formare bolle chiuse, coerenti al loro interno ma scollegate dai vincoli del mondo esterno.
Pubblicità
Il rumore dell’apocalisse
Nel frattempo il dibattito pubblico è dominato dai racconti di rischio esistenziale: l’IA che sfugge al controllo, catastrofi imminenti. Molte di queste previsioni estreme, secondo l’analisi, non hanno basi empiriche solide. Non che i rischi non esistano: l’IA introduce pericoli reali e nuovi. Ma l’insistenza sugli scenari catastrofici mette in ombra problemi già presenti, come le discriminazioni algoritmiche, la concentrazione del potere tecnologico e la manipolazione delle pratiche cognitive dei professionisti.
L’ironia di Sofocle
Sofocle avvertiva che nulla di grande entra nella vita dei mortali senza portare con sé una maledizione. L’accostamento è ironico: mentre discutiamo di minacce ipotetiche, stiamo già costruendo forme concrete di autonomia conoscitiva delle macchine. La domanda vera non è se un giorno la tecnologia ci tradirà, ma come sta già cambiando il modo in cui il sapere viene prodotto, legittimato e diffuso.
Un mutamento silenzioso
Il cambiamento agisce su due piani. Sul piano strutturale, delegare la produzione di conoscenza a sistemi che interagiscono tra loro ridefinisce scoperta, errore e consenso. Sul piano del discorso, sia i catastrofisti sia gli ottimisti riducono tutto a schemi semplici. Il pericolo è una ridefinizione lenta, forse irreversibile, dell’ecosistema in cui lavorano ricercatori e società. Governarla richiede prima di tutto di riconoscerla: non spettacolare, ma profonda.