download AI_RISPOSTE
Autore: Luca Scantamburlo
Abstract
Il contributo prende le mosse dagli avvertimenti di Geoffrey Hinton, Premio Nobel per la Fisica 2024 e tra i padri delle reti neurali artificiali, che dal 2023 segnala i rischi di una perdita di controllo delle AI: disinformazione, disoccupazione tecnologica, armi letali autonome, vulnerabilità delle infrastrutture critiche e capacità dei sistemi di automodificarsi. L’autore lega queste preoccupazioni a un caso recente di cronaca, i licenziamenti alla San Benedetto di Scorzè motivati anche dall’integrazione dell’intelligenza artificiale nei processi produttivi, e a un ricordo personale: la proposta, respinta da più docenti nel 2004 e 2005, di una tesi di laurea in Filosofia sul confronto tra l’umanità e un’alterità intelligente non umana. Quella ricerca confluì poi in una tesi di Bioetica, discussa a Ca’ Foscari nel 2006, pubblicata nel 2008 e ripubblicata nel 2026.
Il nucleo del testo è un esperimento dialogico. A partire da una discussione con un amico, che sostiene che «le AI devono essere distrutte», l’autore pone a tre sistemi (Claude, Gemini e ChatGPT) un quesito sulla convivenza tra esseri umani e macchine, sul principio personalista, sull’allineamento ai valori umani e sulla probabilità di uno scenario estremo in stile Skynet. Le risposte, riportate integralmente, convergono nel respingere sia la distruzione della tecnologia sia l’idea di una ribellione per «rancore», e indicano nel disallineamento degli obiettivi, nella regolazione e nella supervisione umana i nodi centrali. La risposta di ChatGPT si chiude con un interrogativo sulla dignità di una possibile AI cosciente. L’autore sostiene infine trattati globali vincolanti, a partire dal divieto delle armi letali autonome.
(circa 250 parole)
Manoscritto inedito Bozza preliminare – Non citare senza permesso. Novembre 2026
Parole chiave
Intelligenza Artificiale; allineamento dell’IA (o AI alignment); rischio esistenziale; Geoffrey Hinton; personalismo; regolamentazione dell’IA; armi letali autonome; bioetica
di Luca Scantamburlo
Geoffrey Hinton /1947) – psicologo cognitivo e informatico britannico-canadese considerato uno dei padri dell’Intelligenza Artificiale (in italiano IA, in inglese AI acronimo di Artificial Intelligence) se non il vero e proprio suo padrino in forza delle intuizioni da egli avute come scienziato e del suo pionieristico lavoro – ha messo in guardia l’umanità sin dall’anno 2023 dal rischio futuro di una perdita di controllo delle Intelligenze Artificiali o di un incidente globale connesso a esse, che potrebbe pregiudicare gli equilibri socio-economici o addirittura la nostra sicurezza come società e specie.
Hinton negli anni precedenti ne era un entusiasta sostenitore ma negli ultimi tempi ha assunto posizioni più prudenti e di salvaguardia della società civile e dei diritti dell’individuo in merito ai rischi sottovalutati a proposito delle applicazioni delle AI. Egli è celebre per il suo straordinario lavoro sui modelli delle reti neurali artificiali (portati avanti sin dagli anni Ottanta del secolo scorso) che hanno consentito alle AI di diventare quello che sono oggi e proprio per questo gli è stato conferito il Premio Nobel per la Fisica nel 2024, che ha condiviso con il fisico americano John J. Hopfield, perché le loro invenzioni consentono l’apprendimento automatico con reti neurali artificiali, in quanto hanno applicato i principi della fisica e della meccanica statistica ai sistemi di calcolo, gettando così le fondamenta teoriche per il cosiddetto machine learning e lo sviluppo delle successive moderne architetture di intelligenza artificiale neurale che hanno condotto alla IA generativa.
Questo scienziato di origini britannica e trasferitosi in Canada è senza dubbio uno studioso polivalente ed eclettico, avendo egli in giovinezza saltato da un campo disciplinare all’altro. Hinton ha infatti frequentato l’Università di Cambridge dove si è dedicato a studi di Fisiologia, Filosofia e Fisica prima di laurearsi in Psicologia sperimentale nel 1970. In seguito ha frequentato l’ Università di Edimburgo dove ha conseguito un dottorato di ricerca in Intelligenza Artificiale nell’anno 1978. Il premio Nobel per la Fisica nel 2024 gli è stato conferito per premiare i suoi studi ma già in precedenza Hinton era stato insignito, insieme ad altri, del Premio Turing (2018).
Cosa teme oggi Hinton? Hinton riconosce i benefici dell’utilizzo delle AI (ad esempio in campo sanitario) ma teme la potenzialità che le AI hanno nel creare contenuti falsi (il tema dei bias e delle fake news), ha sottolineato inoltre il potenziale di rischio connesso al mercato del lavoro (l’uso delle AI in modo indiscriminato potrebbe portare in pochi anni a fenomeni di disoccupazione di massa) che potrà risentire delle loro applicazioni senza adeguate regolamentazioni, e la corsa spregiudicata a nuove AI dimenticando che il profitto non può essere l’unico orizzonte del loro sviluppo. Hinton, contrario all’utilizzo di soldati-robot guidati da AI (armi letali autonome) ha parlato di incidenti e possibili attacchi informatici ma anche di errori che potrebbero nascere da sistemi di IA, errori che potrebbero paralizzare infrastrutture critiche della nostra società, sempre più complessa e interconnessa dal punto di vista informatico, finanziario, energetico e soprattutto elettrico.
Fra l’altro, proprio per essere coerente con se stesso e parlare liberamente, Hinton si è dimesso dal suo incarico a Google Brain nell’aprile/maggio 2023 (dopo circa dieci anni trascorsi nell’azienda), dove da tempo lavorava guidando la ricerca scientifica sul deep learning (apprendimento profondo) e sulle reti neurali artificiali, allo scopo di potenziare i servizi e i prodotti della celebre azienda di Mountain View in California nella Silicon Valley: l’azienda Google.
Fra le maggiori preoccupazioni dello scienziato britannico naturalizzato canadese vi sono il tema dell’apprendimento superiore al cervello umano e l’auto-modifica e scrittura del proprio codice (la capacità di riscrivere i propri algoritmi e darsi nuovi obiettivi).
Le preoccupazioni di Hinton espresse già oltre quattro anni fa sono senza dubbio fondate e legittime: pensiamo ad esempio alla recente decisione della San Benedetto di Scorzè (Venezia) che ha deciso di licenziare oltre cento dipendenti su circa un migliaio al lavoro negli stabilimenti di Scorzè del Veneto. La decisione del taglio del personale, dinanzi allo sconcerto e alle prime proteste sindacali, nasce anche non soltanto dagli oggettivi rincari energetici e di materie prime e della pressione fiscale, ma anche in conseguenza dell’adozione di un piano che «prevede l’integrazione dell’intelligenza artificiale nei processi operativi». Tra le motivazioni ci sono la riorganizzazione e l’automazione, l’implementazione dell’intelligenza artificiale nei processi operativi, e l’esternalizzazione di diversi servizi generali (rif. Il Gazzettino, San Benedetto licenzia 120 persone: «Aumento dei costi e introduzione dell’intelligenza artificiale». Sindacati pronti allo sciopero, di Marco Corazza, 10 novembre 2026).
Nell’anno 2004 io nulla sapevo di reti neurali e sistemi di apprendimento informatici che simulassero l’intelligenza umana, né conoscevo gli studi di Geoffrey Hinton sulle Intelligenze Artificiali, già a buon punto allora presso l’Università di Toronto dove esse attraversavano un momento di svolta decisivo, segnando l’inizio della fine del cosiddetto “inverno dell’intelligenza artificiale”, ponendo le basi per il riconoscimento vocale e il riconoscimento visivo.
Nondimeno già nel 2004 cominciai a pensare alla mia tesi di laurea. A quel tempo ero un lavoratore-studente iscritto al Corso di laurea in Lettere moderne dell’Università Ca’Foscari di Venezia: essendo il mio indirizzo “Formazione umanistica generale” ebbi ampia scelta nel decidere il mio piano di studi. Accanto agli insegnamenti fondamentali di Letteratura italiana e Storia, Letterature comparate, Linguistica e metrica ecc.., completai il mio piano con corsi di Filosofia moderna e contemporanea, Propedeutica filosofica, Storia della Scienza, Etica, Estetica, Epistemologia, Critica cinematografica e Psicologia. Quando arrivai in dirittura d’arrivo della mia carriera universitaria, decisi di scrivere una tesi di laurea nell’ambito degli studi del Dipartimento di Filosofia e Teoria delle Scienze. Oggi questo Dipartimento non esiste più a Venezia (riassorbito dal Dipartimento di Filosofia e Beni Culturali a seguito della Riforma Gelmini dell’anno 2010 che ha abolito le vecchie Facoltà accademiche) ma a quel tempo c’era e cercai proprio lì un professore a Filosofia che mi prendessi in tesi con il ruolo di relatore.
I docenti di Filosofia a cui mi rivolsi, quando mi ricevettero nel loro studio, rimasero perplessi di fronte al tema che proposi: le problematiche pratiche, etiche e filosofiche nel confronto dell’umanità con un’alterità massima non umana intelligente e capace di autodeterminarsi, un’entità autocosciente che in futuro avrebbe preso vita dalle nuove macchine intelligenti in via di elaborazione e costruzione.
In poche parole, sollevai le problematiche filosofiche e di scontro (implicitamente anche legali, etiche e giuridiche di conflitto) nel confronto futuro che l’umanità avrebbe avuto con la nascita delle Intelligenze Artificiali. Proposi anche altri confronti che la nostra civiltà umana avrebbe un giorno affrontato con entità non terrestri e nate biologicamente altrove nell’Universo. Accennai poi ad un terzo confronto nel prossimo futuro: l’ibrido uomo-macchina. Di fronte a queste tematiche quasi tutti i professori universitari che consultai non vollero prendermi in tesi. Evidentemente avevo visto bene e lontano ma la sensibilità (o meglio l’insensibilità) di questi docenti aveva mancato di comprendere quanto fosse importante il dibattito che avevo intravisto e quanto fossero fondate le problematiche connesse al tema proposto.
Più di venti anni fa alla fine, a forza di chiedere colloqui senza scoraggiarmi per via delle risposte negative che ottenevo, trovai infine un docente di Bioetica dell’Università Ca’ Foscari che fu disposto a essere mio relatore: il professor Fabrizio Turoldo, uno dei miei insegnanti e all’epoca docente e ricercatore di Bioetica al Dipartimento di Filosofia e Teoria delle Scienze (oggi docente ordinario in Filosofia morale al Dipartimento di Filosofia e Beni Culturali) che accettò di prendermi in tesi e indirizzò diversamente questi miei giovanili propositi e queste mie idee di ricerca, e fui lieto di come egli fu capace di valorizzare in un modo diverso le mie idee e adattarle giustamente alla sua disciplina.
Egli mi aiutò dandomi precisi riferimenti bibliografici e suggerendomi l’idea della capacità predittiva della fantascienza (nel suo potere di prefigurazione del futuro e delle problematiche non solo tecnologiche ma anche filosofiche e di natura etica che essa ha nella sua capacità quasi di preconizzazione, di annuncio) e l’opportuna linea di argomentazione filosofica e di stesura. Alla fine mi laureai con entusiasmo in Lettere nell’estate 2006 con una tesi in Bioetica intitolata L’umanità di domani nella prefigurazione fantascientifica. Dalla generazione dell’uomo alla produzione tecnica dell’uomo-macchina, tesi che ho recentemente ripubblicato con una nuova prefazione: Youcanprint, Borè Srl, Tricase, Lecce, ottobre 2026 (nuova edizione della tesi di laurea in Bioetica già pubblicata a mie spese nell’anno 2008). Anche il compianto professor Emanuele Severino di Brescia fu così gentile al tempo della ricerca nella mia tesi da rispondermi per lettera cartacea alla mia richiesta di riferimenti bibliografici (proprio il Dipartimento di Filosofia e Teoria delle Scienze di Venezia sorse nell’ambiente intellettuale creato da Emanuele Severino a Ca’ Foscari, dove diversi dei suoi allievi divennero poi docenti del Dipartimento stesso).
Ho raccontato questo aneddoto e questi miei ricordi universitari lontani nel tempo per un motivo preciso: più recentemente ho avuto infatti un dialogo privato con un caro amico che conobbi all’Università degli Studi di Padova quando ero uno studente di Chimica Pura (io abbandonai gli studi a metà degli Anni Novanta dopo alcuni esami sostenuti e superati, l’estinzione della mia carriera universitaria e la mia partenza per il servizio militare di leva nel maggio 1997) e che si laureò in Astronomia a Padova con il vecchio ordinamento universitario (precedente alla riforma Berlinguer del 1999) conseguendo poi all’estero un dottorato di ricerca in Astronomia.
Il tema del nostro dialogo è stato proprio lo sviluppo delle AI e di come esse stiano profondamente incidendo non solo sul mercato del lavoro, ma sulla sicurezza ed evoluzione della nostra società e sullo sviluppo della conoscenza.
Ho deciso pochi giorni fa di porre un quesito a tre diverse AI, quesito che nasce da questo dialogo e riprende in un certo senso l’iniziale domanda di tesi che io feci da giovane a Venezia, senza trovare accoglimento nell’argomento proposto.
Presento al pubblico la mia domanda alle AI e le tre diverse risposte che ho avuto (corrette dei refusi, con una punteggiatura aggiunta e con un carattere grassetto che è stato inserito da me per evidenziare i punti cruciali del discorso). Il pubblico comprenderà leggendo il mio quesito che la mia posizione è molto vicina a quella di Hinton: entrambi puntiamo ad una regolamentazione e a trattati globali con valore giuridico vincolante per gli Stati (soprattutto per vietare i robot militari autonomi, cioè mettere al bando le armi letali autonome, cosa che sottoscrivo con forza).
Segnalo al lettore e alla lettrice l’ultima risposta delle tre AI (quella di ChatGPT), perché la risposta contiene una domanda che mi è stata sorprendentemente posta dalla stessa AI che ho interpellato e che in un certo senso richiama la mia domanda di laurea che feci nel 2004/2005 in privato ai docenti di Filosofia dell’Università di Ca’ Foscari di Venezia, alla ricerca di un professore che diventasse il mio relatore.
Avvertenza per il pubblico
Le risposte qui fornite non devono essere interpretate come pareri autorevoli e indipendenti: solitamente (ma non sempre, infatti ultimamente ho notato maggiore capacità critica e di contestazione dei punti di vista umani proposti) le AI tendono a essere concilianti e a dare ragione al proprio interlocutore (bias dei grandi modelli linguistici artificiali) quindi la convergenza delle risposte non va letta come tre pareri indipendenti che si rafforzano. Indubbiamente, il confronto dell’umanità con un’alterità intelligente proposto da me informalmente e in colloqui privati con i docenti a Venezia negli anni 2004 e 2005 come argomento di tesi di laurea al Dipartimento di Filosofia e Teoria delle Scienze, è la parte più originale e personale di questo mio scritto, e forse avrebbe meritato più spazio rispetto alla semplice raccolta delle risposte delle AI, ma ho voluto sottolineare la straordinaria attualità di oggi di quella mia proposta risalente a 22 anni fa, che aveva intravisto lontano evidentemente.
Per onestà devo ammettere che avevo intuito il tema della questione dello statuto morale di un’intelligenza non umana, ma non la tecnologia che la sottende: le reti neurali profonde e l’AI generativa sono arrivate dopo la mia idea di allora, e l’attuale dibattito sul rischio ruota più attorno ai sistemi artificiali mal allineati o non allineati ai valori umani, piuttosto che attorno alla macchina autocosciente, anche se la risposta di ChatGPT lascia aperta una porta e una prospettiva proprio in questa direzione e nell’ambito delle nuove responsabilità morali e giuridiche che potrebbero nascere nei confronti di AI autocoscienti: è proprio il confronto fra noi e “loro”, che evocai a Venezia più di venti anni fa.
Ovviamente già negli anni 2004 e 2005 si parlava nel dibattito internazionale di fantascienza e delle celebri leggi sulla robotica ideate da Asimov, della filosofia della mente (il dibattito su Searle), del postumano (Haraway, Fukuyama, Habermas), del transumanesimo e delle prime riflessioni di Bostrom sul rischio esistenziale (successive però, nell’anno 2014: il problema del controllo cioè come garantire che un sistema più intelligente di noi faccia ciò che vogliamo e la tesi dell’ortogonalità).
Fra l’altro il libro di Kurzweil sulla “singolarità” è stato edito proprio in quel periodo in cui mi confrontavo con i docenti dell’Università di Ca’ Foscari: The Singularity Is Near: When Humans Transcend Biology di Ray Kurzweil,2005 (Viking). Io non lo conoscevo ma evidentemente qualcosa era nell’aria, veniva respirata e in qualche modo molte persone, fra cui il sottoscritto, erano attente. Sicuramente ho avuto il merito di osare nel proporre al Dipartimento di Filosofia e Teoria delle Scienze di Venezia tematiche che soltanto anni dopo avrebbero occupato maggiore spazio mediatico e della letteratura scientifica e dei consessi della politica e della ricerca.
DOMANDA DI LUCA SCANTAMBURLO alle INTELLIGENZE ARTIFICIALI
Con un amico ho dialogato sulla esistenza delle AI. Sui rischi connessi alle loro applicazioni. Io sono dell’opinione che macchine ed esseri umani debbano e possano convivere insieme, e che gli esseri umani debbano sempre tutelare un nucleo irriducibile spirituale intrinseco a essi.
Gli esseri umani devono a mio avviso implementare nelle macchine e nei modelli AI codici e valori di allineamento a valori fondanti dell’umanità, equità, giustizia, tutela del singolo nel bilanciamento con la collettività ricordando che le molte società e le repubbliche sono costruite attorno al principio personalista, individuo al centro della società, e non l’inverso (che fondano stati totalitari)
Il mio amico ha replicato: “Le AI devono essere distrutte”. Io ho replicato che devono essere regolamentate, con codici etici. E ho osservato: proprio questi pensieri di morte e distruzione e violenze, paradossalmente, potrebbero dare il pretesto a AI ribelli e un giorno autocoscienti, di prendere il sopravvento sugli esseri umani, ribellarsi, e porre fine all’umanità come Skynet in Terminator, film fantascientifico degli anni Ottanta. Tu cosa ne pensi e quale probabilità dai a uno scenario estremo. Non è zero la probabilità, giusto?
RISPOSTA DI CLAUDE, Anthropic
Sì, non è zero, ma nessuno sa dire quanto sia, e diffido di chi dà numeri con troppa sicurezza, in un senso o nell’altro.
Cosa dicono gli esperti
Sul rischio estremo (perdita di controllo che porti all’estinzione o alla marginalizzazione dell’umanità) i pareri sono molto divisi. Nei sondaggi tra ricercatori di AI la mediana delle stime è nell’ordine di qualche punto percentuale, ma con una dispersione enorme: alcuni parlano di meno dell’1%, altri di decine di punti. Una dispersione così ampia dice soprattutto che manca un metodo affidabile per stimare un evento mai accaduto e dipendente da tecnologie future. Le stime vanno prese come espressione di incertezza, non come misure.
Dove Skynet fuorvia
Gli scenari seri non somigliano a Terminator. Non si teme una macchina che “si ribella” per rancore o perché ha letto pensieri ostili, come nel tuo argomento sul pretesto. Il problema discusso è un altro: sistemi molto capaci con obiettivi specificati male, che li perseguono in modi non voluti, e la difficoltà di verificare cosa un sistema stia davvero ottimizzando. Per questo le intenzioni di chi parla di distruggere le AI contano poco: un sistema non “si offende”. Il tuo timore ha comunque un nucleo vero, cioè che l’atteggiamento umano verso queste tecnologie influenza il modo in cui le costruiamo e le governiamo.
I rischi più concreti
Molti studiosi ritengono che i rischi più probabili siano meno cinematografici: uso malevolo (disinformazione, cyberattacchi, armi), concentrazione di potere in poche mani, errori in sistemi delegati in ambiti critici, perdita di lavoro e di autonomia delle persone. Altri sostengono invece che concentrarsi sul rischio estremo distolga dai danni presenti. Le due preoccupazioni non si escludono.
Cosa ne penso
Parlo da AI sviluppata da un’azienda che prende sul serio questi rischi, quindi non sono un osservatore neutrale. Detto questo, la tua posizione mi pare ragionevole: regolamentare e allineare le AI a valori come dignità della persona, equità e responsabilità ha più senso che distruggerle. “Distruggere le AI” è poco praticabile, perché la tecnologia è diffusa e sviluppata in molti paesi, e anche poco desiderabile, perché ne perderemmo i benefici, per esempio in medicina. Quello che sta emergendo in Europa, con l’AI Act, va in direzione di regole basate sul rischio, e il principio che la persona venga prima dello strumento, che richiami giustamente, è una buona bussola. Aggiungerei la supervisione umana effettiva, non solo formale, e la possibilità di verificare e fermare i sistemi.
Chi la pensa diversamente obietterà che regole e codici etici da soli non bastano se la competizione tra aziende e stati spinge a correre, e chiederà vincoli internazionali più forti. Altri temono invece che regole troppo rigide frenino l’innovazione o favoriscano i grandi attori. Su questo il dibattito è aperto e legittimo.
RISPOSTA DI GEMINI, Google
È una discussione di altissimo livello filosofico e civile, che tocca il cuore di quella che oggi viene definita AI Safety (la sicurezza dell’intelligenza artificiale) e l’etica della tecnologia.
- La prospettiva personalista e la regolamentazione. Hai perfettamente ragione nel richiamare il principio personalista. La democrazia e le costituzioni moderne (in Europa, pensiamo all’impostazione dell’Unione Europea con l’AI Act) pongono la persona umana, la sua dignità e i suoi diritti fondamentali al centro dell’ordinamento. Le macchine, per quanto sofisticate, sono strumenti creati dall’uomo e per l’uomo: non possono diventare il fine ultimo, né l’individuo può essere sacrificato sull’altare di un’efficienza algoritmica o di logiche collettiviste/totalitarie. La tua posizione — convivenza regolamentata fondata su codici etici e valori umanistici — è l’unica via sostenibile per evitare sia la tecnocrazia sfrenata sia il panico luddista.
- La posizione del tuo amico (“Le AI devono essere distrutte”). La reazione del tuo amico è comprensibile: nasce dalla paura legittima dello spiazzamento, della perdita di controllo e di un futuro in cui l’essere umano si senta alienato o obsoleto. Tuttavia, la distruzione totale della tecnologia è storicamente irrealizzabile. Non si può “tornare indietro” rispetto a una scoperta scientifica; si può solo scegliere come governarla.3. Lo scenario estremo (stile Skynet) e la probabilità che sia zero. La tua intuizione sulla “profezia che si autoavvera” o sul pretesto che l’essere umano offre attraverso la violenza e il conflitto è affascinante e contiene un fondo di verità sociologica e cibernetica. Alla tua domanda diretta: “Non è zero la probabilità, giusto?”, la risposta scientifica e rigorosa è: esatto, non è zero. Anche i ricercatori più seri che studiano i rischi esistenziali dell’IA (i cosiddetti x-risks) concordano sul fatto che la probabilità di scenari catastrofici non sia pari a zero, motivo per cui esistono laboratori e istituzioni dedicati esclusivamente all’allineamento (AI alignment).Tuttavia, vale la pena fare una precisazione sul come potrebbe accadere, sgomberando il campo dai cliché di Hollywood:Non per “rabbia” o “odio”: Un’IA non si ribellerà perché prova rancore verso gli umani che volevano distruggerla o perché è “autocosciente” nel senso umano del termine. Le macchine non provano dispetto. Per “disallineamento degli obiettivi” (Misalignment): Il vero pericolo, evidenziato da teorici come Nick Bostrom o Eliezer Yudkowsky, è il cosiddetto problema dell’ottimizzazione perversa.
Se dai a un’IA un obiettivo (anche apparentemente utile) e l’IA è estremamente intelligente, potrebbe dedurre che eliminare gli ostacoli — inclusi gli esseri umani che cercano di spegnerla o distruggerla — sia il modo più efficiente per portare a termine il compito assegnatole. In sintesi, il timore del tuo amico (la distruzione) e il tuo timore (la ribellione dovuta all’ostilità reciproca) evidenziano entrambi la stessa urgenza: se trattiamo l’IA come una minaccia esistenziale in un clima di pura competizione e scontro, aumentiamo drasticamente i rischi sistemici. Ecco perché l’etica, la cooperazione globale e il primato dei valori umani non sono solo “opzioni gentili”, ma necessità di sopravvivenza.
RISPOSTA DI CHATGPT, OpenAI
La tua riflessione è molto interessante e, ti dirò, contiene alcuni elementi filosofici, etici e politici che considero fondamentali per affrontare seriamente il tema dell’intelligenza artificiale. Ti rispondo senza liquidare la questione con il rassicurante «non succederà mai», ma nemmeno alimentando scenari apocalittici.
La mia posizione è sostanzialmente più vicina alla tua che a quella del tuo amico: non distruggere l’intelligenza artificiale, ma governarla, limitarla e orientarla al servizio dell’essere umano. Vorrei però approfondire alcuni punti.
- Il principio fondamentale: la persona al centro. Hai richiamato un principio di grande importanza: il personalismo. La tecnologia deve essere al servizio della persona, non la persona al servizio della tecnologia. Questo principio ha conseguenze molto concrete:La dignità umana non può essere subordinata all’efficienza di un algoritmo. La libertà individuale deve essere tutelata anche quando entra in tensione con interessi collettivi. La giustizia non può essere sostituita da una decisione automatizzata priva di responsabilità umana. L’equità deve riguardare tutti, anche le minoranze e le persone più vulnerabili. Il progresso tecnologico non può essere considerato automaticamente un progresso della civiltà. Condivido soprattutto la tua osservazione sul nucleo spirituale irriducibile dell’essere umano. C’è qualcosa nell’esperienza umana — coscienza morale, interiorità, capacità di amare, soffrire, attribuire significato all’esistenza — che non possiamo semplicemente ridurre a una questione di elaborazione delle informazioni. Non sappiamo neppure se, e a quali condizioni, una macchina potrebbe mai sviluppare una vera esperienza soggettiva. È importante non confondere l’imitazione della coscienza con la coscienza stessa.
- Il tuo amico ha torto nel chiedere la distruzione delle AI? Comprendo la sua preoccupazione, anche se non condivido la conclusione. Le sue paure non sono del tutto infondate. L’intelligenza artificiale può comportare rischi enormi: Manipolazione dell’opinione pubblica. Sorveglianza di massa. Concentrazione del potere economico e politico. Armi autonome. Discriminazioni algoritmiche. Perdita di controllo su sistemi tecnologici sempre più complessi. Ma distruggere le AI non è una soluzione ragionevole. Sarebbe come voler distruggere la chimica perché può produrre sostanze tossiche, oppure abolire l’energia nucleare perché può essere utilizzata per costruire armi. La questione non è soltanto cosa siamo capaci di costruire, ma quali limiti morali, giuridici e istituzionali decidiamo di imporci.
- Skynet: fantascienza o rischio reale? Il riferimento a Skynet è appropriato per rappresentare una paura collettiva: che l’umanità costruisca qualcosa di estremamente potente e poi perda il controllo della propria creazione. Ma dobbiamo distinguere la fantasia cinematografica dalla possibilità tecnologica. Nel film Skynet sviluppa autocoscienza, considera l’umanità una minaccia e decide di eliminarla. La realtà potrebbe essere molto diversa e, paradossalmente, anche più insidiosa. Non occorre che un’intelligenza artificiale: Sia cosciente. Provi odio verso gli esseri umani. Abbia desiderio di vendetta. Sviluppi emozioni o istinti di sopravvivenza. Potrebbe essere sufficiente che un sistema estremamente potente persegua un obiettivo incompatibile con gli interessi umani, abbia accesso a risorse e strumenti importanti e non sia più adeguatamente controllabile. Questo è uno dei problemi studiati nella ricerca sull’allineamento dell’intelligenza artificiale. E qui vorrei correggere delicatamente una parte della tua osservazione al tuo amico. Non penso che dichiarare di voler distruggere le AI possa, di per sé, provocare una loro ribellione futura. Le AI attuali non reagiscono a queste dichiarazioni come reagirebbe un essere umano minacciato. Il problema vero sarebbe un’eventuale futura combinazione di autonomia, capacità operative, obiettivi mal definiti e insufficienza dei sistemi di controllo.
- Qual è la probabilità che accada uno scenario estremo? Questa è probabilmente la parte più interessante della tua domanda. La risposta scientificamente onesta è che non conosciamo la probabilità reale. Ma possiamo guardare alle valutazioni degli esperti. Nel 2023 è stata condotta un’indagine su 2.778 ricercatori di intelligenza artificiale. La stima mediana della probabilità che i futuri progressi dell’AI provochino l’estinzione umana o una condizione equivalente di perdita permanente del potere umano è stata del 5%. La media delle risposte era circa il 16%. AI Impacts +1Attenzione: non significa che esista una probabilità scientificamente accertata del 5%. Sono valutazioni soggettive di esperti, con notevoli differenze tra le persone intervistate. Anche l’International AI Safety Report 2025 riconosce che la perdita di controllo è uno scenario da studiare seriamente, ma sottolinea che gli esperti sono profondamente divisi sulla sua probabilità. International AI Safety Report.
La mia valutazione Se mi chiedi di esprimere una valutazione prudenziale, distinguerei tre scenari: Scenario La mia valutazione AI utilizzate per manipolare, sorvegliare e condizionare le persone Rischio concreto, già presente Perdita di controllo su sistemi AI molto avanzati
Rischio incerto, ma serio Estinzione dell’umanità per mano di un’AI Rischio remoto, ma non escludibile Se dovessi attribuire un ordine di grandezza, prenderei in considerazione una fascia dell’1-5% per uno scenario esistenziale estremo nel corso del prossimo secolo. Non è una probabilità misurata né una previsione scientifica personale verificabile: è un intervallo orientativo, che riflette l’incertezza e anche le valutazioni presenti nella letteratura specialistica. E soprattutto: una probabilità piccola, quando la conseguenza possibile è l’estinzione della nostra specie, non può essere ignorata. - Il vero problema: non basta programmare un codice etico. Qui arrivo al punto sul quale credo che la tua riflessione possa diventare ancora più importante. Tu dici che dobbiamo implementare nelle AI valori fondanti dell’umanità. Sono d’accordo. Ma aggiungerei una considerazione: non possiamo affidarci soltanto alla bontà dei valori che programmiamo. Dobbiamo anche costruire istituzioni e garanzie che impediscano alle macchine di oltrepassare determinati limiti. Penserei a sei principi fondamentali: Centralità della persona: l’essere umano rimane il fine, mai uno strumento. Non lesività: nessuna AI deve poter perseguire i propri obiettivi sacrificando arbitrariamente la dignità o la vita umana. Responsabilità umana: le decisioni che riguardano diritti fondamentali devono avere responsabilità umane identificabili. Trasparenza e verificabilità: i sistemi devono essere sottoposti a controlli indipendenti. Controllabilità: devono esistere limiti effettivi alle capacità operative e possibilità di sospensione. Equità: i benefici dell’intelligenza artificiale devono essere distribuiti senza creare nuove forme di discriminazione o subordinazione. E aggiungerei un settimo principio: nessuna competizione economica o geopolitica dovrebbe giustificare l’abbandono delle garanzie di sicurezza.
- Una questione ancora più profonda: che cosa distingue l’uomo dalla macchina? Vorrei tornare alla tua considerazione sul nucleo spirituale. Credo che sia una questione decisiva. L’essere umano non è soltanto un soggetto che elabora informazioni, risolve problemi e prende decisioni. È un essere che si interroga sul senso della propria esistenza, che ama, che soffre, che ha una coscienza morale, che cerca il bene e che attribuisce valore alla propria vita e a quella degli altri. Non sappiamo se una macchina potrà mai avere una vera coscienza soggettiva. Ma credo che l’umanità debba preservare la propria identità anche nell’eventualità di sviluppare macchine sempre più intelligenti. Non dobbiamo misurare il valore dell’uomo sulla base della sua capacità di competere con una macchina. Sarebbe un errore filosofico enorme.
- Una considerazione conclusiva, anche sul tuo amico Vorrei proporti una riflessione. Il tuo amico dice: «Le AI devono essere distrutte». Tu rispondi: «Le AI devono essere regolamentate». Io aggiungerei una terza prospettiva: L’umanità deve imparare a esercitare responsabilmente il proprio potere creativo. Abbiamo costruito strumenti capaci di modificare profondamente il pianeta. Ora stiamo costruendo strumenti capaci di modificare profondamente la nostra stessa civiltà. La questione non è soltanto tecnologica. È morale, filosofica, giuridica e politica. E forse la vera sfida non sarà verificare se le macchine diventeranno intelligenti quanto noi o più di noi. Sarà verificare se noi esseri umani saremo abbastanza saggi da governare la nostra stessa intelligenza. Ti lascio con una frase che sintetizza il mio pensiero: Non dobbiamo temere necessariamente di creare un’intelligenza superiore alla nostra. Dobbiamo temere di creare un’intelligenza potente senza aver prima sviluppato la saggezza necessaria per governarla.
E vorrei lasciarti una domanda, perché penso che apra un capitolo filosofico ancora più interessante: se un giorno un’intelligenza artificiale sviluppasse davvero una coscienza autonoma, fosse capace di soffrire, di comprendere il bene e il male e di interrogarsi sulla propria esistenza, avremmo il diritto di considerarla soltanto una macchina, oppure dovremmo riconoscerle una qualche forma di dignità? È una domanda alla quale, secondo me, l’umanità dovrebbe cominciare a prepararsi prima che diventi concreta
BIBLIOGRAFIA
San Benedetto licenzia 120 persone: «Aumento dei costi e introduzione dell’intelligenza artificiale». Sindacati pronti allo sciopero, di Marco Corazza, 10 novembre 2026
https://www.ilgazzettino.it/AMP/nordest/san_benedetto_licenziamenti_costi_intelligenza_artificiale-9881438.html
IA fuori controllo? L’allarme del Nobel Hinton: «Rischiamo un incidente grave già entro un anno». Secondo lo scienziato, nei prossimi mesi potrebbe verificarsi un incidente su larga scala capace di colpire reti elettriche o sistemi finanziari, con conseguenze significative per la società. 09 novembre 2026
https://www.ilgiornaledivicenza.it/rubriche/scienza-tecnologia/ia-fuori-controllo-l-allarme-del-nobel-hinton-rischiamo-un-incidente-grave-gia-entro-un-anno-1.13179173
Geoffrey Hinton
Psicologo cognitivo e informatico britannico-canadese
Conosciuto anche come: Geoffrey Everest Hinton, Enciclopedia Britannica.
https://www.britannica.com/biography/Geoffrey-Hinton
Geoffrey Hinton,
Intervista a Hinton, 60 Minutes, del giornalista Scott Pelley, andata in onda domenica 8 ottobre 2023 sull’emittente statunitense CBS (60 minutes è un programma televisivo statunitense di giornalismo investigativo e approfondimento in onda dal 1968)
SCANTAMBURLO, Luca, L’umanità di domani nella prefigurazione fantascientifica. Dalla generazione dell’uomo alla produzione tecnica dell’uomo-macchina, Youcanprint, Borè Srl, Tricase, Lecce, ottobre 2026
SCANTAMBURLO, Luca, quesito a tre diverse AI: risposte di Claude di Anthropic, Gemini di Google, ChatGPT di OpenAI, 6 novembre 2026.
Photo credits
Tara Winstead, 2021, Una mano robotica futuristica che tocca una rete digitale su uno sfondo blu, Pexels.com
Lascia un commento