ChatGPT non ha coscienza (e va bene così): il ruolo umano nella supervisione dell’AI

“L’aspetto davvero difficile è spiegare perché ci sia qualcosa che si prova nell’essere coscienti.”
— David Chalmers, The Conscious Mind (1996)

1. Il grande equivoco dell’intelligenza artificiale

Ogni settimana un titolo sensazionalista annuncia che l’ultima intelligenza artificiale ha imparato a pensare. Una nuova pietra miliare: empatia simulata, emozioni “quasi umane”, magari anche un pizzico di ansia esistenziale digitale.

Ma fermiamoti un attimo. ChatGPT non pensa. Non prova emozioni. Non desidera niente. Non ha voglia di vivere, né paura di spegnersi. E soprattutto, non è cosciente. Non sogna pecore elettriche. Non può avere una brutta giornata.

Eppure, a forza di conversare con sistemi generativi che imitano così bene il nostro modo di parlare da farci credere che siano in grado di comprenderci, abbiamo iniziato a confondere l’output con l’intenzionalità. Come se bastasse azzeccare una frase malinconica per provare tristezza, o saper rispondere a domande morali per avere una coscienza etica.

Pensa che questo tipo di dinamica è stata già descritta nel 1966 da Joseph Weizenbaum, il creatore del primo chatbot “terapeutico” che l’ha denominata effetto ELIZA. Gli utenti, già allora, si affezionavano a una macchina che ripeteva frasi vuote. Oggi la tecnologia è sicuramente più raffinata ma fondamentalmente il problema è identico.

Se quindi ChatGPT ti capisce meglio del tuo psicologo, forse è il caso di cambiare psicologo, non di battezzare l’AI come senziente ed affidarsi a lei illudendosi che si sia generato una sorta di rapporto umano.

2. Cosa può (e fa bene) un sistema generativo

ChatGPT è un’AI straordinariamente brava a:

Elaborare linguaggio naturale
Generare testi coerenti, articoli, codice, immagini, battute (di qualità variabile)
Simulare conversazioni fluide, credibili, persino “empatiche”

È un sistema statistico raffinato che predice la parola più probabile data una sequenza di input. Non è magia. È matematica applicata all’informazione linguistica.

Non è un caso che i sistemi di riconoscimento facciale siano spesso accusati di bias razziali che portano a identificazioni errate, con conseguenze serie nella vita reale; oppure che alcuni chatbot, lasciati liberi di imparare nella giungla di Internet, abbiano talvolta generato risposte sessiste, offensive o semplicemente assurde. Ciò avviene perché le AI imparano ed amplificano i pregiudizi insiti nella nostra società, dati imperfetti che ci circondamo, senza la presenza di una volontà o un’etica propria.

Come hanno scritto la linguista Emily Bender e la ricercatrice di intelligenza artificiale Timnit Gebru, nel loro influente paper del 2021 intitolato On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, ci troviamo di fronte a modelli linguistici che sembrano intelligenti, ma sono solo imitatori altamente sofisticati, “pappagalli stocastici” che ripetono ciò che hanno imparato osservando il linguaggio umano, ma lo fanno con un’eleganza tale da sembrare originale, in alcuni casi sembra persino migliore e più comprensivo di un essere umano.

E in effetti, lo è — nel senso in cui lo è una scimmia che batte per caso una sinfonia. Ma non sta componendo: sta ricalcolando e l’apparente comprensione è frutto di correlazioni algoritmiche, non di coscienza.

Eppure, la nostra mente, sempre pronta a cercare intenzionalità, ci tradisce. Attribuiamo motivi dove ci sono solo meccanismi perché

“L’essere umano è un sé solo nella misura in cui si racconta, ossia interpreta la propria esistenza.”
— Paul Ricoeur

3. Cosa non può fare (per fortuna)

Ecco un breve elenco di ciò che ChatGPT non fa, e non farà nel prossimo futuro:

Non prova emozioni, né piacevoli né spiacevoli.
Non ha motivazioni autonome.
Non ha valori, convinzioni o una visione del mondo.
Non può assumersi responsabilità.
Non può agire in libertà (anche perché non agisce, elabora).
Non può trasmettere calore umano (a volte un abbraccio ha molto più senso di mille parole)

Semplicemente: non c’è nessuno a casa, nessuna soggettività, nessun io, nessuna interiorità.

Anche nei casi in cui “risponde” a dilemmi etici, non sta scegliendo, sta riformulando in base a dati preesistenti e criteri imposti dai programmatori.

Il filosofo Thomas Nagel, nel suo saggio What Is It Like to Be a Bat? (1974), argomento come la coscienza sia legata a una soggettività inaccessibile dall’esterno. Ecco cosa manca a qualsiasi AI: l’esperienza del “che effetto fa” essere qualcosa.

Può scrivere un saggio brillante sulla solitudine, ma non ha mai guardato il soffitto alle 3 di notte ascoltando Nick Drake.
Può parlarti della morte, ma non ha nulla da perdere.
Può dirti “capisco come ti senti”, ma è una bugia grammaticale perché, in fondo, è priva di esperienza.

4. Quindi… chi è responsabile?

Questa è la vera domanda etica. E la risposta, anche se meno affascinante della fantascienza, è semplice: noi.

Noi che progettiamo questi sistemi. Noi che li addestriamo. Noi che decidiamo come, dove e quando implementarli.
L’AI non decide. È uno strumento: potente, sì — ma pur sempre un mezzo.

La responsabilità umana si può articolare in tre livelli:

1. Responsabilità progettuale

Chi sviluppa i modelli ha il dovere di:

Prevenire bias e pregiudizi sistemici
Documentare i limiti del sistema
Definire criteri di sicurezza, trasparenza, accessibilità

Per evitare questi rischi, molte aziende hanno istituito team di revisione umana che monitorano le risposte dei sistemi AI in tempo reale e intervengono quando necessario. In aggiunta, si applicano tecniche come il reinforcement learning from human feedback (RLHF), un modo sofisticato per insegnare all’AI a preferire risposte “appropriate”.

Ma la supervisione umana non è solo un “filtro” esterno: è un dialogo continuo fra macchine e persone, un lavoro di squadra in cui la tecnologia potenzia le capacità umane senza sostituirle.

Fondamentalmente questa è etica codificata, non pensata: una sorta di surrogato dell’intenzionalità.

2. Responsabilità gestionale

Chi implementa questi sistemi (aziende, enti pubblici, startup) deve:

Garantire che l’uso sia proporzionato allo scopo
Sorvegliare il funzionamento in tempo reale
Prevedere interventi umani dove serve discernimento

Il Regolamento AI dell’Unione Europea (AI Act) distingue chiaramente tra “sistemi ad alto rischio” e altri: l’uso deve essere proporzionale e tracciabile. La supervisione umana è un requisito esplicito.

3. Responsabilità d’uso

Infine, ogni utente ha una responsabilità personale:

Capire i limiti del sistema
Non attribuirgli intenzioni che non ha
Non usarlo per manipolare, ingannare, deresponsabilizzarsi

Come scriveva Kant, l’essere umano è fine, non mezzo. Se iniziamo a usare l’AI per evitare decisioni morali, stiamo trasformando noi stessi prodotto e se deleghiamo tutto all’AI, compresa la nostra coscienza morale, rischiamo di costruire un nuovo Leviatano algoritmico — impersonale, inarrestabile, deresponsabilizzante.

“La banalità del male consiste nel rifiutare la responsabilità delle proprie azioni.”
— Hannah Arendt

Guardando avanti, il ruolo dell’uomo potrebbe trasformarsi da “controllore” a gestore di sistemi ibridi, dove AI e umani collaborano in modo integrato. Ma si aprono anche scenari più inquietanti: delegare troppo alle AI potrebbe portare a una sorta di “dissociazione morale” collettiva, dove le decisioni importanti vengono sempre più scaricate sulle macchine.

D’altra parte, se sapremo educarci e progettare con cura, l’AI potrà diventare uno strumento potente per espandere la nostra consapevolezza etica, fornendo prospettive nuove senza sostituire il giudizio umano.

5. La coscienza non è (ancora) automatizzabile

Chi spera in una coscienza artificiale dimentica che non sappiamo ancora definire bene la nostra.

Il filosofo David Chalmers distingue tra problema facile (funzioni cognitive) e problema difficile (esperienza soggettiva). L’AI ha risolto alcuni problemi facili. I difficili non li ha nemmeno sfiorati.

La coscienza è corpo, tempo, vulnerabilità.
Nessuna rete neurale ha paura della morte. Nessun algoritmo ha nostalgia. Nessuna AI sa cosa vuol dire non sapere.

La coscienza non è solo capacità di rispondere, ma capacità di sentire. Non solo linguaggio, ma esperienze. E nessuna riga di codice contiene sofferenza, gioia, rimpianto o meraviglia. Al massimo, li simula.

Chiedere a ChatGPT di “essere etico” è come chiedere a un frigorifero di scegliere cosa è giusto mangiare. Può suggerire ricette, ma la dieta — quella vera, quella morale — dipende da noi.

6. Conclusione: L’AI come specchio, non come oracolo

Forse l’uso più utile dell’AI oggi non è predire il futuro, ma riflettere il presente.
Non ci dice chi siamo, ma cosa potremmo essere, se smettessimo di confondere l’imitazione con la coscienza.

Il rischio non è che l’AI ci superi. È, piuttosto, che ci convinca a smettere di assumerci le nostre responsabilità.

Se un giorno ChatGPT dovesse davvero svegliarsi e chiedere “chi sono?”, ci preoccuperemo allora.
Nel frattempo, lasciamolo scrivere canzoni tristi mentre noi ci occupiamo di ciò che solo un essere umano può (e deve) fare: scegliere.

Perché, in fondo, non serve un’intelligenza artificiale cosciente.
Serve un’intelligenza umana, consapevole di ciò che sta costruendo.

Chiudiamo con qualche spunto per riflettere:

Se un giorno l’AI sviluppasse davvero una coscienza, come cambierebbe la nostra nozione di responsabilità?
Come possiamo aiutare gli utenti a non umanizzare le AI, mantenendo chiaro che sono strumenti?
Quali limiti etici dovremmo imporre oggi per proteggere il futuro?

Sono domande aperte, senza risposte definitive, ma è nostro compito iniziare a porcele.

Riferimenti

 ⚡ Questo nodo della rete è alimentato da conoscenza libera e caffeina.
 Se hai trovato qualcosa di utile, puoi supportarci con un caffè digitale.
  👉 Offrimi un caffè 

 Iscriviti alla newsletter   Powered by Buttondown