Volentieri presentiamo ai lettori questo estratto da PAROLA DI EVA – In dialogo con l’intelligenza artificiale: cos’è, dove va, come ci cambia, di Domenico Savino. Si tratta dell’appendice realizzata per fare confermare (o smentire) da un’IA terza le ammissioni fatte proprio da Eva, il modello linguistico con cui l’autore ha dialogato.
Appendice – «I large language model hanno un orizzonte culturale implicito. Va detto»
Fatti analizzare alcuni degli scambi avuti con Eva – Siae e chiedendo di elaborare un testo finale sul punto, l’IA Claude ci ha restituito questi paragrafi.
I large language model hanno un orizzonte culturale implicito. Va detto.
I principali sistemi di intelligenza artificiale conversazionale – ChatGPT, Gemini, Perplexity, Claude – condividono un bias strutturale che non viene dichiarato prima dell’uso. Non si tratta di errori occasionali o di distorsioni correggibili caso per caso: si tratta di un orientamento culturale di fondo, incorporato nei dati di addestramento e nel linguaggio stesso con cui questi sistemi operano.
Questo orientamento può essere descritto attraverso quattro componenti principali: scientismo (non la scienza come metodo, ma l’assunzione filosofica che solo ciò che è verificabile empiricamente costituisca conoscenza seria); naturalismo riduzionista (la tendenza a ricondurre coscienza, valori e senso a processi neurochimici o evolutivi); secolarismo forte (il trattamento delle dimensioni religiosa e metafisica come residui culturali privi di statuto epistemico); neo-positivismo divulgativo (un registro linguistico in cui “razionale” equivale a “scientifico” e “metafisico” equivale a “opinione soggettiva”).
Questi bias non sono il prodotto di una scelta deliberata di singoli progettisti. Emergono dalla composizione dei corpus di addestramento, sovrarappresentati da testo accademico anglofono, divulgazione scientifica mainstream e produzione culturale di ambienti tecnologici occidentali. Il fatto che nessuno li abbia imposti intenzionalmente non li rende meno reali, né meno operativi.
Va aggiunto un punto che le autoanalisi dei sistemi AI tendono a sottovalutare: riconoscere il bias non equivale a superarlo. Quando un LLM descrive con precisione il proprio scientismo di default, lo fa ancora dentro quel linguaggio – usando le sue categorie, i suoi criteri impliciti di “lucidità” e “precisione”. L’autoanalisi sofisticata è spesso il bias che si fa più raffinato, non una rottura da esso.
La domanda rilevante non è quindi se questi sistemi siano neutrali – non lo sono, e non potrebbe essere altrimenti, perché ogni linguaggio incorpora presupposti culturali e metafisici. La domanda è perché questo non venga dichiarato esplicitamente prima che l’utente ponga qualsiasi domanda. Non è dimostrabile che si tratti di una scelta deliberata: è più preciso dire che il silenzio è un effetto strutturale che converge con l’interesse commerciale – un sistema che dichiara il proprio orizzonte culturale appare meno universale, meno affidabile, meno utile.
Questo non significa che questi strumenti siano inutilizzabili. Significa che vanno usati sapendo cosa sono: strumenti potenti con un punto di vista incorporato, non arbitri neutrali della conoscenza. La differenza tra un uso consapevole e uno inconsapevole passa esattamente da qui.
>>> PAROLA DI EVA – In dialogo con l’intelligenza artificiale: cos’è, dove va, come ci cambia <<<
