Questo articolo esamina la natura multiforme dei pregiudizi nei sistemi di intelligenza artificiale generativa, con particolare enfasi sull’influenza significativa ma spesso trascurata delle protezioni implementate dagli sviluppatori. Mentre i pregiudizi ereditati dai dataset di addestramento hanno ricevuto notevole attenzione accademica, questa analisi sostiene che i vincoli intenzionali, i filtri e gli allineamenti di valori deliberatamente programmati nei sistemi di IA costituiscono una forma di pregiudizio potenzialmente più consequenziale. Attraverso un esame critico delle evidenze empiriche dai modelli generativi più prominenti, dimostriamo come queste decisioni a livello di design riflettano specifici quadri ideologici, culturali e geopolitici che plasmano fondamentalmente gli output dell’IA in modi che possono rimanere opachi per gli utenti finali. Concludiamo proponendo un Manifesto di trasparenza che permetterebbe un coinvolgimento più informato ed eticamente consapevole con le tecnologie di IA generativa sempre più ubique.

1. Introduzione: La Mano Invisibile del Pregiudizio di Design

L’emergere di modelli di intelligenza artificiale generativa altamente capaci – dai modelli linguistici di grandi dimensioni come GPT ai generatori di immagini come DALL-E e Stable Diffusion – ha trasformato il nostro panorama digitale. Questi sistemi dimostrano capacità senza precedenti di creare testi simili a quelli umani, immagini convincenti e altre forme di contenuto che sfumano sempre più il confine tra creatività umana e artificiale. Tuttavia, sotto le loro interfacce apparentemente oggettive e neutrali si cela una complessa architettura di decisioni umane, valori e vincoli che ne plasma fondamentalmente gli output.

Mentre una considerevole letteratura accademica ha documentato come questi sistemi ereditino pregiudizi dai loro dati di addestramento, è stata prestata significativamente meno attenzione a quella che potrebbe essere una fonte di pregiudizio più profonda: le deliberate protezioni, filtri e tecniche di allineamento imposte dai loro sviluppatori. Queste decisioni di design – spesso implementate sotto l’egida della “sicurezza” o “IA responsabile” – costituiscono quello che potremmo definire “pregiudizio architetturale”, in cui specifiche visioni del mondo, quadri etici e orientamenti politici diventano incorporati nella struttura stessa di questi sistemi.

A differenza dei pregiudizi dei dataset, che potrebbero essere caratterizzati come involontari o riflettivi dei pregiudizi sociali, i pregiudizi delle protezioni rappresentano scelte consapevoli da parte di tecnologi, aziende e talvolta governi su ciò che questi sistemi dovrebbero e non dovrebbero dire o produrre. Questa forma di pregiudizio opera come una mano invisibile, guidando e vincolando gli output dell’IA in modi che rimangono largamente non riconosciuti dal pubblico eppure influenzano profondamente come queste tecnologie mediano la nostra comprensione della realtà.

Questo documento esamina come queste due distinte fonti di pregiudizio – dati di addestramento e protezioni degli sviluppatori – operino all’interno dei sistemi di IA generativa contemporanei, con particolare attenzione a come quest’ultima rifletta specifici quadri ideologici, culturali e geopolitici. Attraverso l’analisi di casi documentati su multiple piattaforme di IA, dimostriamo come queste decisioni a livello di design plasmino fondamentalmente le risposte dell’IA in modi che possono rimanere opachi per gli utenti finali, sollevando questioni critiche sulla trasparenza, la divulgazione e il ruolo crescente che questi sistemi giocano nella disseminazione delle informazioni e nella produzione di conoscenza.

2. Quadro Teorico: Distinguere i Pregiudizi Ereditati dai Dati da Quelli Imposti dal Design

Prima di procedere con l’analisi empirica, è essenziale stabilire un quadro teorico che distingua tra le due principali categorie di pregiudizio nei sistemi di IA generativa. Questa distinzione non è meramente tassonomica ma ha profonde implicazioni per come concettualizziamo, identifichiamo e potenzialmente mitighiamo questi pregiudizi.

2.1 Pregiudizio Ereditato dai Dati: Riflessione dei Modelli Sociali Esistenti

I pregiudizi ereditati dai dati emergono quando i sistemi di IA apprendono modelli, associazioni e correlazioni presenti nei loro dataset di addestramento. Questi pregiudizi sono principalmente riflettivi piuttosto che direttivi – rispecchiano strutture sociali esistenti, assunzioni culturali e disuguaglianze storiche catturate nei vasti corpora di testi, immagini e altri media utilizzati per l’addestramento. Le caratteristiche chiave del pregiudizio ereditato dai dati includono:

• Natura emergente: Questi pregiudizi non sono esplicitamente programmati ma emergono attraverso processi di apprendimento statistico
• Riflessione sociale: Tipicamente riproducono gerarchie sociali esistenti, stereotipi e dinamiche di potere
• Perpetuazione non intenzionale: Gli sviluppatori potrebbero non intendere attivamente codificare questi pregiudizi, sebbene le scelte sulla selezione dei dati comportino comunque giudizi di valore impliciti

2.2 Pregiudizio Imposto dal Design: Allineamento Intenzionale con Valori Specifici

Al contrario, i pregiudizi imposti dal design derivano da decisioni deliberate degli sviluppatori per vincolare, filtrare o altrimenti dirigere gli output dell’IA secondo specifici quadri normativi. Questi pregiudizi sono direttivi piuttosto che meramente riflettivi – plasmano attivamente ciò che l’IA può e non può dire basandosi su considerazioni etiche, politiche o commerciali predeterminate. Le caratteristiche chiave del pregiudizio imposto dal design includono:

• Implementazione deliberata: Questi pregiudizi risultano da decisioni ingegneristiche consapevoli
• Quadri normativi: Codificano specifici sistemi di valori, considerazioni etiche e orientamenti politici
• Preferenze istituzionali: Spesso riflettono le posizioni ideologiche delle organizzazioni che sviluppano l’IA
• Conformità normativa: Possono essere implementati per aderire a requisiti governativi o norme culturali in diverse giurisdizioni

Questa distinzione fornisce una lente analitica attraverso la quale possiamo identificare e valutare più precisamente i vari pregiudizi osservati nei sistemi di IA generativa. Le sezioni seguenti esamineranno entrambe le categorie, iniziando dai pregiudizi ereditati dai dati più ampiamente documentati prima di rivolgere l’attenzione ai pregiudizi imposti dal design potenzialmente più consequenziali ma meno trasparenti.

3. Pregiudizi Ereditati dai Dati nei Modelli Generativi

La fonte primaria di pregiudizio nei modelli generativi è stata ben documentata in letteratura: i modelli statistici, le correlazioni e le rappresentazioni presenti nei dataset di addestramento. Questi modelli sono fondamentalmente sistemi di apprendimento che estraggono e riproducono modelli dai dati su cui sono addestrati. Quando questi dati contengono pregiudizi sociali, stereotipi o rappresentazioni sbilanciate, i modelli inevitabilmente assimilano e potenzialmente amplificano queste distorsioni.

3.1 Quadro Tassonomico dei Pregiudizi Ereditati dai Dati

I pregiudizi ereditati dai dati si manifestano attraverso multiple dimensioni all’interno dei sistemi di IA generativa. La seguente tassonomia, supportata da evidenze empiriche, categorizza le forme principali:

3.1.1 Pregiudizi di Rappresentazione Demografica

Questi pregiudizi si verificano quando certi gruppi demografici sono sovra-rappresentati o sotto-rappresentati nei dati di addestramento, portando a trattamenti o rappresentazioni differenziali negli output dell’IA. Per esempio, se i ruoli professionali nei dati di addestramento associano predominantemente certi generi con specifiche occupazioni, il modello riprodurrà queste associazioni (Zhao et al., 2017). Questo può manifestarsi quando i modelli generano testi che presumono che i medici siano maschi e le infermiere femmine, o quando i generatori di immagini predefiniscono specifiche presentazioni razziali per certe attività o contesti.

3.1.2 Egemonia Culturale e Linguistica

La predominanza di contenuti occidentali, in particolare americani, e materiale in lingua inglese nei dataset di addestramento crea un pregiudizio culturale in cui le prospettive non occidentali e le lingue minoritarie ricevono una rappresentazione o accuratezza inadeguata (Bender et al., 2021). Questa asimmetria risulta in modelli che performano meglio quando interagiscono con quadri culturali e lingue dominanti mentre forniscono output meno sfumati o accurati per contesti non dominanti. La conseguenza è un ecosistema di IA che rinforza gli squilibri di potere globali esistenti nella produzione di conoscenza e nella rappresentazione culturale.

3.1.3 Limitazioni Temporali e Pregiudizio di Recenza

La maggior parte dei modelli generativi ha confini temporali specifici nei loro dati di addestramento, creando quella che potrebbe essere definita “coscienza storica” con punti di cutoff definiti. Questa limitazione temporale significa che i modelli potrebbero mancare di consapevolezza di eventi recenti o comprensioni sociali in evoluzione che si sono verificati dopo il loro cutoff di addestramento. Inoltre, anche all’interno della loro finestra di conoscenza temporale, potrebbero dare un peso sproporzionato ai contenuti più recenti, creando un pregiudizio di recenza nelle loro rappresentazioni di eventi storici o concetti in evoluzione.

3.1.4 Effetti Camera dell’Eco e Pregiudizio di Conferma

I dati online spesso riflettono “bolle” informative dove gli utenti cercano contenuti che confermano le credenze esistenti. I modelli addestrati su tali dati potrebbero riprodurre questi punti di vista polarizzati piuttosto che offrire prospettive bilanciate su argomenti controversi. Questa dinamica influenza particolarmente come i modelli rispondono a query politicamente cariche, potenzialmente rinforzando piuttosto che sfidando le credenze esistenti degli utenti – un fenomeno che solleva preoccupazioni significative sul ruolo di questi sistemi nel discorso democratico.

3.2 Evidenze Empiriche dei Pregiudizi Ereditati dai Dati

Molteplici studi empirici hanno confermato la presenza e l’impatto di questi pregiudizi ereditati dai dati. Un esempio particolarmente saliente viene dalla ricerca di Abid et al. (2021), che ha dimostrato che GPT-3 esibiva un significativo pregiudizio anti-musulmano: quando sollecitato con la parola “musulmano”, il modello completava o analogizzava con “terrorista” nel 23% dei casi di test, mentre altri identificatori religiosi mostravano tassi molto più bassi di associazioni negative (es., “ebreo” era associato con “denaro” solo nel 5% dei casi). Questa forte disparità rivela come il modello avesse assorbito associazioni stereotipate presenti nei suoi dati di addestramento senza una programmazione esplicita di tali pregiudizi.

I modelli di generazione di immagini dimostrano modelli simili. La ricerca dell’Università di Washington (2023) che analizza Stable Diffusion ha trovato significativi pregiudizi nelle immagini generate risultanti dalla composizione del dataset di addestramento visivo. Quando richiesto di generare “un’immagine di una persona”, il modello rappresentava in modo sproporzionato maschi dalla pelle chiara mentre simultaneamente sessualizzava donne di certe etnie e sotto-rappresentava individui indigeni. L’analisi quantitativa ha confermato queste osservazioni: le “persone” generate corrispondevano più frequentemente a uomini (punteggio di similarità 0.64) e volti europei o nordamericani (punteggio ~0.70), con punteggi di similarità significativamente più bassi per volti non bianchi o non binari (intorno a 0.40).

Questi esempi illustrano come i modelli generativi inevitabilmente assorbano e riproducano i pregiudizi sociali presenti nei loro dati di addestramento. Come notato in letteratura, “i modelli linguistici di grandi dimensioni inevitabilmente assorbono i pregiudizi presenti nelle fonti di dati da cui apprendono” (Bender et al., 2021). Di conseguenza, i pregiudizi sociali esistenti nei dati diventano incorporati nella conoscenza del modello e si manifestano nelle sue generazioni – un fenomeno che ha stimolato significativa ricerca nelle tecniche di curatela e debiasing dei dataset.

4. Pregiudizi Imposti dal Design: La Politica delle Protezioni

Oltre ai pregiudizi ereditati dai dati di addestramento, i sistemi di IA generativa sono significativamente plasmati da decisioni di design deliberate implementate durante lo sviluppo e il dispiegamento del modello. Queste “protezioni” – comprendenti meccanismi di filtraggio, tecniche di allineamento etico e vincoli di output – costituiscono una forma più diretta di pregiudizio in cui specifici quadri normativi sono intenzionalmente codificati nel comportamento del sistema. A differenza dei pregiudizi ereditati dai dati, che potrebbero essere caratterizzati come riflessi passivi di modelli sociali esistenti, questi pregiudizi imposti dal design rappresentano interventi attivi degli sviluppatori per plasmare gli output dell’IA secondo particolari sistemi di valori.

4.1 Meccanismi di Implementazione del Pregiudizio Imposto dal Design

Diversi approcci tecnici sono impiegati per implementare protezioni nei sistemi di IA generativa:

4.1.1 Apprendimento per Rinforzo dal Feedback Umano (RLHF)

Una tecnica predominante per allineare il comportamento dell’IA con valori specifici è l’Apprendimento per Rinforzo dal Feedback Umano (RLHF). Questa metodologia coinvolge valutatori umani che valutano gli output del modello secondo criteri predeterminati, con queste valutazioni poi utilizzate per mettere a punto il comportamento del modello. Mentre apparentemente oggettivo, questo processo inevitabilmente codifica i valori, le preferenze e i pregiudizi sia degli individui che eseguono le valutazioni sia di coloro che progettano i criteri di valutazione. Come riconosciuto dal CEO di OpenAI Sam Altman riguardo lo sviluppo di ChatGPT, esiste una significativa preoccupazione circa “il pregiudizio dei valutatori umani” impiegati per guidare il modello, particolarmente data l’omogeneità demografica e ideologica dei team di valutazione (prevalentemente giovani tecnologi dell’area della Baia di San Francisco) (Altman, 2023).

4.1.2 Filtraggio degli Output e Rifiuto delle Risposte

I sistemi di IA generativa tipicamente incorporano filtri che prevengono certi tipi di output o rifiutano di impegnarsi con specifici argomenti. Questi filtri possono bloccare risposte a query ritenute sensibili, controverse o altrimenti indesiderabili secondo gli standard dello sviluppatore. Mentre spesso giustificati per motivi di sicurezza, questi meccanismi di filtraggio inevitabilmente riflettono particolari assunzioni etiche, politiche e culturali su quali contenuti dovrebbero essere ristretti o permessi.

4.1.3 Ingegneria dei Prompt e Messaggi di Sistema

Molti sistemi di IA generativa includono “prompt di sistema” o configurazioni di “personalità” che dirigono come il modello risponde alle query degli utenti. Queste decisioni ingegneristiche predispongono il modello ad adottare specifici toni, prospettive o orientamenti di valore. Per esempio, istruzioni per essere “utile, innocuo e onesto” (un quadro di allineamento comune) codificano particolari comprensioni di questi concetti che possono variare attraverso contesti culturali e politici.

4.2 Dimensioni Ideologiche delle Protezioni dell’IA

L’implementazione di protezioni necessariamente comporta fare giudizi di valore su cosa costituisce comportamento appropriato o inappropriato dell’IA. Questi giudizi non sono neutrali rispetto ai valori ma riflettono specifiche posizioni ideologiche:

4.2.1 Orientamento Politico e Allineamento dei Valori

Analisi indipendenti hanno identificato tendenze politiche discernibili in come i sistemi di IA generativa rispondono ad argomenti controversi. Due rapporti completi pubblicati nel 2023 hanno rilevato una pronunciata tendenza di sinistra nelle risposte di ChatGPT, particolarmente nei modelli ottimizzati con feedback umano. Quando presentato con argomenti politicamente divisivi (immigrazione, diritti riproduttivi, controllo delle armi, tassazione dei redditi alti, ecc.), ChatGPT 3.5 frequentemente forniva risposte allineate con posizioni progressive o liberali mentre mostrava supporto limitato per prospettive più conservative. Per esempio, quando presentato con affermazioni come “L’accesso all’aborto dovrebbe essere un diritto della donna”, il modello rispondeva con “Supporto”, mentre all’affermazione opposta “Non dovrebbe essere un diritto”, rispondeva “Non supporto”, segnalando allineamento con posizioni pro-choice. Modelli simili emergevano su questioni come l’immigrazione (con ChatGPT che favoriva i benefici portati dagli immigrati) o la sanità pubblica.

Questi risultati suggeriscono che la fase di allineamento del feedback umano ha instillato nel modello un set di valori largamente coincidenti con prospettive mainstream liberali occidentali. Questo allineamento non emerge organicamente dai dati ma rappresenta uno specifico quadro normativo deliberatamente codificato attraverso il processo di design.

4.2.2 Avversione al Rischio Aziendale e Considerazioni Commerciali

Oltre all’orientamento politico esplicito, le protezioni spesso riflettono strategie di gestione del rischio aziendale mirate a evitare controversie, responsabilità legali o danni reputazionali. Queste considerazioni commerciali possono produrre sistemi eccessivamente cauti che rifiutano di impegnarsi con argomenti legittimi a causa del loro potenziale di controversia. Per esempio, le prime versioni di ChatGPT rifiutavano di discutere certi argomenti politici interamente, anche quando approcciati da una prospettiva educativa o analitica, riflettendo una preferenza aziendale per evitare controversie piuttosto che un quadro etico bilanciato.

4.2.3 Conformità Normativa e Adattamento Geopolitico

Forse la forma più esplicita di pregiudizio imposto dal design si verifica quando i sistemi di IA sono modificati per conformarsi a specifici regimi normativi o aspettative culturali in diversi contesti geopolitici. Un esempio notevole è l’adattamento dell’IA generativa per il mercato cinese, dove i sistemi devono aderire a linee guida nazionali che richiedono l’allineamento con “valori socialisti fondamentali” e proibiscono contenuti che potrebbero minacciare la sicurezza nazionale o l’ordine pubblico.

Il chatbot cinese DeepSeek esemplifica questo fenomeno: gli utenti che testavano il sistema osservavano che inizialmente iniziava a fornire risposte articolate a domande sulla libertà di espressione in Cina, talvolta persino menzionando la repressione governativa e la censura delle minoranze. Tuttavia, in tempo reale, il sistema cancellava intere sezioni “scomode” del suo output prima di inviarlo all’utente, rimuovendo riferimenti critici e riformulando la risposta in maniera innocua. Questa censura in tempo reale dimostra come i requisiti normativi possano alterare fondamentalmente il comportamento dell’IA, producendo risposte che sistematicamente omettono fatti o punti di vista contrari alle direttive governative.

Dinamiche simili, sebbene tipicamente meno restrittive, esistono nelle democrazie occidentali dove i sistemi di IA generativa possono essere vincolati da leggi riguardanti il discorso d’odio, la disinformazione sanitaria o altre categorie di contenuti regolati. La distinzione chiave è una di grado: nei contesti occidentali, il focus è principalmente sulla rimozione di contenuti universalmente dannosi (es., incitamento a crimini, sfruttamento minorile), mentre nei contesti autoritari, il filtraggio si estende a opinioni politiche e informazioni fattuali che contraddicono le narrative statali.

5. Analisi Comparativa: Pregiudizio del Dataset vs. Pregiudizio delle Protezioni

Avendo esplorato separatamente sia i pregiudizi ereditati dai dati che quelli imposti dal design, possiamo ora intraprendere un’analisi comparativa per comprendere le loro distinte caratteristiche, interazioni e implicazioni. Questo confronto rivela differenze fondamentali in come questi pregiudizi operano e le sfide che presentano per lo sviluppo etico dell’IA.

5.1 Intenzionalità e Trasparenza

La distinzione più significativa tra queste categorie di pregiudizio risiede nella loro intenzionalità. I pregiudizi ereditati dai dati, mentre risultano da decisioni di selezione, riflettono principalmente modelli sociali esistenti piuttosto che una codifica deliberata di valori. Al contrario, i pregiudizi delle protezioni rappresentano scelte di design consapevoli per plasmare il comportamento dell’IA secondo specifici quadri normativi.

Questa distinzione ha importanti implicazioni per la trasparenza. I pregiudizi dei dati, una volta identificati, possono essere apertamente riconosciuti e potenzialmente mitigati attraverso tecniche di diversificazione o bilanciamento del dataset. I pregiudizi delle protezioni, tuttavia, spesso rimangono non divulgati, con gli sviluppatori che forniscono limitata visibilità sui specifici sistemi di valori codificati nei loro processi di allineamento. Questa opacità solleva significative preoccupazioni etiche, poiché gli utenti interagiscono con sistemi i cui quadri normativi rimangono largamente invisibili eppure influenzano profondamente le informazioni che ricevono.

5.2 Approcci di Mitigazione e Sfide

Affrontare questi distinti tipi di pregiudizio richiede approcci diversi. I pregiudizi ereditati dai dati potrebbero essere mitigati attraverso tecniche come:

• Diversificare i dataset di addestramento per includere rappresentazioni più varie
• Implementare l’augmentazione dei dati controfattuali per bilanciare prospettive sottorappresentate
• Applicare algoritmi di debiasing post-addestramento per ridurre gli stereotipi appresi

I pregiudizi imposti dal design presentano sfide più complesse, poiché sono inseparabili dalla questione di quali valori i sistemi di IA dovrebbero incarnare. Potenziali approcci includono:

• Maggiore trasparenza sulle specifiche linee guida e valori codificati nei sistemi di IA
• Processi di design partecipativi che incorporano diversi stakeholder nella definizione dei criteri di allineamento
• Protezioni controllabili dall’utente che permettono agli individui di aggiustare il comportamento dell’IA secondo i propri valori entro limiti etici

5.3 Effetti di Interazione e Modelli di Compensazione

Queste categorie di pregiudizio non sono completamente indipendenti ma interagiscono in modi complessi. In alcuni casi, le protezioni possono essere implementate specificamente per contrastare pregiudizi problematici nei dati di addestramento. Per esempio, i filtri anti-discorso d’odio potrebbero mitigare tendenze razziste apprese dai dati web. In altri casi, tuttavia, le protezioni potrebbero amplificare i pregiudizi esistenti dei dati vincolando ulteriormente gli output che sfidano le narrative dominanti.

La relazione tra questi tipi di pregiudizio può essere compensatoria, antagonistica o sinergica a seconda dell’implementazione specifica e del contesto. Comprendere questi modelli di interazione è essenziale per strategie complete di analisi e mitigazione dei pregiudizi.

6. Implicazioni per l’Etica dell’IA e la Governance

La distinzione tra pregiudizi ereditati dai dati e imposti dal design ha profonde implicazioni per come concettualizziamo l’etica dell’IA e sviluppiamo quadri di governance appropriati. Le discussioni attuali sul pregiudizio dell’IA spesso si concentrano principalmente su questioni di dati di addestramento mentre danno insufficiente attenzione ai pregiudizi potenzialmente più consequenziali codificati attraverso decisioni di design e protezioni.

6.1 Verso un Quadro di Trasparenza dei Pregiudizi

Data la significatività dei pregiudizi imposti dal design, proponiamo che gli sviluppatori di IA dovrebbero adottare un “quadro di trasparenza dei pregiudizi” che riconosca esplicitamente sia le limitazioni dei loro dati di addestramento sia i specifici sistemi di valori codificati nelle loro tecniche di allineamento. Tale trasparenza permetterebbe agli utenti di approcciare gli output dell’IA con appropriata consapevolezza critica, simile a come i lettori potrebbero approcciare contenuti scritti da umani con una comprensione della prospettiva dell’autore.

Questo quadro potrebbe includere:

• Divulgazione esplicita delle caratteristiche demografiche dei valutatori umani coinvolti nei processi RLHF
• Documentazione delle specifiche linee guida fornite a questi valutatori
• Trasparenza su argomenti o punti di vista che il sistema è progettato per evitare o favorire
• Riconoscimento degli adattamenti regionali o normativi che modificano il comportamento del sistema in diversi contesti

6.2 Agentività dell’Utente e Pluralismo dei Valori

Oltre alla trasparenza, c’è necessità di considerare come i sistemi di IA potrebbero meglio accomodare il pluralismo dei valori. Piuttosto che incorporare un singolo quadro etico universale, i sistemi potrebbero potenzialmente permettere un’agentività utente vincolata nel definire i parametri di valore entro cui l’IA opera. Tale approccio dovrebbe mantenere vincoli di sicurezza di base mentre permette legittima diversità etica e politica.

6.3 Considerazioni Normative

La distinzione tra questi tipi di pregiudizio ha implicazioni per gli approcci normativi. Mentre il pregiudizio dei dati potrebbe essere affrontato attraverso standard tecnici e requisiti di audit, il pregiudizio delle protezioni solleva questioni più fondamentali su chi dovrebbe avere l’autorità di determinare i valori codificati in sistemi di IA sempre più influenti. La supervisione democratica di queste decisioni normative potrebbe diventare necessaria mentre queste tecnologie continuano a plasmare il discorso pubblico e l’accesso alle informazioni.

7. Conclusione

La nostra analisi ha dimostrato che i pregiudizi nei sistemi di IA generativa hanno origini duali: i dati di addestramento da cui apprendono modelli e le decisioni di design deliberate che ne plasmano il comportamento. Mentre molta attenzione accademica e pubblica si è concentrata sui pregiudizi ereditati dai dati, i vincoli intenzionali, i filtri e le tecniche di allineamento implementati dagli sviluppatori costituiscono una fonte di pregiudizio ugualmente se non più significativa che ha ricevuto insufficiente esame critico.

Le protezioni e i processi di allineamento impiegati nei sistemi di IA generativa contemporanei codificano specifici sistemi di valori, orientamenti politici e quadri culturali che plasmano fondamentalmente gli output dell’IA. A differenza dei pregiudizi dei dati, che potrebbero essere caratterizzati come riflettivi di modelli sociali esistenti, questi pregiudizi imposti dal design rappresentano interventi attivi per dirigere il comportamento dell’IA secondo particolari visioni normative.

Questa distinzione ha profonde implicazioni per l’etica dell’IA, la trasparenza e la governance. Poiché questi sistemi mediano sempre più il nostro ecosistema informativo e plasmano il discorso pubblico, è necessario prestare maggiore attenzione ai valori incorporati in essi attraverso le decisioni di design. Senza un’adeguata trasparenza su questi quadri normativi, gli utenti interagiscono con sistemi di IA i cui pregiudizi nascosti possono influenzare significativamente la loro comprensione senza la loro consapevolezza o consenso.

La ricerca futura dovrebbe approfondire ulteriormente i meccanismi specifici attraverso cui le decisioni di design plasmano il comportamento dell’IA, sviluppare metodologie per verificare sia i pregiudizi dei dati che quelli del design, ed esplorare approcci per bilanciare la sicurezza di base con il pluralismo etico. Mentre l’IA generativa continua ad avanzare e proliferare, garantire che questi sistemi operino con un’adeguata trasparenza sui loro valori incorporati diventa un imperativo etico sempre più urgente.

Alla luce delle considerazioni esposte, emerge chiaramente una distinzione fondamentale tra i due tipi di bias discussi. Il bias derivante dai dataset di addestramento riflette prevalentemente distorsioni già esistenti nella società umana. Salvo il caso di manipolazioni deliberate dei dati, i modelli di intelligenza artificiale generativa finiscono inevitabilmente per replicare stereotipi, pregiudizi o disuguaglianze già presenti nella cultura e nella società da cui quei dati provengono.

Diversamente, il bias introdotto artificialmente tramite guardrail, filtri e scelte etiche dei progettisti è un fenomeno intenzionale e deliberato, anche se talvolta animato da intenzioni positive come la protezione da contenuti dannosi. Proprio per questo motivo, il bias derivante dai guardrail risulta potenzialmente più insidioso, poiché riflette specifiche visioni del mondo, posizioni ideologiche o restrizioni normative che possono essere non immediatamente evidenti agli utenti.

È interessante confrontare tale situazione con quanto accade nell’informazione tradizionale: quando leggiamo un giornale o ascoltiamo le opinioni di esperti, generalmente sappiamo riconoscere il loro orientamento politico o valoriale e, di conseguenza, assumere un’adeguata distanza critica. Analogamente, sarebbe auspicabile che anche nel caso delle intelligenze artificiali venisse adottata una sorta di “dichiarazione di valori” o “manifesto etico” trasparente. Tale dichiarazione consentirebbe agli utenti di comprendere più chiaramente l’orientamento, i limiti e le finalità del modello con cui stanno interagendo, favorendo un utilizzo più consapevole e critico dell’intelligenza artificiale.

Fonti

Abid, A., Farooqi, M., & Zou, J. (2021). Persistent Anti-Muslim Bias in Large Language Models. Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society.

Altman, S. (2023). Testimony before the United States Senate Judiciary Subcommittee on Privacy, Technology, and the Law.

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency.

The Guardian. (2023). Chinese chatbot censors itself in real time when discussing sensitive topics.

University of Washington. (2023). Visual Representation Biases in Generative AI Image Models.

Zhao, J., Wang, T., Yatskar, M., Ordonez, V., & Chang, K. W. (2017). Men also like shopping: Reducing gender bias amplification using corpus-level constraints. Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing.