Abbiamo indagato sui pregiudizi di ChatGPT: ecco cosa abbiamo scoperto

Il recente dibattito sull’intelligenza artificiale ha portato alla luce un episodio controverso riguardante ChatGPT, il modello di linguaggio sviluppato da OpenAI. In occasione dell’anniversario della strage di Via D’Amelio del 19 luglio 1992, è stato chiesto a ChatGPT di fornire informazioni sul libro “La strage – L’agenda rossa di Paolo Borsellino” di Vincenzo Ceruso. Le risposte fornite dall’IA hanno sollevato interrogativi sulla sua affidabilità e sulla presenza di pregiudizi nei suoi algoritmi.

Secondo quanto riportato, ChatGPT ha erroneamente attribuito a un magistrato il ruolo di traditore di Paolo Borsellino e ha affermato che furono esplose due bombe, non una, durante la strage. Inoltre, ha suggerito che Silvio Berlusconi fosse coinvolto nelle stragi mafiose, citandolo in più pagine del libro. Tuttavia, queste affermazioni si sono rivelate infondate, portando OpenAI a consigliare di ignorare le risposte precedenti fornite dall’IA.

Questo episodio mette in evidenza come l’intelligenza artificiale possa essere influenzata da pregiudizi e distorsioni, sollevando preoccupazioni sulla sua affidabilità e sull’accuratezza delle informazioni che fornisce.

Bias e Pregiudizi nell’Intelligenza Artificiale

Il problema dei bias nell’intelligenza artificiale non è nuovo e ha implicazioni significative in vari settori. Un esempio emblematico è il caso di Amazon, che nel 2014 ha sviluppato un software di recruitment per automatizzare la selezione del personale. L’algoritmo, addestrato su dati storici, ha finito per penalizzare le donne, favorendo i candidati maschili per posizioni tecnologiche. Questo bias era dovuto alla prevalenza di uomini nei dati di addestramento, riflettendo un’ineguaglianza di genere preesistente nel settore tecnologico.

Un altro esempio riguarda MidJourney, un sistema di intelligenza artificiale utilizzato per generare immagini. Le ricerche hanno mostrato che inserendo parole come “manager” o “emotive”, l’algoritmo produceva immagini stereotipate di uomini bianchi in giacca e cravatta o di donne bianche in lacrime, rispettivamente. Questi risultati evidenziano come i bias umani possano essere trasmessi e amplificati dai modelli di intelligenza artificiale.

Le Conseguenze dei Pregiudizi Algoritmici

I pregiudizi algoritmici possono avere conseguenze gravi, come dimostrato dal caso di Joy Boulamwini, una ricercatrice del MIT Media Lab. Nel suo studio del 2018, Boulamwini ha scoperto che gli algoritmi di riconoscimento facciale avevano difficoltà a riconoscere i volti delle donne di colore. Questo problema è stato messo in luce nel documentario “Coded Bias”, disponibile su Netflix, che esplora come i bias razziali e di genere siano radicati nei sistemi di intelligenza artificiale.

Un altro caso significativo riguarda Timnit Gebru, una ricercatrice di Google licenziata dopo aver pubblicato un articolo che criticava i software di elaborazione del linguaggio per il loro impatto ambientale e il rischio di veicolare pregiudizi. Gebru e i suoi collaboratori hanno segnalato che addestrare un modello di AI di grandi dimensioni richiede un’enorme potenza di calcolo, traducendosi in consumi energetici elevati e emissioni di CO2. Inoltre, hanno evidenziato come gli algoritmi possano ereditare bias razziali e sessisti dai dati di addestramento.

Le Sfide e le Soluzioni per un’Intelligenza Artificiale Etica

Affrontare i bias nell’intelligenza artificiale è una sfida complessa che richiede un approccio multidisciplinare. Le grandi aziende tecnologiche, come Google, Microsoft, Amazon, Apple e Facebook, stanno lavorando per migliorare l’etica dei loro sistemi di AI. Google, ad esempio, ha implementato politiche aziendali per evitare di creare o rafforzare ingiusti pregiudizi e ha sospeso la collaborazione con il Pentagono per lo sviluppo di droni dotati di intelligenza artificiale.

L’Unione Europea ha recentemente approvato una legge sull’intelligenza artificiale, con l’obiettivo di proteggere i diritti fondamentali, la democrazia e la sostenibilità ambientale dai sistemi di IA ad alto rischio. La proposta di regolamento vieta l’uso di tecniche subliminali per influenzare il comportamento delle persone e limita l’uso di sistemi di identificazione biometrica in tempo reale a casi particolari, come la ricerca di bambini scomparsi o la prevenzione di attacchi terroristici.

Bullet Executive Summary

In conclusione, il caso ChatGPT e la strage di Via D’Amelio evidenziano come i pregiudizi e le distorsioni possano influenzare i sistemi di intelligenza artificiale, sollevando interrogativi sulla loro affidabilità e accuratezza. Gli esempi di Amazon e MidJourney mostrano come i bias umani possano essere trasmessi e amplificati dai modelli di AI, con conseguenze significative in vari settori. Affrontare questi bias richiede un approccio multidisciplinare e un impegno costante da parte delle grandi aziende tecnologiche e dei legislatori.

Nozione base di intelligenza artificiale: L’intelligenza artificiale (IA) è la capacità di una macchina di mostrare capacità umane come il ragionamento, l’apprendimento, la pianificazione e la creatività. Tuttavia, l’IA può ereditare bias dai dati di addestramento, influenzando le sue decisioni e comportamenti.

Nozione avanzata di intelligenza artificiale: Il deep learning, alla base dei sistemi di intelligenza artificiale, consente di progettare, sviluppare e istruire reti neurali tramite algoritmi. Queste reti neurali sono modelli matematici complessi ispirati al funzionamento del cervello umano, ma le tecnologie attuali non consentono di comprendere appieno cosa avvenga nelle fasi di lavorazione dei dati, rendendo difficile eliminare i bias.

L’intelligenza artificiale ha il potenziale per essere un motore straordinario di progresso tecnologico, economico e sociale, ma è essenziale affrontare e risolvere le questioni etiche e i pregiudizi per garantire che i benefici siano equamente distribuiti.