Copyright e IA: GPT-4o addestrato su materiale protetto?

Gpt-4o ha un punteggio auroc dell'82% nel riconoscimento dei contenuti a pagamento.
Gpt-3.5 turbo ha un punteggio auroc di poco superiore al 50%.
I modelli più recenti distinguono meglio il linguaggio umano e quello generato.

L’attenzione si concentra nuovamente sulle pratiche di addestramento dei modelli di intelligenza artificiale (IA) di OpenAI, in particolare sull’uso di materiale protetto da copyright. Una nuova ricerca solleva dubbi significativi sulla provenienza dei dati utilizzati per addestrare i modelli linguistici di grandi dimensioni (LLM) di OpenAI, gettando un’ombra sulla trasparenza e l’etica delle pratiche di addestramento dell’azienda.

## L’Accusa: Addestramento su Materiale Protetto da Copyright
L’AI Disclosures Project, un’organizzazione guidata da figure di spicco come Tim O’Reilly e Ilan Strauss, ha pubblicato uno studio che suggerisce che il modello GPT-4o di OpenAI mostra un forte riconoscimento di dati protetti da copyright provenienti da libri di O’Reilly Media. L’organizzazione mira a promuovere una maggiore trasparenza nel settore dell’IA, evidenziando i potenziali impatti negativi della commercializzazione dell’IA e sostenendo la necessità di standard di divulgazione più rigorosi.

Ricevi gratuitamente le news che più interessano. Nessuno spam, puoi disiscriverti in ogni momento.

Nome

Cognome

Acconsento alla comunicazione dei miei dati a terzi affinché li trattino per proprie finalità di marketing tramite modalità automatizzate e tradizionali di contatto.

La ricerca si basa su un dataset di 34 libri di O’Reilly Media, legalmente acquisiti, utilizzati per valutare se i modelli LLM di OpenAI siano stati addestrati su materiale protetto da copyright senza consenso. Il metodo DE-COP, un tipo di “membership inference attack”, è stato impiegato per determinare se i modelli potessero distinguere tra testi originali di O’Reilly e versioni parafrasate generate dall’IA.

## Risultati Chiave e Implicazioni

I risultati dello studio indicano che GPT-4o mostra un riconoscimento notevolmente superiore di contenuti protetti da copyright rispetto al modello precedente GPT-3.5 Turbo. In particolare, GPT-4o ha ottenuto un punteggio AUROC (Area Under the Receiver Operating Characteristic) dell’82% nel riconoscimento di contenuti a pagamento di O’Reilly, mentre GPT-3.5 Turbo ha ottenuto un punteggio appena superiore al 50%. Questo suggerisce che GPT-4o è stato probabilmente addestrato su dati non pubblici e protetti da copyright.

Inoltre, GPT-4o ha dimostrato un riconoscimento più forte di contenuti non pubblici rispetto a campioni accessibili pubblicamente (82% contro 64% di punteggio AUROC), mentre GPT-3.5 Turbo ha mostrato una tendenza opposta. Il modello più piccolo, GPT-4o Mini, non ha mostrato alcuna conoscenza dei contenuti di O’Reilly Media, suggerendo che la capacità di “memorizzare” il testo potrebbe essere influenzata dalle dimensioni del modello.

I ricercatori ipotizzano che l’accesso non autorizzato ai dati potrebbe essere avvenuto tramite database come LibGen, dove tutti i libri di O’Reilly testati erano disponibili. Pur riconoscendo che i modelli LLM più recenti hanno una maggiore capacità di distinguere tra linguaggio umano e generato dalla macchina, i ricercatori sostengono che ciò non invalida la loro metodologia.

Le implicazioni di questi risultati sono significative. Se confermato, l’addestramento di modelli IA su materiale protetto da copyright senza consenso potrebbe avere conseguenze negative per i creatori di contenuti, portando a una diminuzione della qualità e della diversità dei contenuti online. La mancata remunerazione dei creatori per l’utilizzo dei loro lavori potrebbe innescare un circolo vizioso, in cui le fonti di reddito per la creazione di contenuti professionali si riducono, minando le basi stesse su cui si fondano i sistemi di IA.

## La Necessità di Trasparenza e Responsabilità

L’AI Disclosures Project sottolinea la necessità di una maggiore trasparenza e responsabilità da parte delle aziende di IA riguardo ai processi di pre-addestramento dei modelli. L’introduzione di disposizioni di responsabilità che incentivino la divulgazione della provenienza dei dati potrebbe rappresentare un passo importante verso la creazione di mercati commerciali per la concessione di licenze e la remunerazione dei dati di addestramento.
Le normative dell’EU AI Act, che impongono requisiti di divulgazione, potrebbero innescare un ciclo virtuoso di standard di divulgazione, a condizione che siano adeguatamente specificate e applicate. Garantire che i titolari di proprietà intellettuale siano informati quando il loro lavoro è stato utilizzato nell’addestramento dei modelli è fondamentale per stabilire mercati di IA equi e sostenibili per i dati dei creatori di contenuti.

Nonostante le prove che le aziende di IA potrebbero ottenere illegalmente dati per l’addestramento dei modelli, sta emergendo un mercato in cui gli sviluppatori di modelli IA pagano per i contenuti tramite accordi di licenza. Aziende come Defined.ai facilitano l’acquisto di dati di addestramento, ottenendo il consenso dai fornitori di dati e rimuovendo le informazioni personali identificabili.

## Verso un Futuro Sostenibile per l’IA

La questione dell’addestramento dei modelli IA su materiale protetto da copyright è complessa e controversa. OpenAI ha sostenuto la necessità di norme più flessibili sull’utilizzo di dati protetti da copyright, mentre i titolari di diritti d’autore e le organizzazioni come l’AI Disclosures Project chiedono maggiore trasparenza e responsabilità. La ricerca presentata solleva interrogativi importanti sulle pratiche di addestramento di OpenAI e sulle potenziali conseguenze per l’ecosistema dei contenuti online. È essenziale trovare un equilibrio tra l’innovazione nel campo dell’IA e la protezione dei diritti dei creatori di contenuti. Solo attraverso la trasparenza, la responsabilità e la collaborazione sarà possibile costruire un futuro sostenibile per l’IA, in cui i benefici della tecnologia siano condivisi equamente da tutti.

## Conclusione: Un Bivio Etico per l’Intelligenza Artificiale

La controversia sull’addestramento dei modelli di intelligenza artificiale con materiale protetto da copyright rappresenta un bivio cruciale per il futuro dell’IA. La ricerca dell’AI Disclosures Project non solo solleva interrogativi sulla trasparenza delle pratiche di OpenAI, ma pone anche una questione etica fondamentale: come possiamo garantire che lo sviluppo dell’IA non avvenga a scapito dei diritti e del sostentamento dei creatori di contenuti?

Per comprendere appieno la portata di questa questione, è utile considerare alcuni concetti chiave dell’intelligenza artificiale. Un modello di linguaggio come GPT-4o si basa su un processo di apprendimento chiamato *apprendimento supervisionato. In questo processo, il modello viene addestrato su un vasto dataset di esempi, in questo caso, testi. Il modello impara a prevedere la parola successiva in una frase, basandosi sui modelli e sulle relazioni che ha identificato nei dati di addestramento.

Un concetto più avanzato è quello di inferenza di appartenenza (membership inference), utilizzato nello studio DE-COP. Questa tecnica cerca di determinare se un determinato dato è stato utilizzato nell’addestramento di un modello. In altre parole, cerca di capire se il modello “ricorda” specifici esempi dai suoi dati di addestramento.

La questione dell’addestramento su materiale protetto da copyright solleva una riflessione profonda: fino a che punto è lecito utilizzare il lavoro altrui per addestrare un’IA? E quali sono le implicazioni per la creatività umana e la produzione di contenuti originali?* La risposta a queste domande determinerà il futuro dell’IA e il suo impatto sulla società.

Per approfondire:

Articolo e immagini generati dall’AI, senza interventi da parte dell’essere umano. Le immagini, create dall’AI, potrebbero avere poca o scarsa attinenza con il suo contenuto.(scopri di più)