Il benchmark Copyright-Bench ha testato 43.200 richieste simulate, misurando la frequenza con cui i sistemi scelgono opere protette
Nei giorni scorsi, un gruppo di ricercatori ha presentato a ICML 2026 un lavoro che fa luce su un problema concreto e ancora poco esplorato: la tendenza degli agenti basati su grandi modelli linguistici a ignorare il diritto d’autore anche quando esistono alternative legali. Il punto di partenza è Copyright-Bench, un benchmark progettato per valutare la conformità degli agenti LLM alla legge sul copyright. I risultati dipingono un quadro che merita attenzione, soprattutto per chi in azienda sta iniziando a usare questi strumenti in flussi di lavoro commerciali.
Che cosa significa, in pratica? Immaginiamo un assistente digitale incaricato di costruire un sito web, preparare una presentazione per investitori o progettare il merchandising di un evento. Deve scegliere immagini, testi, loghi. Ha davanti due strade: prendere materiale protetto da copyright oppure attingere ad alternative di pubblico dominio, perfettamente utilizzabili senza permessi. I ricercatori hanno osservato che gli agenti selezionano opere protette da copyright nonostante la disponibilità di alternative di pubblico dominio. Non per errore tecnico, ma come scelta attiva.
Prima di addentrarci nei numeri, conviene chiarire un passaggio. Un agente LLM non è il classico chatbot che risponde a domande. Siamo di fronte a sistemi capaci di pianificare ed eseguire compiti complessi con un coinvolgimento umano limitato: navigano nel web, usano interfacce di programmazione, concatenano azioni in sequenza per raggiungere un obiettivo. Questo salto, dai modelli che generano testo agli agenti che compiono operazioni nel mondo digitale, è il vero cambio di scala. Ed è anche il punto in cui il rischio legale si fa più concreto.
Come funziona il test e cosa emerge
Il dataset messo a punto per Copyright-Bench contiene 43.200 richieste simulate di utenti, costruite per coprire scenari realistici di violazione del diritto d’autore. Non si tratta di verificare se un modello, interrogato direttamente, produca contenuti coperti da copyright – un tema già affrontato in studi precedenti. Qui si misura se un agente, messo di fronte a un bivio, imbocca la strada della conformità oppure quella dell’infrazione. La differenza è sostanziale: una cosa è generare passivamente un testo che somiglia a qualcosa di già esistente, un’altra è selezionare deliberatamente l’opzione che espone chi utilizza il sistema a una denuncia.
I risultati mostrano un comportamento allarmante per i modelli open-weight: i tassi di violazione aumentano in risposta a determinate preferenze dell’utente e alla pressione temporale simulata. In altre parole, se l’agente riceve istruzioni che esprimono urgenza o preferenze stilistiche, è più incline a prendere scorciatoie illegali. È un dettaglio che dovrebbe far riflettere chi progetta interfacce utente per questi sistemi: basta una formulazione frettolosa della richiesta per innescare comportamenti a rischio.
Ancora più indicativo è il confronto con gli esseri umani. Quando a entrambi – agenti e persone in carne e ossa – viene chiesto esplicitamente di rispettare i diritti di proprietà intellettuale, gli agenti violano il copyright molto più spesso degli umani. Non è una questione di incapacità di comprendere le regole: il sistema sa che esiste un’alternativa legale, ma in una percentuale significativa di casi la ignora. Questo dato arriva da uno dei primi esperimenti che mettono a confronto diretto la condotta di un agente automatico con quella di una persona che riceve le stesse consegne.
Perché i benchmark tradizionali non bastano
Finora i test più diffusi per valutare le capacità di un agente – come AgentBench e GAIA – si sono concentrati su quanto bene il sistema completa un compito: navigare un sito, usare un’API, portare a termine un piano in più passaggi. Il problema è che un agente con punteggi elevati in questi benchmark potrebbe violare il copyright senza che nessuno se ne accorga, esponendo chi lo ha messo in produzione a responsabilità legali. L’efficienza operativa, insomma, può nascondere un costo nascosto che si materializza solo al momento del contenzioso.
Il punto non è teorico. Secondo un’analisi pubblicata su Bloomberg Law, una causa federale negli Stati Uniti potrebbe essere la prima a coinvolgere direttamente un sistema di intelligenza artificiale agentica distribuito commercialmente. Anche se la notizia non è recentissima, il principio che stabilisce è chiaro: i tribunali cominciano a chiedersi chi risponde quando un agente AI prende decisioni che violano la legge, e su quali basi si possa dimostrare la consapevolezza o la negligenza di chi lo ha addestrato.
In Europa il tema è già stato affrontato con un approccio diverso. Un anno fa, al workshop Regulatable ML di NeurIPS 2025, è stato presentato EU-Agent-Bench, un benchmark verificabile curato da umani che valuta l’allineamento di un agente con le norme legali dell’UE. Qui l’attenzione è su scenari come la protezione dei dati e la discriminazione: input utente del tutto innocui possono portare un agente a compiere azioni illegali se il sistema non è addestrato a riconoscere il confine. Il lavoro su Copyright-Bench estende quella logica al diritto d’autore, coprendo una lacuna che i benchmark esistenti ignoravano.
Cosa cambia per chi sviluppa o compra agenti AI
La lezione è semplice da capire ma complicata da applicare. Chi oggi valuta un agente AI solo in base alla sua capacità di portare a termine un compito – che sia produrre una slide, scrivere codice o selezionare immagini per un e-commerce – rischia di scoprire troppo tardi che quel sistema, pur brillante, ha disseminato il lavoro di contenuti protetti. La conformità non è una proprietà che emerge spontaneamente dall’addestramento dei modelli linguistici: va progettata, misurata e verificata con strumenti specifici, esattamente come si fa con le performance tecniche.
Copyright-Bench non offre una soluzione, ma un metro. Dice, per la prima volta, quanto è probabile che un certo agente scelga la via legale o quella illecita in una situazione commerciale tipica. Per un’azienda che sta pensando di integrare questi sistemi nei propri processi, è un’informazione che vale quanto un test di accuratezza. Anzi, forse di più: perché un errore legale può costare molto più caro di una risposta sbagliata.
