Reddit e l’IA: la cura è la malattia stessa?

Le regole del digitale stanno cambiando.

O sei visibile o sei fuori. Noi ti aiutiamo a raggiungere i clienti giusti — quando ti stanno cercando.

Contattaci ora →

La piattaforma si ritrova a combattere una quantità crescente di contenuti artificiali mentre, al tempo stesso, stringe accordi milionari per fornire i suoi dati alle stesse aziende di intelligenza artificiale che alimentano il problema.

Reddit dichiara guerra allo spam generato dall’intelligenza artificiale utilizzando la stessa tecnologia, un paradosso che evidenzia una strategia contraddittoria. Mentre i nuovi filtri basati su LLM mostrano successi, la piattaforma vende i dati alle aziende di IA, alimentando indirettamente il problema che cerca di estirpare. Una mossa che solleva seri dubbi sulla sostenibilità di questa lotta interna.

Reddit e l’IA: la cura è la malattia stessa?

Reddit ha un problema.

E, diciamocelo, è un problema che in parte ha contribuito a creare.

La piattaforma è invasa da un’ondata di spam e campagne di marketing mascherate, prodotte in serie da quelle stesse intelligenze artificiali che stanno cambiando il nostro modo di cercare informazioni. Contenuti creati non solo per ingannare te, utente in carne e ossa, ma soprattutto per manipolare le risposte dei chatbot e dei motori di ricerca come ChatGPT e Gemini.

La risposta di Reddit?

Usare altra IA per combattere il caos generato dall’IA.

Una mossa che, a prima vista, sembra logica.

Ma questa nuova arma è davvero la soluzione, o solo un altro pezzo di un puzzle molto più complicato?

Reddit combatte il fuoco con il fuoco: l’IA contro lo spam (generato dall’IA)

Reddit ha messo in campo nuovi sistemi di moderazione basati su modelli linguistici di grandi dimensioni (LLM), gli stessi motori che alimentano ChatGPT. Stando ai dati che hanno diffuso, questi strumenti ora bloccano circa 23 milioni di visualizzazioni di spam ogni singolo giorno e intercettano 25.000 nuovi post e commenti spazzatura quotidianamente.

Numeri che l’azienda sbandiera con orgoglio, sostenendo che l’esposizione degli utenti allo spam è diminuita del 20% tra gennaio e marzo, attribuendo il merito al miglioramento dei loro sistemi e non, dicono loro, a un semplice aumento del volume di spazzatura digitale.

Come riportato da TechCrunch, la vera novità è che questi modelli non si limitano a cercare parole chiave sospette, ma sono addestrati a riconoscere “schemi di comportamento fittizio altamente sottili e coordinati” che i vecchi filtri si lasciavano sfuggire.

In pratica, cercano di smascherare una vera e propria cospirazione digitale.

E tutto questo sforzo è necessario perché la natura stessa dello spam è cambiata radicalmente.

Non si tratta più di semplici annunci fastidiosi che cercano di venderti qualcosa.

Non è solo spam: è una guerra per manipolare le risposte di ChatGPT

Il vero obiettivo di questa nuova ondata di contenuti artificiali è molto più subdolo. Brand e spammer stanno usando l’IA per sfornare post e commenti che sembrano conversazioni autentiche, con il solo scopo di promuovere prodotti o servizi all’interno delle community più popolari.

La loro speranza?

Che i sistemi come ChatGPT, Gemini o le AI Overviews di Google, che considerano Reddit una fonte autorevole dell’opinione pubblica, citino proprio i loro contenuti falsi nelle risposte fornite agli utenti.

L’obiettivo non è più solo venderti qualcosa direttamente, ma infilarsi nelle risposte che l’intelligenza artificiale ti darà quando farai una ricerca.

Un nuovo tipo di “marketing invisibile”, come lo descrive Mashable, che sfrutta sia gli utenti umani sia i sistemi automatici che scandagliano Reddit per imparare.

Ma qui arriva il bello, o il brutto, a seconda dei punti di vista.

Mentre Reddit costruisce queste difese sempre più sofisticate, dall’altra parte sta, in un certo senso, vendendo le munizioni al nemico.

Il paradosso di Reddit: vendere dati all’IA e temerne le conseguenze

La piattaforma si trova in una posizione a dir poco schizofrenica. Da un lato, ha bloccato molti scraper non autorizzati che raccoglievano i suoi dati; dall’altro, ha firmato accordi di licenza milionari con aziende come OpenAI, permettendo loro di usare i contenuti di Reddit per addestrare i loro modelli commerciali.

In poche parole, Reddit vende i suoi dati alle stesse aziende di intelligenza artificiale che, indirettamente, alimentano il problema che ora sta cercando disperatamente di risolvere.

Questa contraddizione non è passata inosservata, specialmente tra i moderatori volontari, la vera spina dorsale della piattaforma. Un gruppo di ricercatori della Cornell University ha scoperto che i moderatori vedono i contenuti IA come una “triplice minaccia”: degradano la qualità delle discussioni, rovinano le dinamiche sociali e sono quasi impossibili da governare su larga scala.

Alcune community, come r/Battletech, hanno già preso in mano la situazione, vietando completamente qualsiasi contenuto generato dall’IA per proteggere l’autenticità e le opere originali dei fan.

Alla fine, la strategia di Reddit solleva un dubbio fondamentale:

Usare l’IA per moderare contenuti generati dall’IA è una soluzione sostenibile o solo un modo per tappare le falle di una nave che imbarca acqua da più parti?

Mentre la piattaforma si vanta di essere “il posto più umano su internet”, la sua crescente dipendenza da sistemi automatici per governare le conversazioni umane (e non) lascia più di una domanda aperta sul suo futuro.