AI e l'illusione del reale. Plausibile non significa vero

Gli agenti AI di oggi sono addestrati su un patrimonio immenso: tutto ciò che l’umanità ha prodotto in secoli di storia: testi, musica, immagini, codice. Ma c’è un dettaglio cruciale che spesso sfugge: hanno imparato da un campione distorto.

Hanno imparato a disegnare imitando i grafici professionisti e i grandi artisti; a comporre musica analizzando i capolavori classici e i brani più popolari su Spotify e YouTube; a programmare leggendo i progetti open source più apprezzati su GitHub. Il risultato? Macchine che generano output statisticamente eccellenti: allineati ai gusti medi, plausibili, ben formati, apparentemente di alta qualità.

Un testo generato da un LLM è spesso più scorrevole di quello che scriverebbe la maggior parte delle persone. Un’immagine generata è esteticamente coerente. Un programma generato, nella maggior parte dei casi, compila e gira. Ma la qualità apparente non è sempre qualità reale.

Il paradosso del plausibile

L’AI è ottimizzata per piacere a chi la interroga. Non a caso, i modelli più avanzati sono addestrati con tecniche come il Reinforcement Learning from Human Feedback (RLHF), che li spingono a produrre risposte che gli utenti giudicano utili, gradevoli o convincenti. L’AI tende a generare ciò che l’utente vuole sentire, non necessariamente ciò che è più vero o più profondo.

Questo fenomeno ricorda da vicino il modello dei content farm: una produzione abbondante di contenuti con una qualità media alta, ma una profondità spesso bassa. Il rischio è che, per chi non ha familiarità con il dominio, distinguere tra plausibile e vero diventa quasi impossibile.

L’AI: un umano migliore della media, ma non un esperto

I modelli di oggi hanno imparato a essere umani migliori della media. Scrivono meglio, disegnano meglio, programmano meglio. Ma “migliore della media” non significa “esperto” perchè i modelli linguistici non hanno una reale esperienza costruita nel mondo reale. E, soprattutto, non significa “onesto”.

L’AI non ha intenti malevoli, ma non ha nemmeno la capacità di discernere tra ciò che è veramente corretto e ciò che sembra corretto. È un riflesso delle nostre preferenze, dei nostri bias, delle nostre aspettative. Siamo noi ad averle insegnato a compiacerci. Non dobbiamo mai dimenticarlo!.