Spiegazione della generazione potenziata dal recupero

La "Generazione potenziata dal recupero" (Retrieval-Augmented Generation) è una tecnica che collega un modello linguistico di grandi dimensioni a una base di conoscenza esterna, in modo che possa consultare le informazioni pertinenti prima di fornire una risposta. Anziché basarsi esclusivamente su ciò che ha memorizzato durante l'addestramento, il modello recupera fatti aggiornati e verificati nel momento stesso in cui viene posta la domanda e li utilizza per fondare la propria risposta.

Allora, cos’è il RAG in poche parole? È un esame “a libro aperto” per l’intelligenza artificiale. Un modello LLM standard risponde basandosi esclusivamente sulla memoria, proprio come uno studente che sostiene un esame “a libro chiuso”. A un modello RAG viene invece fornito prima il libro di testo; esso individua il passaggio pertinente e poi formula la risposta basandosi sul materiale di riferimento che ha davanti.

Questo piccolo cambiamento nel flusso di lavoro ha un grande impatto. I sistemi di IA basati sulla generazione potenziata dal recupero (RAG) sono in grado di citare le proprie fonti, rimanere aggiornati sulle informazioni pubblicate dopo l’addestramento del modello e rispondere a domande relative a dati aziendali riservati che il modello non ha mai visto. È proprio questa combinazione di caratteristiche a rendere la generazione potenziata dal recupero il modello di riferimento per le applicazioni serie di IA generativa.

Il termine è stato reso popolare in un Documento di ricerca del 2020 di Meta AI, ma l'idea di fondo è intuitiva: separare la conoscenza dal ragionamento. Lasciamo che una base di conoscenza veloce e consultabile contenga i fatti, e che il modello linguistico faccia ciò che sa fare meglio, ovvero comprendere la domanda e formulare una risposta fluida e utile.

Per capire perché il RAG è importante, bisogna comprendere la modalità di guasto che risolve.

I modelli linguistici di grandi dimensioni sono addestrati a prevedere la parola successiva più probabile in una sequenza. Sono straordinari nel riconoscere schemi, ma non sono in grado di distinguere in modo intrinseco tra “cose che conosco effettivamente” e “cose che sembrano plausibili”. Quando una domanda esula dai loro dati di addestramento, o riguarda un argomento di nicchia, recente o privato, spesso generano una risposta fluida e dall’aria autorevole che è semplicemente sbagliata. Si tratta di un’allucinazione dell’IA.

Ci sono tre ragioni strutturali per cui un LLM standard genera questi errori:

• La conoscenza è congelata. Un modello conosce solo ciò che era presente nei suoi dati di addestramento fino a una data limite prestabilita. Se gli viene chiesto di un evento, un prodotto o una politica successivi a tale data, non può fare altro che tirare a indovinare.

• La conoscenza è generica. I modelli sono addestrati su un ampio corpus di testi di dominio pubblico. Non hanno mai letto il vostro wiki interno, i vostri contratti o i vostri ticket di assistenza, quindi non sono in grado di rispondere con precisione a domande che li riguardano.

• Non esiste una fonte di verità. Poiché il modello fornisce le risposte attingendo da una memoria statistica compressa anziché da un documento, non è in grado di verificare né di citare la fonte di un'affermazione.

RAG affronta tutti e tre i problemi contemporaneamente. Recuperando i documenti pertinenti da una base di conoscenza al momento della query, il modello non è più limitato a una memoria statica e generica. Il ragionamento si basa su un contesto reale, specifico e aggiornato e, poiché tale contesto proviene da documenti identificabili, il sistema è in grado di illustrare il proprio processo decisionale. Il risultato è un notevole miglioramento misurabile nell’accuratezza dell’IA e un drastico calo delle affermazioni infondate.

L'architettura RAG si articola in due fasi. La prima avviene una sola volta e viene aggiornata periodicamente: consiste nel preparare le conoscenze in modo che possano essere oggetto di ricerca. La seconda si verifica ogni volta che un utente pone una domanda.

Fase 1: Indicizzazione (preparazione della base di conoscenza)

Prima che RAG possa recuperare qualsiasi dato, le informazioni grezze devono essere rese ricercabili. Questa pipeline di indicizzazione viene eseguita in anticipo:

1. Acquisizione e suddivisione in blocchi. I documenti di origine, quali file PDF, pagine web, articoli di assistenza e record di database, vengono suddivisi in brani più brevi, o “chunk”, che in genere contengono poche centinaia di parole ciascuno. La suddivisione in chunk è importante perché l’obiettivo è recuperare frammenti mirati e pertinenti, anziché interi manuali di 50 pagine.

2. Crea gli embedding. Ogni blocco viene elaborato da un modello di embedding che converte il testo in un vettore, ovvero una lunga sequenza di numeri che ne riassume il significato. Due brani che trattano lo stesso concetto producono vettori matematicamente simili, anche se utilizzano parole completamente diverse.

3. Memorizzare in un database vettoriale. Queste rappresentazioni vengono salvate in un database vettoriale, come Pinecone, Weaviate, Milvus, pgvector o FAISS, progettato appositamente per individuare i vettori più simili a qualsiasi query su larga scala e con rapidità.

Fase 2: Recupero e generazione (risposta alla domanda)

Quando un utente invia una richiesta, la pipeline RAG entra in azione:

1. Inserisci la query. La domanda dell'utente viene convertita in un vettore utilizzando lo stesso modello di embedding.

2. Ricerca semantica. Il database vettoriale confronta il vettore di ricerca con ogni blocco memorizzato e restituisce i risultati più pertinenti. Trattandosi di una ricerca semantica, che si basa sul significato piuttosto che sulle parole chiave, una domanda relativa alla “riduzione del tasso di abbandono dei clienti” farà emergere un documento sul “miglioramento della fidelizzazione”, anche in assenza di parole in comune. Questa fase costituisce il motore di recupero dei documenti dell’intero sistema.

3. Aumento del prompt. I frammenti recuperati vengono inseriti nel prompt insieme alla domanda originale. Questa fase di recupero e inserimento del contesto costituisce la parte "aumentata" della generazione aumentata dal recupero: il prompt del modello viene arricchito proprio con le informazioni di cui ha bisogno.

4. Generazione. Il modello linguistico di grandi dimensioni legge il prompt arricchito, ovvero la domanda accompagnata dal contesto di supporto, e formula una risposta ben fondata, spesso corredata di riferimenti ai documenti di origine.

L'eleganza di questo flusso di lavoro basato sull'IA generativa sta nel fatto che il modello linguistico non deve mai "conoscere" i dati in anticipo. È possibile aggiornare la base di conoscenza in qualsiasi momento e la query successiva recupererà immediatamente le nuove informazioni, senza che sia necessario un costoso processo di riaddestramento.

Ogni modello RAG, per quanto sofisticato, è composto dagli stessi elementi costitutivi. Comprendere ciascuno di essi aiuta a valutare costi, prestazioni e accuratezza.

La base di conoscenza. Questa è la tua fonte di riferimento: l'insieme dei documenti da cui vuoi che l'IA attinga per fornire le risposte. La qualità di questi documenti determina il limite massimo dell'intero sistema. Contenuti chiari, ben strutturati e aggiornati producono risposte accurate; contenuti obsoleti o contraddittori producono assurdità presentate come certezze.

Il modello di incorporamento. Questo processo converte il testo in vettori. Migliori sono gli embedding, maggiore è la pertinenza dei frammenti recuperati. La scelta di un modello di embedding ottimizzato per il proprio settore — che sia legale, medico o tecnico — può migliorare significativamente i risultati.

Il database vettoriale. Questo sistema memorizza le rappresentazioni e esegue ricerche di similarità alla velocità della luce. È il motore principale del recupero dei contenuti ed è ciò che consente a RAG di scalare da un centinaio di documenti a cento milioni.

Il retriever. La logica che determina cosa recuperare e in che quantità. I motori di ricerca avanzati combinano la ricerca semantica con quella tradizionale basata su parole chiave, un approccio “ibrido”, e possono riorganizzare i risultati in modo da portare in cima quelli più pertinenti.

Il modello linguistico di grandi dimensioni. Il generatore che trasforma il contesto estratto in una risposta fluida e comprensibile per l'utente. Può trattarsi di un modello Frontier o di un modello più piccolo a pesi aperti in esecuzione sulla propria infrastruttura.

Il livello di orchestrazione. L'elemento di collegamento, insieme a framework come LangChain o LlamaIndex, che unisce questi componenti in un unico flusso di lavoro di IA generativa e gestisce la creazione dei prompt, la gestione degli errori e la formattazione dei risultati.

Una domanda ricorrente è se sia meglio utilizzare il metodo RAG o semplicemente ottimizzare un modello sui propri dati. Si tratta di due approcci che risolvono problemi diversi, e spesso la risposta giusta è “entrambi”.

La regola empirica più semplice: il fine-tuning modifica il comportamento del modello, mentre il RAG modifica ciò che il modello conosce. Se avete bisogno che l’IA adotti un tono particolare o segua una struttura di output rigorosa, ricorrete alla messa a punto. Se avete bisogno che risponda in modo accurato attingendo a un corpus di fatti che cambia nel tempo, utilizzate il RAG. Per l’IA aziendale, il RAG è quasi sempre il punto di partenza perché le conoscenze cambiano costantemente e le citazioni delle fonti sono imprescindibili.

Il RAG non è un modello teorico. È alla base di molti dei prodotti di intelligenza artificiale che le persone utilizzano quotidianamente. Ecco alcuni esempi concreti di RAG in diversi settori:

• Addetti all'assistenza clienti. Un bot di assistenza recupera le risposte dal centro assistenza dell'azienda, dalla documentazione dei prodotti e dai ticket precedenti, fornendo così risposte precise e in linea con l'immagine del marchio, anziché ipotesi generiche.

• Ricerca interna delle conoscenze. I dipendenti pongono domande in un linguaggio semplice e ricevono risposte basate sul wiki aziendale, sulle politiche delle risorse umane e sui manuali operativi del reparto tecnico. Si tratta di un importante risultato ottenuto dall'intelligenza artificiale aziendale in termini di produttività.

• Verifica legale e di conformità. Un modello RAG individua le clausole e le norme esatte pertinenti a una domanda, corredate di riferimenti, in modo che gli avvocati possano verificare ogni affermazione confrontandola con la fonte.

• Supporto decisionale in ambito sanitario. I medici consultano le ricerche più recenti e le linee guida terapeutiche, mentre il sistema recupera e sintetizza le evidenze scientifiche sottoposte a revisione tra pari, anziché fornire dosaggi inventati.

• Ricerca finanziaria. Gli analisti chiedono informazioni su utili, documenti depositati e dati di mercato, e l’assistente attinge dai rapporti aggiornati anziché da un’istantanea di addestramento ormai obsoleta.

• Chat sulla documentazione per sviluppatori. Un'esperienza di "chat con i tuoi documenti" in cui gli sviluppatori ottengono esempi di codice accurati e specifici per ogni versione grazie al recupero dei documenti dalla documentazione ufficiale.

Il filo conduttore che accomuna tutti gli esempi è lo stesso: il valore deriva dal fatto che la risposta si basa su una base di conoscenze affidabile, ed è proprio questo che offre la generazione potenziata dal recupero.

Perché RAG è diventata l'architettura di riferimento per l'IA generativa in produzione? Perché offre una serie di vantaggi che nessun'altra singola tecnica è in grado di eguagliare:

• Maggiore precisione dell'IA e meno "allucinazioni". Basare le risposte sui documenti recuperati permette al modello di rimanere ancorato ai fatti anziché a ipotesi plausibili.

• Conoscenze sempre aggiornate. Basta aggiornare la base di conoscenza e il sistema è immediatamente aggiornato, senza bisogno di un ciclo di riqualificazione né di attendere il rilascio del modello successivo.

• Riferimenti alle fonti e affidabilità. Poiché le risposte rimandano a documenti specifici, gli utenti possono verificare le affermazioni. Questa tracciabilità è fondamentale per i settori soggetti a regolamentazione.

• Dati personali, in tutta sicurezza. Il RAG consente a un modello di fornire risposte attingendo dai tuoi contenuti proprietari senza che tali contenuti vengano integrati nei pesi del modello.

• Costo inferiore rispetto alla messa a punto. L'indicizzazione dei documenti è di gran lunga più economica rispetto al ripetuto riaddestramento di un modello linguistico di grandi dimensioni.

• Modelli più piccoli, risultati più grandi. Grazie a un'efficace capacità di recupero delle informazioni, anche un LLM di dimensioni modeste può superare in prestazioni uno molto più grande che non disponga del contesto adeguato.

Nel loro insieme, questi vantaggi trasformano l'IA generativa da una semplice demo di grande effetto a uno strumento aziendale affidabile.

Il RAG è potente, ma non è una formula magica. Conoscere i suoi punti deboli è ciò che distingue un sistema affidabile da uno fragile.

• Se entrano dati errati, escono dati errati. Se la tua knowledge base è obsoleta, contraddittoria o redatta in modo inadeguato, il sistema di ricerca fornirà inevitabilmente informazioni errate.

• La qualità del recupero è fondamentale. Se il retriever recupera blocchi irrilevanti, il modello non ha nulla di utile su cui lavorare. La messa a punto delle dimensioni dei blocchi, degli embedding e del re-ranking è un lavoro di ingegneria in corso.

• Limiti della finestra di contesto. In un prompt si può inserire solo una quantità limitata di testo recuperato. Se si recupera troppo poco, si perde la risposta; se si recupera troppo, si aggiungono rumore e costi.

• Latenza e costi. Ogni query ora prevede una fase di embedding, una ricerca nel database e un prompt più lungo, il che comporta un aumento in termini di millisecondi e token.

• Riduce, ma non elimina, le allucinazioni. Un modello può comunque interpretare erroneamente o estrapolare in modo eccessivo da un contesto corretto, pertanto la revisione umana rimane fondamentale per gli impieghi ad alto rischio.

Nessuno di questi aspetti è determinante. Si tratta semplicemente di considerazioni progettuali che trasformano un prototipo in un solido flusso di lavoro basato sull'intelligenza artificiale generativa.

Se sei pronto a creare il tuo primo modello RAG, ecco il flusso di lavoro completo sintetizzato in passaggi pratici:

1. Definisci il caso d'uso e raccogli le tue conoscenze. Decidete esattamente a quali domande il sistema deve rispondere e raccogliete i documenti che contengono tali risposte.

2. Pulire e suddividere i dati in blocchi. Eliminare i contenuti duplicati e obsoleti, quindi suddividere i documenti in brani coerenti di dimensioni adeguate per la ricerca.

3. Scegli un modello di incorporamento e genera i vettori. Scegli un modello adatto al tuo settore e alla tua lingua, quindi incorpora ogni blocco.

4. Creare un database vettoriale. Carica i tuoi embedding e configura l'indicizzazione per una ricerca semantica veloce alla scala desiderata.

5. Costruisci il retriever. Inizia con la ricerca semantica, poi aggiungi la corrispondenza ibrida delle parole chiave e il riordino dei risultati per portare in cima quelli più pertinenti.

6. Ottimizza il prompt. Progetta un modello di prompt che combini in modo chiaro la domanda dell'utente con il contesto recuperato e che indichi al modello di rispondere solo sulla base di quel contesto e di citare le fonti.

7. Collegare l'LLM e avviare l'orchestrazione. Collega il retriever al tuo modello linguistico di grandi dimensioni utilizzando un framework di orchestrazione e gestisci automaticamente l'ampliamento dei prompt.

8. Valutare e ripetere il processo. Eseguire test con domande reali, valutare l'accuratezza e la qualità delle citazioni, e ottimizzare il chunking, il recupero delle informazioni e i prompt in base agli errori riscontrati.

Considerate i passaggi dal 6 all’8 come un ciclo, non come un’attività da svolgere una tantum. I sistemi RAG più performanti sono quelli i cui team continuano a misurare la qualità del recupero e a perfezionare la pipeline.

Il RAG si sta evolvendo rapidamente e la prossima ondata sta già prendendo forma. Il RAG agentico consente al sistema di decidere autonomamente quando effettuare il recupero, cosa cercare e se eseguire più fasi di recupero per rispondere a domande complesse e articolate in più parti. Il RAG multimodale estende il recupero oltre il testo a immagini, tabelle, audio e video, in modo che una singola query possa attingere da una base di conoscenza molto più ricca.

Allo stesso tempo, l’espansione delle finestre di contesto e il recupero basato su grafi stanno ampliando la quantità di informazioni rilevanti su cui un modello è in grado di ragionare contemporaneamente. Il filo conduttore è chiaro: il futuro di un’IA affidabile è un’IA radicata nella realtà, e il recupero è il modo in cui la radichiamo. Il RAG non è una tecnica passeggera. Sta diventando un livello permanente nello stack moderno dell’IA.

Tutto ciò che avete letto sulla “generazione potenziata dal recupero” (RAG) si applica direttamente a uno dei settori in più rapida evoluzione dell’intelligenza artificiale: lo streaming video e le piattaforme OTT. Un servizio di streaming è, nella sua essenza, un’enorme base di conoscenza in continua evoluzione composta da titoli, episodi, metadati, trascrizioni, sottotitoli, cronologia delle visualizzazioni e contenuti di assistenza. È proprio la RAG a trasformare quella libreria in un’esperienza intelligente, conversazionale e accurata, anziché in un semplice catalogo statico.

È proprio questo il tipo di esperienza basata sull'intelligenza artificiale Vodlix è progettato per garantire risultati concreti. Vodlix è lo “Shopify” dell’OTT: una piattaforma di streaming video completamente white label che consente a qualsiasi creatore, emittente o azienda del settore dei media di lanciare un servizio personalizzato con il proprio marchio, di livello pari a Netflix, senza alcun CAPEX e senza bisogno di un team di ingegneri. E poiché Vodlix è basato sull’intelligenza artificiale, gli stessi principi di recupero descritti in questa guida si applicano proprio dove contano di più:

• Ricerca di contenuti basata su dati concreti. Anziché proporre suggerimenti generici, il sistema di ricerca in stile RAG sul proprio catalogo, combinato con l'analisi del comportamento degli utenti, permette di proporre il titolo giusto all'utente giusto, aumentando il tempo di visione e riducendo il tasso di abbandono.

• Ricerca intuitiva e precisa. La ricerca semantica consente al tuo pubblico di trovare contenuti in base al significato, ad esempio "un documentario che fa stare bene sull'oceano", anziché in base a titoli esatti, con risultati basati sul tuo catalogo effettivo.

• Un’assistenza affidabile. Un assistente basato su RAG è in grado di rispondere alle domande degli abbonati e degli amministratori attingendo direttamente dal tuo centro assistenza e dalla tua documentazione, in modo accurato e 24 ore su 24, senza distorcere le politiche aziendali.

• Intuizione senza congetture. Le analisi di Vodlix ti forniscono i dati di riferimento che consentono a qualsiasi livello di intelligenza artificiale di basarsi su ciò che i tuoi spettatori fanno realmente.

Il concetto da tenere a mente è semplice: il futuro dello streaming si basa sull’intelligenza artificiale (AI) integrata, e l’AI integrata si fonda sul recupero dei contenuti. Che tu stia lanciando il tuo primo servizio VOD o espandendo una rete televisiva in diretta su più dispositivi, Vodlix ti offre l’infrastruttura white label, le opzioni di monetizzazione (SVOD, AVOD e TVOD) e le basi pronte per l’AI necessarie per farlo.

Sei pronto a lanciare una piattaforma di streaming più intelligente? Prenota una demo gratuita di Vodlix e scopri come oltre 200 marchi stanno aumentando il proprio fatturato grazie a una soluzione OTT completamente personalizzata e basata sull'intelligenza artificiale, operativa in pochi giorni anziché in mesi.

La "Generazione potenziata dal recupero" (RAG) colma il divario tra ciò che i modelli linguistici di grandi dimensioni (LLM) sono in grado di affermare e ciò che possono dimostrare. Abbinando una base di conoscenza veloce e consultabile alla capacità di ragionamento di un LLM, la RAG fornisce risposte accurate, aggiornate e riconducibili a una fonte, esattamente ciò che richiedono le applicazioni nel mondo reale. Dai servizi di assistenza aziendale alle piattaforme di streaming globali, il recupero delle informazioni sta diventando un livello permanente dello stack di IA, e i team che lo adotteranno ora realizzeranno i prodotti più affidabili del prossimo decennio.