Carefully Built
Contatti
Illustrazione in caratteri ASCII: documenti, una nuvola di punti e un riquadro di risposta collegato in arancione ai punti più vicini

Retrieval-Augmented Generation · Alessandro Dodi · aggiornato il 19 novembre 2026

RAG: cos'è la Retrieval-Augmented Generation nell'AI

RAG (Retrieval-Augmented Generation, generazione aumentata dal recupero) è una tecnica che fa rispondere un modello di intelligenza artificiale usando documenti specifici: prima cerca i passaggi pertinenti in una base di conoscenza (manuali, procedure, contratti), poi li passa al modello, che scrive la risposta su quelli e indica da dove vengono.

Cos’è il RAG

Un modello linguistico, come quelli dietro ChatGPT, Claude o Gemini, ha imparato moltissimo leggendo testi pubblici fino a una certa data. Ma non conosce i vostri documenti: listini, manuali tecnici, procedure interne, contratti, storico dei ticket. Se gli fate una domanda su questi, ha due possibilità: dire che non lo sa, oppure inventare una risposta plausibile. È la cosiddetta allucinazione.

Il RAG risolve il problema senza toccare il modello. Invece di sperare che sappia la risposta, gliela si mette davanti: un sistema di ricerca trova nei vostri documenti i passaggi pertinenti alla domanda, li inserisce nel prompt, e il modello risponde leggendoli. Come uno studente all’esame a libro aperto, con l’indice già consultato da qualcun altro.

Il termine viene da un articolo del 2020 di Patrick Lewis e altri ricercatori di Facebook AI Research, University College London e New York University, Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, presentato a NeurIPS 2020. Da allora è diventato il modo standard per collegare un’AI generativa alla conoscenza di un’azienda.

Come funziona, passo per passo

Come funziona il RAG: una volta si dividono i documenti in parti, si calcolano gli embedding e si costruisce l'indice; a ogni domanda si cerca, si riordina e si genera la risposta con le fonti

Un sistema RAG ha due fasi: una si fa una volta (e a ogni aggiornamento dei documenti), l’altra a ogni domanda.

Preparazione dell’indice

  1. Raccolta e pulizia. Si prendono i documenti da dove stanno (cartelle condivise, SharePoint, gestionale, ticket, wiki) e se ne estrae il testo. PDF scansionati, tabelle e intestazioni ripetute vanno sistemati qui: è il passaggio che decide la qualità di tutto il resto.
  2. Divisione in parti (chunking). Ogni documento viene diviso in pezzi di poche centinaia di parole, possibilmente rispettando paragrafi e sezioni. Pezzi troppo grandi annacquano il significato; troppo piccoli perdono il contesto.
  3. Embedding. Ogni pezzo viene trasformato da un modello apposito in un vettore, una lista di numeri (per esempio 1.536) che ne rappresenta il significato. Testi che parlano della stessa cosa hanno vettori vicini, anche se usano parole diverse.
  4. Indice. I vettori finiscono in un database vettoriale (pgvector su PostgreSQL, Qdrant, Pinecone, Weaviate e altri), insieme al testo, alla fonte e ai permessi di ogni pezzo.

A ogni domanda

  1. Ricerca. Anche la domanda diventa un vettore, e si cercano i pezzi più vicini. Conviene affiancare una ricerca per parole chiave (l’algoritmo BM25), che trova ciò che la ricerca per significato perde: codici articolo, sigle, nomi propri.
  2. Riordino (reranking). Un secondo modello rilegge i candidati e mette in cima quelli davvero pertinenti.
  3. Generazione. Domanda e pezzi selezionati vanno al modello linguistico, con l’istruzione di rispondere solo su quella base e di dire “non lo trovo” se l’informazione manca.
  4. Citazione. La risposta indica documento e punto da cui viene, così chi legge può verificare in un clic.

Quanto contano i passi 5 e 6 lo ha misurato Anthropic in uno studio pubblicato a settembre 2024. Partendo da una ricerca solo per significato che falliva nel 5,7% dei casi, aggiungere a ogni pezzo una breve spiegazione del suo contesto (di quale documento fa parte, di cosa parla la sezione) ha ridotto i fallimenti del 35%; con la ricerca per parole chiave del 49%; con il riordino del 67%, fino all’1,9%.

Un esempio con i numeri

Esempio ipotetico. Un costruttore di macchine ha 2.000 manuali tecnici di 10 pagine ciascuno, in media: 20.000 pagine. I tecnici dell’assistenza fanno circa 3.000 domande al mese, del tipo “come si resetta l’allarme E34 sul modello X dopo la sostituzione del sensore?”.

Indicizzare tutto. Con la stima di OpenAI di circa 800 token per pagina, sono 20.000 × 800 = 16 milioni di token. Con un modello di embedding come text-embedding-3-small (0,02 $ per milione di token) la spesa è 16 × 0,02 = 0,32 $. Rifarlo ogni volta che i manuali cambiano costa praticamente nulla.

Una risposta. Il sistema recupera 20 pezzi da circa 400 token, cioè 8.000 token, più 1.000 tra istruzioni e domanda: 9.000 token in ingresso. Con Claude Sonnet 5.5 (2 $ per milione in ingresso, 10 $ in uscita, listino di novembre 2026):

  • ingresso: 9.000 × 2 ÷ 1.000.000 = 0,018 $
  • uscita, una risposta di 500 token: 500 × 10 ÷ 1.000.000 = 0,005 $
  • totale: circa 0,023 $ a domanda, cioè circa 69 $ al mese per 3.000 domande.

Perché non mettere tutto nel prompt? Perché 16 milioni di token sono 16 volte la finestra di contesto più grande dei modelli Claude attuali, che arriva a 1 milione. E anche se ci stessero, pagare 16 milioni di token a ogni domanda sarebbe assurdo. Il RAG legge ogni volta solo lo 0,06% della base (9.000 token su 16 milioni).

I numeri dicono una cosa importante: in un progetto RAG il costo dei modelli è quasi irrilevante. Quello che costa, e che fa la differenza tra un sistema che risponde bene e uno che risponde a caso, è il lavoro sui documenti, sulla ricerca, sui permessi e sulla valutazione.

RAG, fine-tuning o prompt lungo

Confronto tra prompt lungo, RAG e fine-tuning: cosa cambiano, quanta conoscenza gestiscono, come si aggiornano e se citano le fonti

Le tre strade si confondono spesso, ma risolvono problemi diversi:

Prompt lungo RAG Fine-tuning
Cosa cambia Cosa legge il modello a ogni domanda Cosa legge il modello, scelto domanda per domanda Il comportamento del modello
Quanta conoscenza Fino alla finestra di contesto (oggi fino a 1 milione di token) Praticamente illimitata Non adatto a memorizzare fatti precisi
Aggiornare i dati Si cambia il testo Si reindicizza il documento Va riaddestrato
Fonti citate Sì, se richiesto Sì, per costruzione No
Permessi per utente Difficile Sì, filtrando la ricerca No
Quando sceglierlo Base piccola e stabile Conoscenza aziendale estesa e che cambia Stile, formato, compiti molto specifici

Una regola utile viene da Anthropic: se la base di conoscenza sta sotto i 200.000 token, circa 500 pagine, si può includerla tutta nel prompt, usando la cache dei prompt per ridurre costi e tempi. Ma più testo non è sempre meglio: la documentazione di Claude ricorda che, al crescere dei token, l’accuratezza nel ritrovare le informazioni peggiora. Sopra qualche centinaio di pagine, o con documenti riservati a gruppi diversi di persone, il RAG è la scelta giusta.

Il fine-tuning, invece, insegna al modello come rispondere, non cosa sapere. Si usa raramente per la conoscenza aziendale, e quasi mai come prima scelta.

Come si valuta un sistema RAG

Un RAG che “sembra funzionare” in una demo può sbagliare una risposta su cinque in produzione. Per saperlo bisogna misurarlo:

  1. Si prepara un set di prova: 50–100 domande vere, raccolte da chi lavora, con la risposta giusta e il documento che la contiene.
  2. Si misura la ricerca: il pezzo giusto è tra quelli recuperati? (Context recall e context precision, nella terminologia della libreria Ragas.)
  3. Si misura la risposta: dice solo cose presenti nelle fonti (faithfulness)? Risponde davvero alla domanda (response relevancy)?
  4. Si ripete a ogni modifica di chunking, modello o istruzioni, e si confrontano i numeri.

Con un set di prova, ogni scelta tecnica diventa una scelta misurata: si vede se un riordino in più vale il suo costo, o se il problema è un manuale scansionato male.

I limiti del RAG

  • Se il documento è sbagliato, la risposta è sbagliata. Il RAG non corregge i contenuti: li rende consultabili.
  • Le domande che richiedono di leggere tutto (“quanti contratti scadono quest’anno?”) non sono il suo forte. Servono dati strutturati, una query sul database, non una ricerca nel testo.
  • Tabelle, disegni tecnici e scansioni vanno preparati con cura, o diventano rumore.
  • Allucinazioni ridotte, non azzerate. Il modello può ancora fraintendere un passaggio. Le citazioni servono proprio a controllare.

Quando serve a una PMI

I segnali che un RAG può far risparmiare tempo:

  • l’assistenza tecnica cerca le procedure in centinaia di manuali, o chiede sempre alle stesse due persone esperte;
  • l’ufficio commerciale risponde a domande su condizioni, certificazioni e schede prodotto sparse in cartelle diverse;
  • procedure interne, sicurezza e qualità (ISO, HACCP, manuali operativi) sono documentate ma nessuno le trova quando servono;
  • i ticket chiusi contengono anni di soluzioni che nessuno rilegge.

Conviene partire in piccolo, con la logica di un MVP: un reparto, un insieme di documenti che fanno fede, un set di prova. Se le risposte reggono, si allarga.

Il RAG è spesso il motore dentro un chatbot aziendale o un agente AI: il chatbot è l’interfaccia, il RAG è il modo in cui trova le risposte giuste, l’agente è ciò che poi agisce (apre un ticket, prepara un’offerta). Per collegarlo a gestionale e CRM si usano API o il protocollo MCP.

Una spiegazione in sei minuti, chiara anche per chi non è tecnico (in inglese):

What is Retrieval-Augmented Generation (RAG)? — IBM Technology. Spiegazione in sei minuti di come la RAG collega un modello linguistico a fonti aggiornate per ridurre le risposte inventate.

Progettiamo pipeline RAG sui documenti delle aziende, con permessi, citazioni e un set di prova per misurarne la qualità, e le mettiamo dentro assistenti e chatbot o agenti AI. Se volete capire se i vostri documenti si prestano, scriveteci: partiamo da un campione di manuali e da dieci domande vere.

FAQ

Domande frequenti.

Hai un dubbio su un progetto concreto? Scrivici.

  • RAG significa Retrieval-Augmented Generation, generazione aumentata dal recupero: prima di rispondere, il sistema cerca i passaggi pertinenti in una base di documenti e li passa al modello di AI, che scrive la risposta basandosi su quelli e citando le fonti. Il termine nasce da un articolo di ricercatori di Facebook AI Research del 2020.

  • L'LLM è il modello linguistico, come quelli dietro ChatGPT o Claude, e risponde con ciò che ha imparato durante l'addestramento. Il RAG è un'architettura costruita intorno all'LLM: aggiunge una ricerca nei documenti aziendali e passa al modello i risultati, così risponde su informazioni che non conosceva e indica la fonte.

  • Il RAG cambia cosa legge il modello a ogni domanda: si aggiorna modificando i documenti e cita le fonti. Il fine-tuning cambia il comportamento del modello riaddestrandolo: serve per stile, formato e compiti specifici, non per memorizzare fatti aziendali che cambiano.

  • I costi dei modelli sono bassi: indicizzare 20.000 pagine con un modello di embedding costa meno di un dollaro e una risposta con Claude Sonnet 5.5 circa 0,02 $. Il costo principale è lo sviluppo: preparazione dei documenti, ricerca, permessi, integrazione e valutazione, che si stima dopo aver visto le fonti.

  • Dipende da come è progettato. Indice e modelli possono stare su cloud europei o su infrastruttura propria, i fornitori di API per le aziende non usano i dati per addestrare i modelli, e i permessi si applicano nella ricerca, così ogni utente ottiene risposte solo dai documenti che può vedere.

Hai qualcosa che vale la pena costruire con cura?