GUIDA 8 min

Retrieval augmented generation: cos'è il RAG e quando a un'azienda non basta

Il RAG è la tecnica con cui un modello AI risponde partendo dai documenti dell'azienda invece che da quello che ha imparato. Come funziona in quattro passaggi, perché tanti RAG fatti in casa rispondono male e quando serve un Company Brain.

Il RAG è la prima cosa che un’azienda si sente proporre quando chiede un assistente AI sui propri documenti. Spesso funziona bene nella demo, con venti PDF scelti. Poi entra l’archivio vero: scansioni, tre versioni dello stesso listino, procedure del 2019 mai tolte. Le risposte peggiorano e nessuno capisce perché.

Martes AI costruisce sistemi AI sui dati delle aziende italiane, compresi sistemi RAG a più livelli. Quello che segue viene da quei progetti e dalla ricerca pubblicata da Anthropic sul recupero delle informazioni, letta il 9 novembre 2026.

Retrieval augmented generation: come funziona

Un modello linguistico conosce quello che ha letto in addestramento. Non conosce il tuo listino, i tuoi contratti, le tue procedure. Riaddestrarlo sui documenti dell’azienda costa e invecchia il giorno dopo. Il RAG fa un’altra cosa: lascia il modello com’è e gli porta davanti le pagine giuste a ogni domanda.

Il RAG in quattro passaggi
  1. 01

    1

    Preparare l'archivio

    I documenti vengono letti, divisi in pezzi e indicizzati. Di solito con due indici: uno per significato e uno per parole esatte.

  2. 02

    2

    Recuperare

    Arriva la domanda. Il sistema cerca i pezzi più pertinenti nell'archivio, di solito qualche decina.

  3. 03

    3

    Riordinare

    Un passaggio in più rimette in ordine i pezzi trovati e tiene solo i migliori. Non tutti i sistemi lo fanno.

  4. 04

    4

    Generare

    Il modello riceve la domanda e i pezzi scelti e scrive la risposta, idealmente citando da dove viene.

La parte che decide la qualità sono i primi tre passaggi. Se il pezzo giusto non viene trovato, il modello migliore del mondo risponde con quello che ha: un pezzo sbagliato oppure niente.

Perché tanti RAG fatti in casa rispondono male

I motivi che troviamo sono sempre gli stessi.

Pezzi senza contesto. Per indicizzare un documento lo si taglia in frammenti. Un frammento come “il fatturato è cresciuto del 3% rispetto al trimestre precedente” da solo non dice di quale azienda né di quale trimestre. È l’esempio che usa Anthropic nella sua ricerca sul contextual retrieval: il pezzo esiste ma non viene trovato quando serve.

Ricerca solo per significato. La ricerca semantica trova “contratto di fornitura” quando chiedi “accordo con il fornitore”. Sbaglia invece sui codici: un numero d’ordine, un codice errore, un articolo di magazzino. Lì serve la ricerca per parole esatte, quella che gli addetti chiamano BM25.

Scansioni e tabelle. Un PDF scansionato senza riconoscimento del testo per il sistema è una pagina bianca. Una tabella letta male diventa una fila di numeri senza intestazioni.

Versioni vecchie. Se il listino del 2023 e quello del 2026 stanno nello stesso archivio, il sistema può scegliere il primo. Il modello non sa quale vale.

Permessi. Un archivio unico vuol dire che chiunque chieda vede tutto. In un’azienda vera l’ufficio acquisti non vede le buste paga e il commerciale non vede i contratti degli altri.

Anthropic ha misurato quanto pesa il primo punto. Nei suoi test aggiungere a ogni pezzo una riga di contesto prima di indicizzarlo ha ridotto i recuperi falliti del 35%. Unito alla ricerca per parole esatte, del 49%. Con il riordino finale, del 67%.

Tecnica, test di AnthropicRecuperi fallitiRiduzione
RAG di base5,7%-
Contesto aggiunto a ogni pezzo3,7%35%
Contesto più ricerca per parole esatte2,9%49%
Tutto questo più il riordino1,9%67%

Sono numeri di laboratorio su archivi di prova, non una promessa per il tuo archivio. Dicono però dove guardare quando un RAG sbaglia: prima il recupero, poi il modello.

Quando non serve un RAG

Una cosa che pochi fornitori dicono. Nella stessa ricerca Anthropic scrive che se la base di conoscenza sta sotto circa 200.000 token, più o meno 500 pagine, la si può mettere tutta nel prompt senza RAG. Con la cache dei prompt diventa anche più veloce e meno costoso.

Per un manuale di procedure o un catalogo di qualche centinaio di pagine un assistente come Claude con i file caricati in un progetto spesso basta. Il RAG serve quando i documenti sono migliaia, cambiano ogni settimana o vanno filtrati per chi chiede. Se i documenti non possono uscire dall’azienda, il modello che risponde può girare su macchine interne: quando conviene lo spieghiamo nella guida sull’LLM locale.

Basta caricare i file

  • Qualche centinaio di pagine
  • Documenti che cambiano di rado
  • Tutti quelli che chiedono possono leggere tutto

Serve un RAG o di più

  • Migliaia di documenti o archivi che crescono ogni giorno
  • Versioni che si sostituiscono
  • Permessi diversi per persona o reparto
  • Domande che attraversano documenti e sistemi

Un RAG a più livelli: il caso Swiss Natural Med

Per Swiss Natural Med, azienda svizzera di integratori guidata da Derry Procaccini, abbiamo costruito un sistema agentico Multi-RAG a tre livelli. Il sistema non interroga un’unica fonte. Guarda prima lo storico delle risposte già validate dai medici. Se non basta passa alla libreria interna di studi già approvati e valutati con l’algoritmo dell’azienda. Solo se serve interroga PubMed in tempo reale. Prima dell’invio un medico rivede e valida la risposta e ogni correzione ricalibra il sistema.

10.000
studi scientifici analizzati al giorno
minuti
per una risposta clinica, prima fino a 48 ore
300.000 €
risparmio stimato all'anno

Il punto non è il numero di livelli. È che ogni livello ha una regola chiara su quando fermarsi e che una persona controlla l’uscita. Un RAG che risponde sempre, anche quando non ha trovato niente di buono, è il RAG che fa danni.

RAG o Company Brain

Un RAG risponde su un archivio di documenti. Il sapere di un’azienda però sta solo in parte nei documenti: sta nella posta, nel gestionale, nel CRM, nelle decisioni prese in una chat. Le domande che fanno perdere più tempo sono quelle che attraversano queste fonti.

Un company brain aziendale usa il RAG come uno dei suoi pezzi ma si collega ai sistemi dove il lavoro succede e rispetta i permessi di chi chiede. Per Better Bookings, tour operator attivo su sette mercati, il Brain tiene insieme quello che l’azienda sa e le richieste che arrivano da telefono, email, WhatsApp e chat. Cos’è e quando serve è nella guida su cos’è un Company Brain. La differenza con un assistente che legge solo i documenti è nella guida Company Brain o chatbot aziendale.

Martes AI costruisce Company Brain per aziende italiane collegati ai sistemi che il cliente usa già: il codice è nostro, il Brain resta installato e operativo sull’infrastruttura del cliente. Se il problema è solo un archivio di documenti, glielo diciamo. Spesso basta un RAG fatto bene, a volte basta caricare i file.

Domande frequenti

Cos'è la retrieval augmented generation?

La retrieval augmented generation (RAG) è una tecnica che fa rispondere un modello di intelligenza artificiale partendo da documenti recuperati al momento della domanda, invece che solo da quello che il modello ha imparato in addestramento. Il sistema cerca i passaggi pertinenti in un archivio, li mette davanti al modello e il modello scrive la risposta basandosi su quelli.

A cosa serve il RAG in un'azienda?

A far rispondere l'AI su informazioni che il modello non conosce: procedure interne, schede prodotto, contratti, manuali, storico delle pratiche. È la base della maggior parte degli assistenti aziendali sui documenti e dei chatbot di assistenza clienti.

Perché un RAG risponde male?

Quasi sempre per il recupero, non per il modello. I documenti vengono divisi in pezzi che da soli perdono il contesto, le scansioni non vengono lette, le versioni vecchie convivono con quelle nuove e il sistema non sa chi può vedere cosa. Anthropic ha mostrato che aggiungere il contesto a ogni pezzo riduce fino al 67% i recuperi falliti nei suoi test.

Serve sempre un RAG per far lavorare l'AI sui documenti?

No. Anthropic scrive che se la base di conoscenza sta sotto circa 200.000 token, più o meno 500 pagine, si può mettere tutta nel prompt. Il RAG serve quando i documenti sono di più, cambiano spesso o vanno filtrati per permessi.

Che differenza c'è fra un RAG e un Company Brain?

Un RAG risponde su un archivio di documenti. Un Company Brain è collegato ai sistemi dove il lavoro succede, cioè posta, file condivisi, gestionale e CRM. Risponde a domande che li attraversano rispettando i permessi di chi chiede. Il RAG è uno dei pezzi che usa, non la stessa cosa.

Guide collegate