Il RAG è la prima cosa che un’azienda si sente proporre quando chiede un assistente AI sui propri documenti. Spesso funziona bene nella demo, con venti PDF scelti. Poi entra l’archivio vero: scansioni, tre versioni dello stesso listino, procedure del 2019 mai tolte. Le risposte peggiorano e nessuno capisce perché.
Martes AI costruisce sistemi AI sui dati delle aziende italiane, compresi sistemi RAG a più livelli. Quello che segue viene da quei progetti e dalla ricerca pubblicata da Anthropic sul recupero delle informazioni, letta il 9 novembre 2026.
Retrieval augmented generation: come funziona
Un modello linguistico conosce quello che ha letto in addestramento. Non conosce il tuo listino, i tuoi contratti, le tue procedure. Riaddestrarlo sui documenti dell’azienda costa e invecchia il giorno dopo. Il RAG fa un’altra cosa: lascia il modello com’è e gli porta davanti le pagine giuste a ogni domanda.
- 01
1
Preparare l'archivio
I documenti vengono letti, divisi in pezzi e indicizzati. Di solito con due indici: uno per significato e uno per parole esatte.
- 02
2
Recuperare
Arriva la domanda. Il sistema cerca i pezzi più pertinenti nell'archivio, di solito qualche decina.
- 03
3
Riordinare
Un passaggio in più rimette in ordine i pezzi trovati e tiene solo i migliori. Non tutti i sistemi lo fanno.
- 04
4
Generare
Il modello riceve la domanda e i pezzi scelti e scrive la risposta, idealmente citando da dove viene.
La parte che decide la qualità sono i primi tre passaggi. Se il pezzo giusto non viene trovato, il modello migliore del mondo risponde con quello che ha: un pezzo sbagliato oppure niente.
Perché tanti RAG fatti in casa rispondono male
I motivi che troviamo sono sempre gli stessi.
Pezzi senza contesto. Per indicizzare un documento lo si taglia in frammenti. Un frammento come “il fatturato è cresciuto del 3% rispetto al trimestre precedente” da solo non dice di quale azienda né di quale trimestre. È l’esempio che usa Anthropic nella sua ricerca sul contextual retrieval: il pezzo esiste ma non viene trovato quando serve.
Ricerca solo per significato. La ricerca semantica trova “contratto di fornitura” quando chiedi “accordo con il fornitore”. Sbaglia invece sui codici: un numero d’ordine, un codice errore, un articolo di magazzino. Lì serve la ricerca per parole esatte, quella che gli addetti chiamano BM25.
Scansioni e tabelle. Un PDF scansionato senza riconoscimento del testo per il sistema è una pagina bianca. Una tabella letta male diventa una fila di numeri senza intestazioni.
Versioni vecchie. Se il listino del 2023 e quello del 2026 stanno nello stesso archivio, il sistema può scegliere il primo. Il modello non sa quale vale.
Permessi. Un archivio unico vuol dire che chiunque chieda vede tutto. In un’azienda vera l’ufficio acquisti non vede le buste paga e il commerciale non vede i contratti degli altri.
Anthropic ha misurato quanto pesa il primo punto. Nei suoi test aggiungere a ogni pezzo una riga di contesto prima di indicizzarlo ha ridotto i recuperi falliti del 35%. Unito alla ricerca per parole esatte, del 49%. Con il riordino finale, del 67%.
| Tecnica, test di Anthropic | Recuperi falliti | Riduzione |
|---|---|---|
| RAG di base | 5,7% | - |
| Contesto aggiunto a ogni pezzo | 3,7% | 35% |
| Contesto più ricerca per parole esatte | 2,9% | 49% |
| Tutto questo più il riordino | 1,9% | 67% |
Sono numeri di laboratorio su archivi di prova, non una promessa per il tuo archivio. Dicono però dove guardare quando un RAG sbaglia: prima il recupero, poi il modello.
Quando non serve un RAG
Una cosa che pochi fornitori dicono. Nella stessa ricerca Anthropic scrive che se la base di conoscenza sta sotto circa 200.000 token, più o meno 500 pagine, la si può mettere tutta nel prompt senza RAG. Con la cache dei prompt diventa anche più veloce e meno costoso.
Per un manuale di procedure o un catalogo di qualche centinaio di pagine un assistente come Claude con i file caricati in un progetto spesso basta. Il RAG serve quando i documenti sono migliaia, cambiano ogni settimana o vanno filtrati per chi chiede. Se i documenti non possono uscire dall’azienda, il modello che risponde può girare su macchine interne: quando conviene lo spieghiamo nella guida sull’LLM locale.
Basta caricare i file
- Qualche centinaio di pagine
- Documenti che cambiano di rado
- Tutti quelli che chiedono possono leggere tutto
Serve un RAG o di più
- Migliaia di documenti o archivi che crescono ogni giorno
- Versioni che si sostituiscono
- Permessi diversi per persona o reparto
- Domande che attraversano documenti e sistemi
Un RAG a più livelli: il caso Swiss Natural Med
Per Swiss Natural Med, azienda svizzera di integratori guidata da Derry Procaccini, abbiamo costruito un sistema agentico Multi-RAG a tre livelli. Il sistema non interroga un’unica fonte. Guarda prima lo storico delle risposte già validate dai medici. Se non basta passa alla libreria interna di studi già approvati e valutati con l’algoritmo dell’azienda. Solo se serve interroga PubMed in tempo reale. Prima dell’invio un medico rivede e valida la risposta e ogni correzione ricalibra il sistema.
Il punto non è il numero di livelli. È che ogni livello ha una regola chiara su quando fermarsi e che una persona controlla l’uscita. Un RAG che risponde sempre, anche quando non ha trovato niente di buono, è il RAG che fa danni.
RAG o Company Brain
Un RAG risponde su un archivio di documenti. Il sapere di un’azienda però sta solo in parte nei documenti: sta nella posta, nel gestionale, nel CRM, nelle decisioni prese in una chat. Le domande che fanno perdere più tempo sono quelle che attraversano queste fonti.
Un company brain aziendale usa il RAG come uno dei suoi pezzi ma si collega ai sistemi dove il lavoro succede e rispetta i permessi di chi chiede. Per Better Bookings, tour operator attivo su sette mercati, il Brain tiene insieme quello che l’azienda sa e le richieste che arrivano da telefono, email, WhatsApp e chat. Cos’è e quando serve è nella guida su cos’è un Company Brain. La differenza con un assistente che legge solo i documenti è nella guida Company Brain o chatbot aziendale.
Martes AI costruisce Company Brain per aziende italiane collegati ai sistemi che il cliente usa già: il codice è nostro, il Brain resta installato e operativo sull’infrastruttura del cliente. Se il problema è solo un archivio di documenti, glielo diciamo. Spesso basta un RAG fatto bene, a volte basta caricare i file.