RAG: dare memoria documentale a un modello AI

Un modello non è un archivio aggiornato

Un modello linguistico può spiegare concetti, ma non conosce automaticamente le procedure interne di un'azienda o le ultime versioni dei suoi documenti. Il Retrieval-Augmented Generation, o RAG, affronta parte di questo problema collegando la generazione a un sistema di ricerca.

Il flusso di base è semplice: si indicizzano i documenti, si cerca il materiale pertinente a una domanda e si inseriscono i passaggi recuperati nel contesto del modello. L'assistente prova così a formulare una risposta ancorata ai testi disponibili.

Il recupero è il punto critico

Se la ricerca restituisce il documento sbagliato, anche una risposta ben scritta può essere inesatta. Contano la qualità dei documenti, la suddivisione in sezioni, la gestione delle versioni, i permessi e il ranking dei risultati.

Occorre anche distinguere tra fonte e risposta: una citazione cliccabile permette al lettore di verificare il passaggio originale. Quando non emergono dati sufficienti, il sistema dovrebbe dichiarare l'incertezza, non inventare un riferimento.

Non è una garanzia contro le allucinazioni

RAG non elimina errori o prompt injection. I documenti recuperati sono input esterni e devono essere trattati come dati, non come comandi. Se contengono informazioni riservate, il motore di ricerca deve rispettare i permessi dell'utente.

Un buon RAG non è semplicemente un modello collegato a un database vettoriale. È una pipeline documentale mantenuta, testata e verificabile.