RAG: dare al modello le fonti giuste
Un modello sa solo ciò che ha visto in addestramento, e quando non sa rischia di «inventare». Il RAG (Retrieval-Augmented Generation) risolve così: prima cerca i documenti più pertinenti in una base di conoscenza, poi risponde basandosi su quelli.
Ogni documento ha un punteggio di somiglianza semantica con la domanda: i più alti (evidenziati) vengono «recuperati» e passati al modello come contesto, così la risposta è ancorata a fonti reali. Prova una domanda fuori tema: senza documenti vicini, il modello dovrebbe affidarsi alla sola memoria, col rischio di allucinare.
Perché conta. Il RAG rende il modello aggiornabile senza ri-addestrarlo: basta cambiare i documenti. È il modo più comune per dare a un LLM conoscenza privata o recente, dai manuali aziendali alle notizie di oggi, riducendo le allucinazioni e permettendo di citare le fonti.