RAG: la risposta dipende anche da ciò che recuperi

Come retrieval, metadati e ranking decidono quale conoscenza arriva davvero al modello

Nel primo approfondimento di questa serie siamo partiti da una domanda:

da dove arriva la conoscenza utilizzata da un’IA professionale?

Abbiamo visto che un modello può utilizzare ciò che ha appreso durante l’addestramento, ricevere documenti direttamente dall’utente, interrogare una base RAG oppure utilizzare strumenti e fonti esterne.

Ma una volta costruita una base conoscitiva affidabile nasce immediatamente un secondo problema.

Tra tutte le informazioni che abbiamo messo a disposizione del sistema, quali verranno effettivamente recuperate quando l’utente farà una domanda?

È qui che entra in gioco il retrieval.

E probabilmente è anche uno degli aspetti meno visibili di un sistema RAG.

L’utente pone una domanda, riceve una risposta e vede eventualmente le fonti.

Nel mezzo, però, è avvenuto molto altro.

Il RAG non è semplicemente una banca dati collegata a un LLM

RAG significa Retrieval-Augmented Generation.

L’idea generale è relativamente semplice: invece di chiedere al modello di rispondere utilizzando soltanto la conoscenza appresa durante l’addestramento, il sistema cerca informazioni pertinenti all’interno di una base conoscitiva e le fornisce al modello come contesto.

Per continuare a leggere l'articolo, accedi con il tuo account GBsoftware.

Non hai un account?