Introducere

 

RAG =  Retrieval-Augmented Generation; o solutie promitatoare menita sa combata problemele cunoscute ale LLM-urilor (halucinari, informatii invechite) prin incorporarea informatiilor din surse externe.

Exemplu de utilizare: 

1. User-ul pune o intrebare despre o stire recenta.

2. Modelul, limitat la pre-training data, nu are capacitatea de a oferi informatii despre evenimente recente.

3. Folosind RAG, integreaza date din surse externe, adunand articole relevante pentru intrebarea utilizatorului.

4. Intrebarea si articolele colectate formeaza un prompt detaliat, care permite LLM-ului sa genereze un raspuns bine informat.