Retrieval-Augmented Generation (RAG) je technika, kterou obohacujeme výstupy GAI determinismem.

I když bychom natrénovali jazykový model, který by obsahoval naprosto bezchybné a přesné informace, jazykový model z principu nefunguje tak, že by skládal slova a věty citováním textů, které viděl. Původní texty totiž typicky jazykové modely ani nemají (už jenom kvůli enormní velikosti datové sady), mají jenom mimořádnou schopnost generovat výstupy, které syntakticky a sémanticky odpovídají vstupním datům.

Jsou ale obory, kde “zhruba odpovídat” je zoufale nedostačující, například právo nebo právě vzdělávání.

Proto se nad rámec generativního modelu velmi často buduje i znalostní báze, která je specifická pro každou doménu. Tyto znalostní báze jsou ve strukturované v podobě, ve kterých umíme velmi efektivně vyhledávat jak pomocí klíčových slov, tak i významu.

Například u AI systémů pro advokátní kanceláře bychom jako znalostní bázi mohli použít plné znění zákonů nebo judikatury. Při dotazu na takový systém bychom jako odpověď dostali nejen vygenerovaný text, ale i odkazy na konkrétní místa v zákoně, odkud jazykový model svojí odpověď čerpal.1

Ždibec používá tuto techniku k vyhledávání matematických termínů a definic, které jsou umístěny ve wiki.

RAG ale sám o sobě ve vzdělávání nestačí, protože zachycuje pouze vstupy (z čeho má jazykový model čerpat), ne výstupy (jaké kvality jsou samotné inference modelu). Možným řešením (viz Potkalitsky) je sběr zpětné vazby lektorů a pedagogů.

Zdroje

Vysvětlivky

  1. Formulace bližší realitě by byla “konkrétní místa v zákoně, které jazykový model považoval za sémanticky nejbližší”. ↩