Uitleg over ‘Retrieval-Augmented Generation’

Retrieval-Augmented Generation is een techniek waarbij een groot taalmodel wordt gekoppeld aan een externe kennisbank, zodat het relevante informatie kan opzoeken voordat het een antwoord geeft. In plaats van uitsluitend te vertrouwen op wat het tijdens de training heeft onthouden, haalt het model op het moment dat de vraag wordt gesteld actuele, geverifieerde feiten op en gebruikt deze om zijn antwoord te onderbouwen.

Wat is RAG dan in één zin? Het is een openboekexamen voor AI. Een standaard LLM geeft antwoorden uitsluitend op basis van zijn geheugen, net zoals een student een geslotenboektoets maakt. Een RAG-model krijgt eerst het leerboek voorgelegd, zoekt de relevante passage op en schrijft vervolgens zijn antwoord op basis van het bronmateriaal dat voor hem ligt.

Deze kleine aanpassing in de werkwijze heeft een groot effect. RAG-AI-systemen kunnen hun bronnen vermelden, op de hoogte blijven van informatie die na het trainen van het model is gepubliceerd, en vragen beantwoorden over gegevens van particuliere bedrijven die het model nog nooit heeft gezien. Juist door die combinatie is ‘retrieval-augmented generation’ de standaardaanpak geworden voor serieuze generatieve AI-toepassingen.

De term werd bekend door een Onderzoeksrapport uit 2020 van Meta AI, maar het basisidee is intuïtief: maak een scheiding tussen kennis en redeneren. Laat een snelle, doorzoekbare kennisbank de feiten bevatten, en laat het taalmodel doen waar het het beste in is, namelijk de vraag begrijpen en een vloeiend, nuttig antwoord opstellen.

Om te begrijpen waarom RAG belangrijk is, moet je weten welk soort storing het oplost.

Grote taalmodellen worden getraind om het meest waarschijnlijke volgende woord in een reeks te voorspellen. Ze zijn buitengewoon goed in het herkennen van patronen, maar ze kunnen geen onderscheid maken tussen „dingen die ik daadwerkelijk weet” en „dingen die aannemelijk klinken”. Wanneer een vraag buiten hun trainingsgegevens valt, of betrekking heeft op een niche-, actueel of privéonderwerp, genereren ze vaak een vloeiend, gezaghebbend klinkend antwoord dat simpelweg onjuist is. Dat is een AI-hallucinatie.

Er zijn drie structurele redenen waarom een standaard-LLM deze fouten veroorzaakt:

• De kennis is bevroren. Een model weet alleen wat er tot een bepaalde peildatum in de trainingsgegevens voorkwam. Als je vraagt naar een gebeurtenis, een product of een beleid van na die datum, moet het een gok doen.

• Kennis is algemeen. Modellen worden getraind op een brede verzameling openbaar beschikbare teksten. Ze hebben je interne wiki, je contracten of je supporttickets nooit gelezen, dus kunnen ze daarover geen nauwkeurige antwoorden geven.

• Er bestaat geen bron van waarheid. Omdat het model zijn antwoorden ontleent aan gecomprimeerde statistische gegevens in plaats van aan een document, kan het niet nagaan of vermelden waar een bewering vandaan komt.

RAG pakt alle drie de problemen tegelijk aan. Door op het moment van de zoekopdracht relevante documenten uit een kennisbank op te halen, is het model niet langer beperkt tot een vaststaand, algemeen geheugen. Het redeneert op basis van echte, specifieke en actuele context, en omdat die context afkomstig is uit identificeerbare documenten, kan het systeem zijn werkwijze laten zien. Het resultaat is een meetbare sprong voorwaarts in de nauwkeurigheid van AI en een scherpe daling van het aantal zelfverzekerde verzinsels.

De RAG-architectuur bestaat uit twee fasen. De eerste fase vindt eenmalig plaats en wordt periodiek vernieuwd: het voorbereiden van je kennis zodat deze doorzoekbaar is. De tweede fase vindt plaats telkens wanneer een gebruiker een vraag stelt.

Fase 1: Indexering (het opzetten van de kennisbank)

Voordat RAG iets kan ophalen, moet je ruwe informatie eerst doorzoekbaar worden gemaakt. Deze indexeringspijplijn wordt van tevoren uitgevoerd:

1. Inlezen en in stukken verdelen. Bronbestanden, zoals PDF’s, webpagina’s, ondersteuningsartikelen en databaserecords, worden opgedeeld in kleinere fragmenten, of ‘chunks’, die doorgaans elk een paar honderd woorden bevatten. Het opdelen in chunks is belangrijk omdat je gerichte, relevante fragmenten wilt ophalen in plaats van complete handleidingen van 50 pagina’s.

2. Maak embeddings aan. Elk fragment wordt door een embeddingmodel geleid dat de tekst omzet in een vector, een lange reeks getallen die de betekenis ervan weergeeft. Twee passages over hetzelfde concept leveren wiskundig vergelijkbare vectoren op, zelfs als ze totaal verschillende woorden gebruiken.

3. Sla het op in een vectordatabase. Deze embeddings worden opgeslagen in een vectordatabase, zoals Pinecone, Weaviate, Milvus, pgvector of FAISS, die speciaal is ontwikkeld om op grote schaal en snel de vectoren te vinden die het meest lijken op een willekeurige zoekopdracht.

Fase 2: Informatie ophalen en verwerken (de vraag beantwoorden)

Wanneer een gebruiker een zoekopdracht indient, komt de RAG-pijplijn in actie:

1. Sluit de query in. De vraag van de gebruiker wordt met behulp van hetzelfde inbeddingsmodel omgezet in een vector.

2. Semantisch zoeken. De vectorendatabase vergelijkt de zoekvector met elk opgeslagen fragment en geeft de beste overeenkomsten weer. Omdat het hier om semantisch zoeken gaat – waarbij op betekenis wordt gezocht in plaats van op trefwoorden – zal een vraag over „het terugdringen van klantverloop“ een document over „het verbeteren van klantbehoud“ opleveren, zelfs als er geen gemeenschappelijke woorden in voorkomen. Deze stap vormt de documentopvraagmodule van het hele systeem.

3. Snelle uitbreiding. De opgehaalde fragmenten worden naast de oorspronkelijke vraag in de prompt ingevoegd. Deze stap van het ophalen en invoegen van context is het ‘augmented’-gedeelte in ‘retrieval-augmented generation’: de prompt van het model wordt verrijkt met precies die feiten die het nodig heeft.

4. Generatie. Het grote taalmodel leest de aangevulde prompt – dat wil zeggen: de vraag plus de ondersteunende context – en geeft een onderbouwd antwoord, vaak met verwijzingen naar de brondocumenten.

Het mooie van deze generatieve AI-workflow is dat het taalmodel je gegevens nooit van tevoren hoeft te ‘kennen’. Je kunt de kennisbank op elk moment bijwerken, en bij de volgende zoekopdracht wordt de nieuwe informatie direct opgehaald, zonder dat er een kostbare hertraining nodig is.

Elk RAG-model, hoe geavanceerd het ook is, bestaat uit dezelfde bouwstenen. Als je elke bouwsteen begrijpt, kun je beter inschatten wat de kosten, prestaties en nauwkeurigheid zijn.

De kennisbank. Dit is je betrouwbare bron: de verzameling documenten waarop de AI zijn antwoorden moet baseren. De kwaliteit hiervan bepaalt het maximale niveau van het hele systeem. Schone, goed gestructureerde en actuele inhoud levert nauwkeurige antwoorden op; verouderde of tegenstrijdige inhoud leidt tot onzin die als waarheid wordt gepresenteerd.

Het inbeddingsmodel. Hiermee wordt tekst omgezet in vectoren. Hoe beter de embeddings, hoe relevanter de gevonden fragmenten. Door een embeddingmodel te kiezen dat is afgestemd op uw vakgebied – of dat nu juridisch, medisch of technisch is – kunt u de resultaten aanzienlijk verbeteren.

De vectordatabase. Dit slaat embeddings op en voert razendsnelle zoekopdrachten op basis van gelijkenis uit. Het is de drijvende kracht achter het ophalen van informatie, en dankzij dit kan RAG schalen van honderd documenten tot honderd miljoen.

De retriever. De logica die bepaalt wat er wordt opgehaald en in welke hoeveelheid. Geavanceerde zoekmachines combineren semantisch zoeken met traditioneel zoeken op trefwoorden – een „hybride” aanpak – en kunnen de resultaten opnieuw rangschikken om het meest relevante fragment bovenaan te plaatsen.

Het grote taalmodel. De generator die de opgehaalde context omzet in een vloeiend, voor mensen begrijpelijk antwoord. Dit kan een Frontier-model zijn of een kleiner model met open gewichten dat op je eigen infrastructuur draait.

De orkestratielaag. De schakel, in combinatie met frameworks zoals LangChain of LlamaIndex, die deze onderdelen tot één generatieve AI-workflow samenbrengt en zorgt voor het opstellen van prompts, het afhandelen van fouten en het opmaken van de uitvoer.

Een veelgestelde vraag is of je RAG moet gebruiken of dat je een model gewoon op je eigen gegevens moet afstemmen. Ze bieden een oplossing voor verschillende problemen, en het juiste antwoord is vaak „beide“.

De eenvoudigste vuistregel: bij ‘fine-tuning’ verandert het gedrag van het model, en bij RAG verandert wat het model weet. Als je wilt dat de AI een bepaalde toon aanneemt of een strikte outputstructuur volgt, pas het model dan aan. Als je wilt dat het nauwkeurig antwoordt op basis van een feitenbestand dat in de loop van de tijd verandert, gebruik dan RAG. Voor bedrijfs-AI is RAG bijna altijd het uitgangspunt, omdat kennis voortdurend verandert en bronvermeldingen onmisbaar zijn.

RAG is geen theoretisch model. Het vormt de basis voor veel AI-producten die mensen dagelijks gebruiken. Hier volgen enkele concrete voorbeelden van RAG uit verschillende sectoren:

• Medewerkers klantenservice. Een supportbot haalt antwoorden op uit het helpcentrum, de productdocumentatie en eerdere tickets van een bedrijf, waardoor hij nauwkeurige antwoorden geeft die aansluiten bij het merk, in plaats van algemene gissingen.

• Interne kenniszoekfunctie. Medewerkers stellen vragen in gewone taal en krijgen antwoorden die zijn gebaseerd op de bedrijfswiki, het HR-beleid en de technische handleidingen. Dit is een belangrijke overwinning op het gebied van AI voor de productiviteit binnen de onderneming.

• Juridische en nalevingsbeoordeling. Een RAG-model haalt de exacte bepalingen en voorschriften op die relevant zijn voor een vraag, inclusief bronvermeldingen, zodat advocaten elke bewering aan de hand van de bron kunnen controleren.

• Beslissingsondersteuning in de gezondheidszorg. Zorgverleners raadplegen de nieuwste onderzoeksresultaten en behandelrichtlijnen, waarbij het systeem door vakgenoten beoordeeld bewijsmateriaal opzoekt en samenvat, in plaats van willekeurige doseringen te verzinnen.

• Financieel onderzoek. Analisten stellen vragen over winstcijfers, financiële verslagen en marktgegevens, en de assistent put uit actuele rapporten in plaats van uit een statische momentopname uit de training.

• Chat over documentatie voor ontwikkelaars. Een "chat met je documentatie"-ervaring waarbij ontwikkelaars nauwkeurige, versiespecifieke codevoorbeelden krijgen door middel van het opvragen van informatie uit de officiële documentatie.

De rode draad in alle voorbeelden is dezelfde: de meerwaarde ontstaat doordat het antwoord is gebaseerd op een betrouwbare kennisbasis, en dat is precies wat ‘retrieval-augmented generation’ biedt.

Waarom is RAG de standaardarchitectuur geworden voor generatieve AI in de praktijk? Omdat het een reeks voordelen biedt die geen enkele andere techniek op zichzelf kan evenaren:

• Een hogere nauwkeurigheid van de AI en minder hallucinaties. Door antwoorden te baseren op opgehaalde documenten blijft het model verankerd in feiten in plaats van in aannemelijke veronderstellingen.

• Altijd actuele kennis. Werk de kennisbank bij en het systeem is direct up-to-date, zonder dat er een hertrainingscyclus nodig is en zonder dat je hoeft te wachten op de volgende modelrelease.

• Bronvermeldingen en vertrouwen. Omdat antwoorden terug te voeren zijn op specifieke documenten, kunnen gebruikers beweringen controleren. Deze controleerbaarheid is van essentieel belang voor sectoren die onder toezicht staan.

• Persoonsgegevens, veilig. Met RAG kan een model antwoorden geven op basis van uw eigen content, zonder dat die content in de gewichten van het model wordt verwerkt.

• Goedkoper dan het nauwkeurig afstellen. Het indexeren van documenten is veel goedkoper dan het herhaaldelijk opnieuw trainen van een groot taalmodel.

• Kleinere modellen, grotere resultaten. Met een krachtige zoekfunctie kan zelfs een bescheiden LLM beter presteren dan een veel grotere LLM die niet over de juiste context beschikt.

Al deze voordelen samen maken van generatieve AI niet langer slechts een indrukwekkende demo, maar een betrouwbaar zakelijk hulpmiddel.

RAG is krachtig, maar het is geen toverkunst. Het is juist de kennis van de zwakke plekken die het verschil maakt tussen een betrouwbaar systeem en een kwetsbaar systeem.

• Wat erin gaat, komt er ook weer uit. Als je kennisbank verouderd, tegenstrijdig of slecht geschreven is, zal het opzoeken van informatie onvermijdelijk tot verkeerde informatie leiden.

• De kwaliteit van de zoekresultaten is van cruciaal belang. Als de retriever irrelevante chunks ophaalt, heeft het model geen bruikbare informatie om mee te werken. Het afstemmen van de chunkgrootte, de embeddings en het opnieuw rangschikken is een doorlopend technisch proces.

• Beperkingen van het contextvenster. Er past maar een beperkte hoeveelheid opgehaalde tekst in een prompt. Haal je te weinig op, dan mis je het antwoord; haal je te veel op, dan voeg je ruis en kosten toe.

• Vertraging en kosten. Elke zoekopdracht omvat nu een embedding-stap, een database-opzoeking en een langere prompt, wat enkele milliseconden en tokens extra kost.

• Het vermindert hallucinaties, maar neemt ze niet volledig weg. Een model kan de juiste context nog steeds verkeerd interpreteren of te ver doortrekken, dus menselijke controle blijft belangrijk bij toepassingen waar veel op het spel staat.

Dit zijn geen dealbreakers. Het zijn gewoon ontwerpoverwegingen die van een prototype een robuuste generatieve AI-workflow maken.

Als je klaar bent om je eerste RAG-model te bouwen, vind je hier de volledige workflow, uitgesplitst in praktische stappen:

1. Bepaal de use case en verzamel je kennisbasis. Bepaal precies welke vragen het systeem moet beantwoorden en verzamel de documenten waarin die antwoorden staan.

2. Reinig de gegevens en verdeel ze in blokken. Verwijder dubbele en verouderde inhoud en verdeel de documenten vervolgens in samenhangende fragmenten die geschikt zijn om te worden opgezocht.

3. Kies een inbeddingsmodel en genereer vectoren. Kies een model dat geschikt is voor jouw vakgebied en taal, en voeg vervolgens elk fragment in.

4. Zet een vectordatabase op. Laad uw embeddings en stel de indexering in voor snelle semantische zoekopdrachten op de door u verwachte schaal.

5. Bouw de retriever. Begin met semantisch zoeken en voeg vervolgens hybride zoekwoordmatching en herrangschikking toe om relevante resultaten bovenaan te plaatsen.

6. Stel de prompt op. Ontwerp een sjabloon voor een prompt waarin de vraag van de gebruiker op een overzichtelijke manier wordt gecombineerd met de opgehaalde context, en waarin het model de opdracht krijgt om uitsluitend op basis van die context te antwoorden en bronnen te vermelden.

7. Sluit de LLM aan en voer de coördinatie uit. Koppel de retriever via een orchestration-framework aan je grote taalmodel en zorg ervoor dat de prompt-uitbreiding automatisch wordt afgehandeld.

8. Evalueer en herhaal. Test met echte vragen, meet de nauwkeurigheid en de kwaliteit van de bronvermeldingen, en pas de indeling in blokken, het ophalen van informatie en de prompts aan op basis van wat er misgaat.

Beschouw stap 6 tot en met 8 als een doorlopend proces, niet als een eenmalige taak. De best presterende RAG-systemen zijn die waarbij de teams de kwaliteit van de zoekresultaten voortdurend meten en de pijplijn blijven verfijnen.

RAG ontwikkelt zich in hoog tempo, en de volgende golf begint al vorm te krijgen. Met ‘Agentic RAG’ kan het systeem zelf bepalen wanneer het informatie moet ophalen, waarnaar het moet zoeken en of het meerdere ophaalstappen moet uitvoeren om complexe, uit meerdere delen bestaande vragen te beantwoorden. Multimodale RAG breidt het ophalen van informatie uit van tekst naar afbeeldingen, tabellen, audio en video, zodat één enkele zoekopdracht uit een veel rijkere kennisbank kan putten.

Tegelijkertijd zorgen de uitbreiding van contextvensters en het op grafieken gebaseerde ophalen van informatie ervoor dat modellen steeds meer relevante informatie in één keer kunnen verwerken. De rode draad is duidelijk: de toekomst van betrouwbare AI ligt in ‘grounded AI’, en het ophalen van informatie is de manier waarop we die gronding realiseren. RAG is geen tijdelijke techniek. Het wordt een vast onderdeel van de moderne AI-stack.

Alles wat je hebt gelezen over ‘retrieval-augmented generation’ is direct van toepassing op een van de snelst evoluerende sectoren binnen AI: videostreaming en OTT-platforms. Een streamingdienst is in wezen een enorme, voortdurend veranderende kennisbank van titels, afleveringen, metadata, transcripties, ondertitels, kijkgeschiedenis en helpinhoud. RAG zorgt ervoor dat die bibliotheek verandert in een intelligente, conversatiegerichte en nauwkeurige ervaring in plaats van een statische catalogus.

Dat is precies het soort ervaring dat op AI is gebaseerd Vodlix is ontworpen om resultaten te leveren. Vodlix is de Shopify van OTT: een volledig white-label videostreamingplatform waarmee elke contentmaker, omroep of mediabedrijf een dienst op Netflix-niveau onder eigen merknaam kan lanceren, zonder CAPEX en zonder technisch team. En omdat Vodlix op AI draait, komen dezelfde zoekprincipes uit deze handleiding precies daar tot uiting waar ze het meest van belang zijn:

• Doelgerichte inhoudsontdekking. In plaats van algemene suggesties zorgt het doorzoeken van je eigen catalogus en het kijkgedrag van gebruikers volgens de RAG-methode ervoor dat de juiste titel bij de juiste kijker terechtkomt, waardoor de kijktijd toeneemt en het verloop afneemt.

• Een gebruiksvriendelijke, nauwkeurige zoekfunctie. Met semantisch zoeken kan uw publiek inhoud vinden op basis van betekenis, bijvoorbeeld „een feelgood-documentaire over de oceaan“, in plaats van op exacte titels, waarbij de resultaten zijn gebaseerd op uw eigen collectie.

• Betrouwbare ondersteuning. Een door RAG aangestuurde assistent kan vragen van abonnees en beheerders beantwoorden op basis van uw eigen helpcentrum en documentatie, nauwkeurig en 24 uur per dag, zonder zich dingen te verzinnen over het beleid.

• Inzicht zonder giswerk. De analyses van Vodlix bieden je de betrouwbare basisgegevens die ervoor zorgen dat elke AI-laag stevig verankerd blijft in wat je kijkers daadwerkelijk doen.

De conclusie is simpel: de toekomst van streaming ligt in ‘grounded AI’, en ‘grounded AI’ draait op retrieval. Of je nu je eerste VOD-dienst lanceert of een live-tv-netwerk uitbreidt naar verschillende apparaten, Vodlix biedt je de white-label-infrastructuur, de mogelijkheden voor het genereren van inkomsten (SVOD, AVOD en TVOD) en de AI-ready basis om dit te realiseren.

Klaar om een slimmer streamingplatform te lanceren? Boek een gratis Vodlix-demo en ontdek hoe meer dan 200 merken hun omzet zien stijgen dankzij een volledig op hun merk afgestemde, door AI aangestuurde OTT-oplossing, die binnen enkele dagen in plaats van maanden operationeel is.

Retrieval-Augmented Generation overbrugt de kloof tussen wat grote taalmodellen kunnen zeggen en wat ze kunnen bewijzen. Door een snelle, doorzoekbare kennisbank te koppelen aan het redeneervermogen van een LLM, levert RAG antwoorden die nauwkeurig, actueel en herleidbaar zijn naar een bron – precies wat toepassingen in de praktijk vereisen. Van helpdesks bij bedrijven tot wereldwijde streamingplatforms: retrieval wordt een vast onderdeel van de AI-stack, en de teams die het nu omarmen, zullen de meest betrouwbare producten van het komende decennium ontwikkelen.