Hoe RAG en MCP verschillen in het aandrijven van AI-gestuurde tv-ervaringen

De groeiende aanwezigheid van kunstmatige intelligentie (AI) in ons dagelijks leven heeft de behoefte van consumenten aan personalisatie en directheid versterkt. In de entertainmentwereld verwachten mensen directe antwoorden, suggesties op maat en de mogelijkheid om te reageren op wat ze zien en horen. Voor sommigen betekent dat het vinden van de perfecte film voor een bepaalde stemming, voor anderen het vinden van de sportwedstrijd tussen hun favoriete team en hun grootste rivaal.

Om deze ervaringen te kunnen bieden, zullen uitgevers, platforms en diensten steeds vaker gebruikmaken van grote taalmodellen (LLM's)¹, die de standaardengines voor de volgende generatie entertainmentomgevingen zullen worden. 

LLM's zijn waarschijnlijkheidsmatrices, geen databases, die zijn getraind op basis van uitgebreide, maar eindige gegevens. De fundamentele aard van deze nieuwe technologie houdt in dat LLM's gegevens synthetiseren, maar niet ophalen, en daardoor vatbaar zijn voor 'hallucinaties', waarbij ze plausibel ogende, maar onjuiste gegevens retourneren. Om ervoor te zorgen dat LLM-reacties nauwkeurig, relevant en betrouwbaar zijn, moeten LLM's worden gekoppeld aan aanvullende, realistische kennisbronnen. Dit proces van 'grounding' vermindert fouten, verrijkt de resultaten en zorgt voor contextuele relevantie. Er zijn twee primaire methoden voor het 'grounding' van LLM's: retrieval-augmented generation (RAG) en het Model Context Protocol (MCP).

RAG en MCP pakken allebei de beperkingen van LLMs aan, maar ze pakken het probleem op een heel andere manier aan.

Op een heel hoog niveau:

RAG omvat een proces waarbij de oorspronkelijke prompt wordt verrijkt met relevante gegevens uit een externe kennisbank van relevante documenten. Het verwerkt deze verrijkte prompt en het antwoord weerspiegelt de nauwkeurigheid van de gegevens uit de externe kennisverrijking.

MCP is een open source-protocol dat standaardiseert hoe applicaties context aan LLMs verstrekken. Als universele interface, soms omschreven als de 'USB-C voor AI', verbindt MCP LLMs met externe gegevensbronnen en logica, waardoor aangepaste codering en aangepaste integraties overbodig worden. Hier wordt een LLM verbonden met een of meer MCP-servers die realtime validatie van binnenkomende query's mogelijk maken.

RAG: de expert in het ophalen van documenten

Van deze twee technieken heeft RAG de langste geschiedenis. RAG vindt zijn oorsprong in vroege informatieverzameling en werd in 2020 voor het eerst besproken als een proces om LLM's dynamisch te verbinden met externe kennisbanken.

Simpel gezegd stelt RAG LLM's in staat om informatie buiten hun trainingsdata te raadplegen voordat ze op een gebruikersvraag reageren. Met RAG hoeven LLM's niet voortdurend opnieuw te worden getraind om up-to-date te blijven. In plaats daarvan zorgen periodieke updates van de externe kennisbank ervoor dat de reacties van een LLM actueel en relevant blijven.

Hoewel RAG de nauwkeurigheid en relevantie van LLM-outputs aanzienlijk verbetert, heeft het wel enkele beperkingen:

1. RAG kan het best worden gebruikt voor het ophalen van ongestructureerde, op documenten gebaseerde informatie.
2. RAG verrijkt de prompt voordat de LLM begint met verwerken, zodat de LLM zijn interne logica niet kan gebruiken om relevante informatie te vinden.

MCP: De real-time actie-enabler

MCP, dat eind 2024 als open-sourceprotocol beschikbaar komt, lost het probleem op van het ontwikkelen van aangepaste integraties tussen gegevensbronnen en AI-modellen. Als universele connector creëert MCP een interface tussen een LLM en externe gegevensbronnen. Met een API met lage latentie en een uniforme, geabstraheerde interface stelt MCP LLM's in staat om realtime, actuele informatie te verkrijgen van een of meer domeinspecifieke diensten, en kunnen LLM's specifieke tools aanroepen waarmee ze het best mogelijke antwoord kunnen geven.

Met MCP kunnen LLM's naadloos worden aangesloten op vele gegevensbronnen, waardoor realtime toegang tot gegevens en acties mogelijk wordt. Gezien deze architectuur baseert MCP zijn antwoorden op externe kennisbanken na een zoekopdracht van een gebruiker, waardoor het ideaal is voor scenario's die de meest actuele informatie vereisen, zoals sportuitslagen of koerswijzigingen.

MCP is de juiste technologie voor het entertainment van morgen

RAG en MCP zijn inherent ontworpen om hetzelfde te doen: LLM-reacties verrijken met externe context om hallucinaties te verminderen en contextuele relevantie te bieden. Ze blinken echter uit in verschillende soorten gegevens, bieden verschillende niveaus van verfijning en de methoden waarmee ze deze taak uitvoeren, verschillen fundamenteel van elkaar.

RAG is het meest geschikt voor het ophalen van ongestructureerde documentgegevens, terwijl MCP is geoptimaliseerd voor gestructureerde, realtime toegang tot gegevens. Hoewel LLM's een aanzienlijk verbeterde zoek- en vindervaring bieden ten opzichte van traditionele technische infrastructuren, is MCP de ideale basisoplossing voor content ervaringen die gebruikmaken van gestructureerde gegevens en vertrouwen op redeneringen die het best buiten de LLM zelf kunnen worden uitgevoerd.

Actuele gegevens zijn hierbij van cruciaal belang. Statische documentbestanden kunnen een gebruiker misschien tevredenstellen met informatie over de geschiedenis van hoe een bepaalde film of tv-serie is ontwikkeld, maar ze kunnen gebruikers niet helpen om te achterhalen wanneer of waar die serie of film wordt uitgezonden. LLM-trainingsgegevens zijn vastgelegd in de tijd, dus grounding voorziet LLM's niet alleen van correcte gegevens, maar ook van actuele en up-to-date gegevens waarmee LLM's toegang krijgen tot de echte wereld buiten hun 'kennisgebonden' model.

Maar de beschikbaarheid van programma's is slechts het topje van de ijsberg. MCP luidt een nieuw tijdperk van entertainmentervaringen in dankzij de mogelijkheid om uiterst rijke en gepersonaliseerde ervaringen te creëren. Hier volgt een voorbeeld:

• Een CTV-aanbieder wil een dagelijkse lijst met aanbevolen films samenstellen op basis van de locatie van de gebruiker en het huidige weer.
• De provider verbindt zijn fundamentele LLM met twee MCP-servers: één die het weer voor de locatie weergeeft en één die deID een combinatie van film en jaar weergeeft.
•  Wanneer de gebruiker zich die dag voor het eerst aanmeldt, vraagt de provider de LLM om de top 10 films op basis van populariteit weer te geven, op basis van het weer op het specifieke IP-adres.
• De LLM gebruikt de weer-MCP om het huidige weer te bepalen. 
• De LLM stelt vervolgens een lijst samen van films waarin dat weer voorkomt, uitsluitend op basis van de kennis in het basismodel. 
• De LLM vraagt een aanbieder van entertainmentmetadata om deID elke aanbevolen film.
• De filmaanbevelingen worden doorgegeven aan de CTV-provider en aan de gebruiker getoond.
  

Het gebruik van LLM's zal een transformatieve invloed hebben op het publiek, maar zonder basis blijven LLM's beperkt tot ongecontroleerde, tijdgebonden reacties. Met LLM's op basis van een solide fundament kunnen platforms en diensten zich losmaken van de beperkingen van traditionele zoekinfrastructuren en de deur openen naar een breed scala aan geavanceerde zoekopdrachten die meer actuele en relevante reacties opleveren.

Voor meer informatie kunt u onze MCP Server-whitepaper.

Opmerking

1. LLM's zijn een type generatieve AI die content creëert content van aangeleerde patronen.