Wie sich RAG und MCP bei der Bereitstellung KI-gesteuerter TV-Erlebnisse unterscheiden

Die zunehmende Präsenz künstlicher Intelligenz (KI) in unserem Alltag hat den Wunsch der Verbraucher nach Personalisierung und Unmittelbarkeit verstärkt. In der Welt der Unterhaltung erwarten die Menschen sofortige Antworten, maßgeschneiderte Vorschläge und die Möglichkeit, auf das, was sie sehen und hören, zu reagieren. Für manche bedeutet das, den perfekten Film für eine bestimmte Stimmung zu finden, für andere bedeutet es, das Sportspiel zwischen ihrer Lieblingsmannschaft und ihrem größten Rivalen zu finden.

Um diese Erlebnisse zu ermöglichen, werden Publisher, Plattformen und Dienste zunehmend große Sprachmodelle (LLMs)¹ einsetzen, die zu den Standard-Engines für Unterhaltungsumgebungen der nächsten Generation werden. 

LLMs sind Wahrscheinlichkeitsmatrizen, keine Datenbanken, die auf der Grundlage umfassender, aber endlicher Daten trainiert werden. Die grundlegende Natur dieser neuartigen Technologie bedeutet, dass LLMs Daten synthetisieren, aber nicht abrufen, und daher anfällig für „Halluzinationen“ sind, bei denen sie plausibel aussehende, aber falsche Daten zurückgeben. Um sicherzustellen, dass die Antworten von LLMs genau, relevant und vertrauenswürdig sind, müssen LLMs mit ergänzenden, realen Wissensquellen verbunden werden. Dieser Prozess der „Grundierung” reduziert Fehler, bereichert die Ergebnisse und sorgt für kontextuelle Relevanz. Es gibt zwei Hauptmethoden zur Grundierung von LLMs: Retrieval-Augmented Generation (RAG) und das Model Context Protocol (MCP).

RAG und MCP befassen sich beide mit den Einschränkungen von LLMs, gehen das Problem jedoch auf grundlegend unterschiedliche Weise an.

Auf sehr allgemeiner Ebene:

RAG umfasst einen Prozess, bei dem die ursprüngliche Eingabeaufforderung mit relevanten Daten aus einer externen Wissensdatenbank mit relevanten Dokumenten angereichert wird. Es verarbeitet diese angereicherte Eingabeaufforderung, und seine Antwort spiegelt die Genauigkeit der Daten aus der externen Wissensanreicherung wider.

MCP ist ein Open-Source-Protokoll, das standardisiert, wie Anwendungen LLMs Kontext bereitstellen. Als universelle Schnittstelle, die manchmal als „USB-C für KI” bezeichnet wird, verbindet MCP LLMs mit externen Datenquellen und Logik, wodurch keine benutzerdefinierte Codierung und Integration mehr erforderlich ist. Hier wird ein LLM mit einem oder mehreren MCP-Servern verbunden, die eine Echtzeitvalidierung für eingehende Abfragen ermöglichen.

RAG: Der Experte für Dokumentenabruf

Von den beiden Techniken hat RAG die längste Geschichte. Mit Wurzeln in der frühen Informationsgewinnung wurde RAG erstmals 2020 als Verfahren zur dynamischen Verbindung von LLMs mit externen Wissensspeichern diskutiert.

Einfach ausgedrückt ermöglicht RAG es LLMs, vor der Beantwortung einer Benutzeranfrage auf Informationen außerhalb ihrer Trainingsdaten zuzugreifen. Mit RAG müssen LLMs nicht ständig neu trainiert werden, um auf dem neuesten Stand zu bleiben. Stattdessen sorgen regelmäßige Aktualisierungen der externen Wissensdatenbank dafür, dass die Antworten eines LLM aktuell und relevant bleiben.

RAG verbessert zwar die Genauigkeit und Relevanz der LLM-Ausgaben erheblich, hat jedoch einige Einschränkungen:

1. RAG eignet sich am besten für die unstrukturierte, dokumentbasierte Informationsgewinnung.
2. RAG bereichert die Eingabeaufforderung, bevor das LLM mit der Verarbeitung beginnt, sodass das LLM seine interne Logik nicht zur Beschaffung relevanter Informationen einsetzen kann.

MCP: Der Echtzeit-Aktionsbeschleuniger

MCP wird Ende 2024 als Open-Source-Protokoll verfügbar sein und löst das Problem der Entwicklung benutzerdefinierter Integrationen zwischen Datenquellen und KI-Modellen. Als universeller Konnektor schafft MCP eine Schnittstelle zwischen einem LLM und externen Datenquellen. Mit einer API mit geringer Latenz und einer einheitlichen, abstrahierten Schnittstelle ermöglicht MCP LLMs, aktuelle Informationen in Echtzeit von einem oder mehreren domänenspezifischen Diensten abzurufen und bestimmte Tools aufzurufen, mit denen sie die bestmögliche Antwort liefern können.

Mit MCP können LLMs nahtlos in viele Datenquellen eingebunden werden, was den Zugriff auf Daten und Aktionen in Echtzeit ermöglicht. Aufgrund dieser Architektur stützt MCP seine Antworten nach einer Benutzerabfrage auf externe Wissensdatenbanken und eignet sich daher ideal für Szenarien, in denen die aktuellsten verfügbaren Informationen erforderlich sind, wie beispielsweise Sportergebnisse oder Aktienkursänderungen.

MCP ist die richtige Technologie für die Unterhaltung von morgen.

RAG und MCP sind von Grund auf darauf ausgelegt, dasselbe zu tun: LLM-Antworten mit externem Kontext anzureichern, um Halluzinationen zu reduzieren und kontextuelle Relevanz zu bieten. Sie zeichnen sich jedoch durch unterschiedliche Datentypen aus, bieten unterschiedliche Komplexitätsgrade und unterscheiden sich grundlegend in den Methoden, mit denen sie diese Aufgabe ausführen.

RAG eignet sich am besten für die unstrukturierte Abfrage von Dokumentdaten, während MCP für den strukturierten Echtzeit-Datenzugriff optimiert ist. Während LLMs im Vergleich zu herkömmlichen Technologieinfrastrukturen eine deutlich verbesserte Such- und Auffindbarkeit bieten, ist MCP die ideale Basislösung für Content-First-Erlebnisse, die strukturierte Daten nutzen und auf Schlussfolgerungen angewiesen sind, die am besten außerhalb des LLM selbst getroffen werden.

Die Aktualität der Daten ist hier entscheidend. Statische Dokumentdateien können zwar eine Benutzeranfrage zur Entstehungsgeschichte eines bestimmten Films oder einer bestimmten Fernsehsendung beantworten, aber sie können den Benutzern nicht dabei helfen, herauszufinden, wann und wo diese Sendung oder dieser Film ausgestrahlt wird. LLM-Trainingsdaten sind zeitlich festgelegt, sodass Grounding LLMs nicht nur mit korrekten Daten versorgt, sondern auch mit zeitnahen und aktuellen Daten, die es LLMs ermöglichen, auf die reale Welt außerhalb ihres „wissensgebundenen” Modells zuzugreifen.

Die Verfügbarkeit von Programmen ist jedoch nur die Spitze des Eisbergs. MCP läutet eine neue Ära des Unterhaltungserlebnisses ein, da es äußerst reichhaltige und personalisierte Erlebnisse schaffen kann. Hier ein Beispiel:

• Ein CTV-Anbieter möchte täglich eine Liste mit Filmempfehlungen erstellen, die auf dem Standort und dem aktuellen Wetter des Nutzers basieren.
• Der Anbieter verbindet sein grundlegendes LLM mit zwei MCP-Servern: einem, der das Wetter für den Standort zurückgibt, und einem, der die ID eine Kombination aus Film und Jahr zurückgibt.
•  Wenn sich der Benutzer an diesem Tag zum ersten Mal anmeldet, fordert der Anbieter das LLM auf, die 10 beliebtesten Filme basierend auf dem Wetter an der spezifischen IP-Adresse zurückzugeben.
• Der LLM verwendet den Wetter-MCP, um das aktuelle Wetter zu bestimmen. 
• Der LLM erstellt dann eine Liste von Filmen, in denen dieses Wetter vorkommt, basierend ausschließlich auf dem Wissen im Basismodell. 
• Der LLM fragt einen Anbieter von Unterhaltungsmetadaten ab, der die ID jeden empfohlenen Film zurückgibt.
• Die Filmempfehlungen werden an den CTV-Anbieter weitergeleitet und dem Nutzer angezeigt.
  

Der Einsatz von LLMs wird für das Publikum transformativ sein, aber ohne Fundierung sind LLMs auf unbestätigte, zeitlich begrenzte Antworten beschränkt. Fundierte LLMs ermöglichen es Plattformen und Diensten, sich von den Einschränkungen traditioneller Suchinfrastrukturen zu lösen und gleichzeitig die Tür zu einer Vielzahl komplexer Suchanfragen zu öffnen, die aktuellere und relevantere Antworten generieren.

Weitere Informationen finden Sie in unserem MCP Server-Whitepaperherunter.

Hinweis

1. LLMs sind eine Art generativer KI, die Inhalte auf der Grundlage gelernter Muster erstellt.