Czym różnią się technologie RAG i MCP pod względem zasilania telewizyjnych doświadczeń opartych na sztucznej inteligencji

Rosnąca obecność sztucznej inteligencji (AI) w naszym codziennym życiu wzmogła pragnienia konsumentów dotyczące personalizacji i natychmiastowości. W świecie rozrywki ludzie oczekują natychmiastowych odpowiedzi, dostosowanych do ich potrzeb sugestii oraz możliwości podjęcia działań w oparciu o to, co widzą i słyszą. Dla niektórych oznacza to znalezienie idealnego filmu pasującego do konkretnego nastroju, dla innych znalezienie meczu pomiędzy ich ulubioną drużyną a największym rywalem.

Aby zapewnić takie wrażenia, wydawcy, platformy i serwisy będą w coraz większym stopniu wykorzystywać duże modele językowe (LLM)¹, które staną się domyślnymi silnikami dla środowisk rozrywkowych nowej generacji. 

LLM to macierze prawdopodobieństwa, a nie bazy danych, szkolone na wyczerpujących, ale skończonych danych. Podstawowa natura tej nowatorskiej technologii oznacza, że LLM syntetyzują dane, ale ich nie odzyskują, przez co są podatne na „halucynacje”, czyli zwracają dane, które wyglądają na wiarygodne, ale są nieprawidłowe. Aby zapewnić dokładność, trafność i wiarygodność odpowiedzi LLM, muszą one być połączone z dodatkowymi, rzeczywistymi źródłami wiedzy. Ten proces „uziemienia” zmniejsza liczbę błędów, wzbogaca wyniki i zapewnia kontekstową trafność. Istnieją dwie podstawowe metody uziemienia LLM: generowanie wspomagane wyszukiwaniem (RAG) oraz protokół kontekstowy modelu (MCP).

RAG i MCP zajmują się ograniczeniami modeli LLM, ale podchodzą do tej kwestii w zasadniczo odmienny sposób.

Na bardzo wysokim poziomie:

RAG to proces, w którym oryginalny komunikat jest wzbogacany o odpowiednie dane z zewnętrznej bazy wiedzy zawierającej odpowiednie dokumenty. Przetwarza on ten wzbogacony komunikat, a jego odpowiedź odzwierciedla dokładność danych pochodzących z zewnętrznego rozszerzenia wiedzy.

MCP to protokół typu open source, który standaryzuje sposób, w jaki aplikacje dostarczają kontekst do modeli LLM. Jako uniwersalny interfejs, czasami opisywany jako „USB-C dla sztucznej inteligencji”, MCP łączy modele LLM z zewnętrznymi źródłami danych i logiką, eliminując potrzebę stosowania niestandardowego kodowania i niestandardowych integracji. W tym przypadku model LLM jest podłączony do jednego lub więcej serwerów MCP, które ułatwiają walidację przychodzących zapytań w czasie rzeczywistym.

RAG: ekspert w dziedzinie wyszukiwania dokumentów

Spośród tych dwóch technik, RAG ma najdłuższą historię. Wywodząca się z wczesnych metod wyszukiwania informacji, technika RAG została po raz pierwszy omówiona w 2020 roku jako proces dynamicznego łączenia modeli LLM z zewnętrznymi repozytoriami wiedzy.

Mówiąc najprościej, RAG pozwala modelom LLM odwoływać się do informacji spoza danych szkoleniowych przed udzieleniem odpowiedzi na zapytanie użytkownika. Dzięki RAG modele LLM nie muszą być stale ponownie szkolone, aby być na bieżąco. Zamiast tego okresowe aktualizacje zewnętrznej bazy wiedzy sprawiają, że odpowiedzi modeli LLM są aktualne i trafne.

Chociaż RAG znacznie poprawia dokładność i trafność wyników LLM, ma pewne ograniczenia:

1. RAG najlepiej sprawdza się w przypadku nieustrukturyzowanego wyszukiwania informacji opartego na dokumentach.
2. RAG wzbogaca polecenie przed rozpoczęciem przetwarzania przez LLM, więc LLM nie może wykorzystać swojej wewnętrznej logiki do pozyskania odpowiednich informacji.

MCP: Narzędzie umożliwiające działanie w czasie rzeczywistym

Dostępny pod koniec 2024 r. jako protokół open source, MCP rozwiązuje problem tworzenia niestandardowych integracji między źródłami danych a modelami sztucznej inteligencji. Jako uniwersalny łącznik, MCP tworzy interfejs między LLM a zewnętrznymi źródłami danych. Dzięki API o niskim opóźnieniu i jednolitemu, abstrakcyjnemu interfejsowi, MCP umożliwia modelom LLM uzyskiwanie aktualnych informacji w czasie rzeczywistym z jednej lub kilku usług specyficznych dla danej dziedziny oraz pozwala modelom LLM wywoływać określone narzędzia, które umożliwiają im udzielanie najlepszych możliwych odpowiedzi.

Dzięki MCP modele LLM można płynnie podłączać do wielu źródeł danych, umożliwiając dostęp do danych i podejmowanie działań w czasie rzeczywistym. Biorąc pod uwagę tę architekturę, MCP opiera swoje odpowiedzi na zewnętrznych bazach wiedzy po zapytaniu użytkownika, co czyni go idealnym rozwiązaniem w scenariuszach wymagających najbardziej aktualnych informacji, takich jak wyniki sportowe lub zmiany cen akcji.

MCP to odpowiednia technologia dla rozrywki przyszłości.

RAG i MCP są z natury zaprojektowane do tego samego celu: wzbogacania odpowiedzi LLM o kontekst zewnętrzny w celu ograniczenia halucynacji i zapewnienia kontekstowej trafności. Jednak wyróżniają się one w przypadku różnych typów danych, zapewniają różne poziomy zaawansowania, a metody, za pomocą których realizują to zadanie, są zasadniczo różne.

RAG najlepiej sprawdza się w przypadku nieustrukturyzowanego wyszukiwania danych w dokumentach, natomiast MCP jest zoptymalizowane pod kątem ustrukturyzowanego dostępu do danych w czasie rzeczywistym. Chociaż modele LLM zapewniają znacznie lepsze wrażenia podczas wyszukiwania i odkrywania treści niż tradycyjne infrastruktury technologiczne, MCP jest idealnym rozwiązaniem podstawowym w przypadku doświadczeń opartych na treści, które wykorzystują ustrukturyzowane dane i opierają się na rozumowaniu najlepiej zapewnianym poza samym modelem LLM.

Aktualność danych ma tutaj kluczowe znaczenie. Statyczne pliki dokumentów mogą zaspokoić zapytanie użytkownika dotyczące historii powstania konkretnego filmu lub programu telewizyjnego, ale nie pomogą użytkownikom ustalić, kiedy i gdzie ten program lub film będzie emitowany. Dane szkoleniowe LLM są ustalone w czasie, więc ugruntowanie zapewnia LLM nie tylko poprawne dane, ale także aktualne dane, które pozwalają LLM uzyskać dostęp do rzeczywistego świata poza modelem „zamkniętym w wiedzy”.

Jednak dostępność programów to tylko wierzchołek góry lodowej. MCP otwiera nową erę rozrywki dzięki możliwości tworzenia niezwykle bogatych i spersonalizowanych doświadczeń. Oto przykład:

• Dostawca telewizji cyfrowej chce stworzyć codzienną listę polecanych filmów na podstawie lokalizacji użytkownika i aktualnej pogody.
• Dostawca łączy swój podstawowy model LLM z dwoma serwerami MCP: jednym, który zwraca informacje o pogodzie dla danej lokalizacji, i drugim, który zwraca ID treści ID kombinacji filmu i roku.
•  Kiedy użytkownik loguje się po raz pierwszy w danym dniu, dostawca prosi LLM o zwrócenie 10 najpopularniejszych filmów na podstawie pogody pod konkretnym adresem IP.
• LLM wykorzystuje moduł MCP do określenia aktualnych warunków pogodowych. 
• LLM następnie tworzy listę filmów, w których pojawia się ta pogoda, opierając się wyłącznie na wiedzy zawartej w modelu podstawowym. 
• LLM wysyła zapytanie do dostawcy metadanych dotyczących rozrywki, który zwraca ID treści ID każdego polecanego filmu.
• Rekomendacje filmów są przekazywane dostawcy CTV i wyświetlane użytkownikowi.
  

Wykorzystanie modeli LLM będzie miało transformacyjny wpływ na odbiorców, ale bez odpowiedniego ugruntowania modele LLM będą ograniczone do niezweryfikowanych, ograniczonych czasowo odpowiedzi. Ugruntowane modele LLM pozwolą platformom i usługom przełamać ograniczenia tradycyjnych infrastruktur wyszukiwania, otwierając jednocześnie drzwi do szerokiego zakresu zaawansowanych zapytań, które będą generować bardziej aktualne i trafne odpowiedzi.

Aby dowiedzieć się więcej, pobierz naszą dokument dotyczący serwera MCP.

Uwaga

1. LLM to rodzaj generatywnej sztucznej inteligencji, która tworzy treści w oparciu o wyuczone wzorce.