In che modo RAG e MCP differiscono nel potenziare le esperienze televisive basate sull'intelligenza artificiale

La crescente presenza dell'intelligenza artificiale (IA) nella nostra vita quotidiana ha amplificato il desiderio dei consumatori di personalizzazione e immediatezza. Nel mondo dell'intrattenimento, le persone si aspettano risposte immediate, suggerimenti su misura e la possibilità di agire in base a ciò che vedono e sentono. Per alcuni, ciò significa trovare il film perfetto per un determinato stato d'animo; per altri significa trovare la partita tra la loro squadra preferita e la sua più grande rivale.

Per offrire queste esperienze, editori, piattaforme e servizi sfrutteranno sempre più i modelli linguistici di grandi dimensioni (LLM)¹, che diventeranno i motori predefiniti per gli ambienti di intrattenimento di prossima generazione. 

Gli LLM sono matrici di probabilità, non database, addestrati su dati esaustivi ma finiti. La natura fondamentale di questa nuova tecnologia implica che gli LLM sintetizzano i dati, ma non li recuperano, e sono quindi soggetti a "allucinazioni", ovvero restituiscono dati plausibili ma errati. Per garantire che le risposte degli LLM siano accurate, pertinenti e affidabili, gli LLM devono essere collegati a fonti di conoscenza supplementari e reali. Questo processo di "radicamento" riduce gli errori, arricchisce i risultati e fornisce rilevanza contestuale. Esistono due metodi principali per radicare gli LLM: la generazione aumentata dal recupero (RAG) e il Model Context Protocol (MCP).

RAG e MCP affrontano entrambi i limiti dei modelli di linguaggio grande (LLM), ma lo fanno in modi fondamentalmente diversi.

Ad un livello molto alto:

Il RAG prevede un processo in cui il prompt originale viene arricchito con dati rilevanti provenienti da una base di conoscenza esterna di documenti pertinenti. Elabora questo prompt arricchito e la sua risposta riflette l'accuratezza dei dati provenienti dall'ampliamento della conoscenza esterna.

MCP è un protocollo open source che standardizza il modo in cui le applicazioni forniscono contesto agli LLM. Come interfaccia universale, talvolta descritta come "USB-C per l'IA", MCP collega gli LLM con fonti di dati e logiche esterne, eliminando la necessità di codifica e integrazioni personalizzate. In questo caso, un LLM è collegato a uno o più server MCP che facilitano la convalida in tempo reale delle query in entrata.

RAG: l'esperto nel recupero dei documenti

Tra le due tecniche, RAG è quella con la storia più lunga. Con radici nella ricerca delle informazioni dei primi tempi, RAG è stata discussa per la prima volta nel 2020 come processo per collegare dinamicamente gli LLM a repository di conoscenze esterni.

In parole povere, RAG consente agli LLM di fare riferimento a informazioni esterne ai propri dati di addestramento prima di rispondere a una query dell'utente. Con RAG, gli LLM non devono essere costantemente riaddestrati per rimanere aggiornati. Al contrario, gli aggiornamenti periodici alla base di conoscenza esterna mantengono le risposte degli LLM attuali e pertinenti.

Sebbene RAG migliori notevolmente l'accuratezza e la pertinenza dei risultati dell'LLM, presenta alcune limitazioni:

1. RAG è particolarmente indicato per il recupero di informazioni non strutturate basate su documenti.
2. RAG arricchisce il prompt prima che l'LLM inizi l'elaborazione, quindi l'LLM non può utilizzare la sua logica interna per reperire informazioni rilevanti.

MCP: Il facilitatore dell'azione in tempo reale

Disponibile dalla fine del 2024 come protocollo open source, MCP risolve la sfida dello sviluppo di integrazioni personalizzate tra fonti di dati e modelli di IA. In qualità di connettore universale, MCP crea un'interfaccia tra un LLM e fonti di dati esterne. Con un'API a bassa latenza e un'interfaccia uniforme e astratta, MCP consente agli LLM di ottenere informazioni aggiornate in tempo reale da uno o più servizi specifici di dominio e permette agli LLM di richiamare strumenti specifici che consentono loro di fornire la migliore risposta possibile.

Con MCP, gli LLM possono essere collegati senza soluzione di continuità a numerose fonti di dati, consentendo l'accesso ai dati e l'esecuzione di azioni in tempo reale. Data questa architettura, MCP basa le sue risposte su basi di conoscenza esterne dopo una query dell'utente, rendendolo ideale per scenari che richiedono le informazioni più aggiornate disponibili, come i risultati sportivi o le variazioni dei prezzi delle azioni.

MCP è la tecnologia giusta per l'intrattenimento di domani

RAG e MCP sono intrinsecamente progettati per fare la stessa cosa: arricchire le risposte LLM con un contesto esterno per ridurre le allucinazioni e fornire rilevanza contestuale. Tuttavia, eccellono in diversi tipi di dati, forniscono diversi livelli di sofisticazione e i metodi con cui eseguono questo compito sono fondamentalmente diversi.

RAG è ideale per il recupero di dati non strutturati e documentali, mentre MCP è ottimizzato per l'accesso ai dati strutturati in tempo reale. Sebbene gli LLM offrano esperienze di ricerca e scoperta notevolmente migliorate rispetto alle infrastrutture tecnologiche tradizionali, MCP è la soluzione di base ideale per esperienze incentrate sui contenuti che sfruttano dati strutturati e si basano su un ragionamento fornito al meglio al di fuori dell'LLM stesso.

L'attualità dei dati è fondamentale in questo caso. I file di documenti statici possono soddisfare una richiesta dell'utente sulla storia dello sviluppo di un determinato film o programma televisivo, ma non possono aiutare gli utenti a identificare quando o dove quel programma o film sarà trasmesso. I dati di addestramento degli LLM sono fissi nel tempo, quindi il grounding fornisce agli LLM non solo dati corretti, ma anche dati tempestivi e aggiornati che consentono agli LLM di accedere al mondo reale al di fuori del loro modello "bloccato dalla conoscenza".

Ma la disponibilità dei programmi è solo la punta dell'iceberg. MCP apre una nuova era nell'esperienza di intrattenimento grazie alla sua capacità di creare esperienze estremamente ricche e personalizzate. Ecco un esempio:

• Un fornitore di CTV desidera creare una lista giornaliera di film consigliati in base alla posizione dell'utente e alle condizioni meteorologiche attuali.
• Il provider collega il proprio LLM di base a due server MCP: uno che restituisce le condizioni meteorologiche per la località e uno che restituisce ID del contenuto ID una combinazione di film e anno.
•  Quando l'utente accede per la prima volta quel giorno, il provider chiede all'LLM di restituire i 10 film più popolari in base alle condizioni meteorologiche relative all'indirizzo IP specifico.
• L'LLM utilizza il MCP meteorologico per determinare le condizioni meteorologiche attuali. 
• Il LLM cura quindi un elenco di film che trattano quel tema meteorologico basandosi esclusivamente sulle conoscenze contenute nel modello di base. 
• L'LLM interroga un fornitore di metadati di intrattenimento che restituisce ID del contenuto ID ogni film consigliato.
• I consigli sui film vengono trasmessi al fornitore di CTV e visualizzati all'utente.
  

L'uso degli LLM sarà rivoluzionario per il pubblico, ma senza un fondamento solido, gli LLM sono limitati a risposte non verificate e vincolate dal tempo. Gli LLM con un fondamento solido consentiranno alle piattaforme e ai servizi di superare i limiti delle infrastrutture di ricerca tradizionali, aprendo la strada a una vasta gamma di query sofisticate che genereranno risposte più attuali e pertinenti.

Per ulteriori informazioni, scarica il nostro white paper sul server MCP.

Nota

1. Gli LLM sono un tipo di IA generativa che crea contenuti sulla base di modelli appresi.