なぜあなたのLLMは「ザ・マディソン」がウィスコンシン州にあると思っているのか

タイラー・ベル（製品担当上級副社長）

こんな状況、よくあることではありませんか？テレビ番組が山ほどある中で、延々とスクロールし続ける手間を省くために、友人や家族にオススメの番組を尋ねてしまうこと。幸いなことに、『イエローストーン』や『ランドマン』、『キングスタウンの市長』を気に入っていたことを知っている友人が、テイラー・シェリダン監督の最新テレビシリーズ『ザ・マディソン』を勧めてくれました。

番組を早く見たくて、音声対応のリモコンに第1話を検索して再生するよう指示する。しかし、ニューヨークからモンタナの荒野へ引っ越してきた家族を描いた、ミシェル・ファイファー主演のドラマが流れるどころか、ウィスコンシン州マディソンに住む若者たちのグループを描いたリアリティ番組が映し出されてしまった。

テイラー・シェリダン氏や、彼が築き上げた人気テレビ番組の帝国をめぐる大騒ぎを考えると、これはあり得ない話に聞こえるかもしれません。しかし、シェリダン氏のテレビ作品の世界観における最新番組について情報を尋ねた際、学習データが不十分なLLMがまさにそのように回答したのです。

この反応は意外に思えるかもしれませんが、実は驚くべきことではありません。というのも、LLMにはいくつかの非常に基本的な限界があるからです。

LLMは推論や推察に優れていますが、事実を明確に表現するようには設計されていません。予測エンジンとして、その唯一の機能は次のトークンの予測です。そして、上記の例では、LLMの知識の限界により、トレーニング期間終了後に起きた出来事――2026年3月の『ザ・マディソン』の初放送を含め――については何も把握できません。 

LLMの場合、応答の正確性は事実ではなく、最適化された妥当性に完全に依存しています。データや学習によって結果は改善されますが、確率に基づいて応答するように訓練された機械に、事実の確実性を期待すべきではありません。ChatGPTやGeminiといった人気のチャットボットと同様に、あらゆる動画配信サービスに組み込まれたLLMも、提供する応答を検証・修正・改善するために、^{グラウンディング1}が必要です。

しかし、人気のあるチャットボットとは異なり、コンテンツの検索や発見に用いられるLLMには、特定の分野に特化したグラウンディングが必要です。例えば、信頼性の高いエンターテインメントデータによるグラウンディングを行っておけば、グラウンディングされていないLLMが、2025年に公開される『Heel』という非常に似た名前の長編映画について尋ねられた際に、2021年から2023年にかけて放送されたStarzのテレビシリーズ『Heels』に関する情報を返してしまうことを防ぐことができます。

コンテンツカタログが拡大するにつれ、コンテンツを見つけることの難しさは現実のものとなっており、テレビ視聴者は現在、^{視聴したい番組}を探すのに14分を費やしていると回答しています²。LLMには、視聴者のコンテンツ発見に関する課題を解決する能力がありますが、それだけでは解決できません。

「グラウンディング」により、LLMは時代の流れに遅れを取らない

トレーニングデータのみを基盤とするLLMは、包括的な知識の宝庫というわけではありません。この根本的な特性こそが、LLMが提供する回答が最新かつ正確であることを保証するために外部データが必要な理由の中核をなしています。例えば、外部データによる裏付けがなければ、知識の切り詰めにより、LLMは導入後に公開されたコンテンツを認識できなくなってしまいます。毎年どれほど多くの新しいテレビ番組や映画が公開されているかを考えれば、これは顕著な制限と言えます。

視聴者にとっては苛立たしいことではあるが、新作について尋ねられた際、LLMが示しうる最善の回答は、単にその学習データの限界を認めるものかもしれない。 Gracenote による最近の研究では、2025年5月にリリースされた「アングラウンデッド」なLLMがまさにそのように対応し、2025年および2026年に公開されたさまざまな最近の主流映画に関する情報を持っていないことを指摘した。

しかし、より一般的なのは、LLMが知らないことをでっち上げる（つまり「幻覚」を起こす）ことであり、しかもそれを自信満々に行うという点だ。これは、エンターテインメント業界において、特に市場の細分化が進み、前作と同じタイトルを持つリブート作品が氾濫している状況下で、ユーザー体験に重大なリスクをもたらす。

幻覚がコンテンツ発見に与える影響をより深く理解するため、我々の最近の研究では、13カ国のテレビ番組トップ100エピソードおよび映画トップ100作品について、グラウンディングされていないLLMがどれだけの情報をでっち上げたかを評価した。2,600作品のうち、グラウンディングされていないLLMは506作品（全体の約20％）について、属性レベルの情報を100％でっち上げていた。

LLMは事実の確実性を保証することはできない

有限の学習データ、次トークン予測、および根拠データの欠如といったインフラ上の制約が相まって、テレビ視聴者にとって不快な体験をもたらしています。結局のところ、良好なユーザー体験は、視聴者が探しているものを見つけられるかどうかにかかっています。この点において、根拠のないLLMは、事実の正確性を確保することが不可能なため、その役割を果たすことができません。

ストリーミングサービスにおいて、根拠のないAIは単なる理論上の問題ではありません。アシスタントがストーリーをでっち上げたり、間違ったキャスト情報を提供したり、類似したタイトルを混同したりした場合、視聴者はそのモデルを責めることはないでしょう。彼らはその体験そのものを非難することになり、そのため、信頼の構築、ユーザー維持、そして収益化には「グラウンディング」が不可欠となります。

そのリスクこそが、コンテンツ発見の問題解決を急務にしている理由であり、視聴者が現在直面している最大の課題は、何を見るかを見つけることにある。LLM（大規模言語モデル）はここで重要な役割を果たすだろうが、成功するAI戦略は、単にモデルを大きくすることだけで構築されるものではない。 

その代わりに、成功を収めるメディア企業やストリーミングプロバイダーは、ライセンス供与されたデータセットやMCPサーバー、あるいは信頼性の高いナレッジグラフへのその他の接続を通じて、自社のAIスタック内に直接、完全かつ最新のコンテンツインテリジェンスを構築することになるでしょう。

エージェントやモデルたち：「でも、チャットボットはこれをうまくこなしているのに……」

AIの世界において、極めて重要な区別があります。それは、消費者としてChatGPT、Gemini、あるいはClaudeを利用する際、それぞれOpenAI、Google、Anthropicから業務用にライセンス供与を受けるモデルそのものを体験しているわけではないということです。むしろ、利用しているのは「エージェント」であり、これは基盤となるモデルを実装したもので、多数の補助的なツールやデータと組み合わされたものです。 

数学の質問がありますか？このモデルは、その質問を算数ツールに連携させます。最近の出来事、スポーツの試合結果、あるいは最新ニュースについて知りたいですか？このモデルは、そのクエリをウェブ検索を行う専用ツールに引き継ぎます。こうした一般消費者向けのチャットボットは、数十、あるいは数百にも及ぶ分野やタスクに特化したツールやデータソースを活用し、情報に基づいたユーザー体験を提供しています。

エンターテインメント分野のシステム構成にLLMを導入する場合、一般消費者向けのチャットボットと同じツールやデータを利用できるわけではありません。LLMは不完全なソリューションです。ここでは、以下の目的のために、独自のデータやツールを用意する必要があります：

• 固有の幻覚を防ぐためのLLM応答の調整
• LLMが単独では実行できない補助的な機能を提供し、さらに、 
• モデルが最新の情報にアクセスできることを確認してください 

MCPサーバーなどの特定のツールは、エージェント内で行動指示（システムプロンプト）やビジネスロジックと組み合わされます。エンターテインメントスタック内のAI関連タスクごとに異なるエージェントを実装することになるでしょうが、それらはすべて同じLLMを使用し、ツールセットの多くも共通しています。

この記事は、もともと『Streaming Media』に掲載されたものです。