الهلوسة: ما هي المخاطر؟

مع تزايد اعتماد الذكاء الاصطناعي (AI) واستخدامه، يتزايد أيضًا الوعي بإمكانية تقديمه لبيانات خاطئة على أنها حقائق. هذه «الهلوسات»، وهي معلومات تبدو معقولة لكنها خاطئة، تمثل خطرًا معروفًا مرتبطًا باستخدام الذكاء الاصطناعي، لكن الكثيرين لا يدركون مدى خطورتها. وعندما لا يفهم الناس المخاطر المرتبطة بالهلوسات، فإنهم لا يستطيعون تقييم آثارها.

في قطاع الإعلام، ستصبح النماذج اللغوية الضخمة (LLMs) — وهي نوع من الذكاء الاصطناعي التوليدي المدرب على فهم اللغة البشرية وتوليدها — المحركات الأساسية التي توفر تجارب ترفيهية من الجيل التالي. غير أن النجاح في هذا المجال يتوقف على دعم هذه النماذج بمصادر بيانات خارجية موثوقة لضمان تقديم نتائج دقيقة وحديثة وذات صلة. وتُعرف هذه العملية باسم «التأسيس».

لماذا تُنتج نماذج اللغة الكبيرة (LLMs) «هلوسات»

والأهم من ذلك، أن نماذج اللغة الكبيرة (LLMs) ليست قواعد بيانات، ولا تخزن البيانات بالمعنى التقليدي. فهي عبارة عن مصفوفات احتمالية تم تدريبها على بيانات شاملة، وإن كانت محدودة. ونتيجة لذلك، فإنها تقوم بتوليف الردود بدلاً من استرجاع الحقائق وتوضيحها. في الممارسة العملية، تتمثل المهمة الأساسية لنماذج اللغة الكبيرة (LLMs) في توقع الجزء الأكثر احتمالاً من النص (مثل الرمز) وفقاً لنمط محدد إحصائياً. إذا كانت الكلمة التالية الأكثر معقولية لغوياً في التسلسل غير صحيحة، فإن نموذج اللغة الكبيرة (LLM) سيقدمها على أي حال لأنها تتناسب مع النمط.

إذن، فإن الطبيعة الاحتمالية الجوهرية للتكنولوجيا نفسها هي المصدر الرئيسي للهلوسة، لكن هذه النقطة الضعف التكنولوجية تتفاقم بسبب البيانات التي يتم تدريب النماذج عليها. وتكون النماذج عرضة بشكل خاص للهلوسة عندما يُطلب منها الرد على أسئلة في حين لا توجد بيانات موضوعية كافية أو لا توجد على الإطلاق في مجموعة بيانات التدريب الخاصة بها، أو عندما تكون بيانات التدريب ذات الصلة متضاربة. ويتجلى هذا بشكل خاص في حالات الاستخدام الإعلامي حيث تُطرح أسئلة حول الإصدارات الحديثة والأحداث الأخيرة (مثل حفل توزيع جوائز الأوسكار الأخير) والعناوين الأقل شهرة أو الهامشية.

يقع جزء كبير من اللوم في هذا الصدد على عاتق الإنترنت، حيث إنه يُعد مصدر البيانات الأساسي لتدريب نماذج اللغة الكبيرة (LLM). ويُعد «تأسيس» نموذج اللغة الكبيرة باستخدام بيانات حقيقية ومُثبتة الدقة الدفاع الأساسي ضد «الهلوسة». وتختلف طرق التأسيس، كما تختلف مصادر البيانات التي تعتمد عليها. ونتيجة لذلك، فإن موثوقية أي نموذج لغة كبيرة تعتمد بشكل كامل على موثوقية البيانات التي يمكنه الوصول إليها. اعتبارًا من عام 2026، لا توجد نماذج LLM خالية من الهلوسة، ونظرًا لطبيعة هذه التكنولوجيا، من غير المرجح أن تتغير هذه الحقيقة في أي وقت قريب. إن التأسيس هو، في الواقع، النهج الوحيد القابل للتطبيق للتخفيف من الهلوسة.

نماذج اللغة الكبيرة في مجال الترفيه

بالتوازي مع تزايد انتشار الذكاء الاصطناعي واستخدامه، تسعى شركات الترفيه إلى الارتقاء بمستوى تجارب المحتوى التي تقدمها لعملائها. وفي هذا الصدد، يوفر الذكاء الاصطناعي مزايا كبيرة مقارنة بتقنيات قواعد البيانات والبحث التقليدية. وتعد قدرات التصنيف والفرز القوية، والتوصيات المخصصة للغاية، ومواءمة قوائم المحتوى، والبحث التفاعلي، من بين المزايا الرئيسية التي يمكن أن توفرها نماذج اللغة الكبيرة (LLMs).

تشكل البيانات الوصفية أساس نجاح أي نموذج لغوي كبير (LLM) مكلف بإحداث ثورة في الطريقة التي يتفاعل بها الناس مع المحتوى. وفي حين أن المستهلك قد لا يرى سوى 10 أو 20 سمة من سمات البيانات الوصفية لفيلم أو مسلسل تلفزيوني معين، فإن خدمات البث والاستوديوهات غالبًا ما تتعقب مئات — بل آلاف — النقاط البياناتية لكل عنوان على حدة.

ومن المهم الإشارة إلى أن درجة خطر حدوث "الهلوسة" لا تتساوى في جميع سمات البيانات الوصفية. فهناك سمات معينة، مثل نوع المحتوى والنوع الأدبي، تنطوي على خطر ضئيل جدًا لحدوث "الهلوسة"، لأن النماذج اللغوية الكبيرة (LLMs) تتفوق في تقديم استجابات احتمالية تركز على المنطق المنظم والتصنيف الفئوي. 

ومع ذلك، عندما تكون سمات البيانات الوصفية فريدة للغاية، يزداد خطر «الهلوسة» بشكل كبير. فعلى سبيل المثال، تنطوي معرّفات المحتوى والسمات الرياضية على خطر «الهلوسة» مرتفع للغاية. في هذه الحالات، ستقوم نماذج اللغة الكبيرة (LLM) بـ"تخمين" رقم تثق أنه معقول، ولكنه خاطئ في الواقع. على سبيل المثال، غالبًا ما يتم تقسيم الأرقام إلى رموز فرعية. لذا، قد ترى نموذج اللغة الكبيرة (LLM) الرقم 154 على أنه 15 و4. عند بناء هذه الرموز، غالبًا ما تنهار "العمليات الحسابية"، مما يؤدي إلى أخطاء "الانحراف بمقدار واحد". 

تشكل أرقام المواسم والحلقات تحديًا خاصًا بسبب طريقة عمل النماذج اللغوية الكبيرة (LLM). على سبيل المثال، إذا كانت إحدى النماذج اللغوية الكبيرة قد اطلعت على 1000 حلقة من مسلسل «السمبسونز»، فإنها تعرف أن هناك حلقة رقم 5 في الموسم العاشر. وإذا سأل أحد المشاهدين عن مسلسل متخصص لا يتألف سوى من ست حلقات، فقد تميل النموذج إلى ذكر رقم أكبر، لأن معظم المسلسلات التي تم تدريبها عليها تتضمن مواسم أطول.

تقييم مخاطر الهلوسة من خلال سمات البيانات الوصفية

ونظراً للتنوع الكبير في سمات البيانات الوصفية الموجودة، فليست جميعها عرضة بشكل عام لحدوث «الهلوسة». 

يختلف خطر حدوث «تخيلات» بشأن المخرج، على سبيل المثال، بين إنتاجات الاستوديوهات الكبرى والأفلام المستقلة الصغيرة. ففي هذه الحالة، قد يؤدي الخلط في أسماء المشاركين إلى قيام نموذج اللغة الطبيعية (LLM) بتخيل منتج أو مخرج سينمائي معاصر شهير على أنه المخرج.

دعونا نتعمق في مخاطر حدوث الهلوسة عبر أنواع محددة من المحتوى وخصائص البيانات الوصفية.

الخصائص العامة

خصائص الفيلم

خصائص البرنامج التلفزيوني

خصائص حلقات ومواسم المسلسلات التلفزيونية

المسار الرياضي الأقل مقاومة

يتم تدريب نماذج اللغة الكبيرة (LLMs) على تقليل «الخطأ» إلى أدنى حد، بمعنى أنها تسعى إلى أن تكون «صحيحة» قدر الإمكان، وفقًا لبيانات التدريب الخاصة بها. وفي قاعدة البيانات الضخمة، تظهر أنماط معينة بمعدل أكبر من غيرها.

فيما يتعلق بأعوام الإصدار: في بيانات التدريب، تلي عبارة «Star Wars» الرقم «1977» ملايين المرات. ويبلغ احتمال ظهور الرقم «1977» بعد عبارة «Star Wars» ما يقارب 100%.

فيما يتعلق بالمواسم والحلقات، يظهر مصطلح «الموسم الأول» لبرنامج متوسط المستوى في بيانات التدريب بمعدل أكبر بكثير من مصطلح «الموسم السابع». وإذا كان نموذج اللغة الكبيرة (LLM) غير متأكد من الحقائق، فسوف يعتمد بشكل افتراضي على النمط الأكثر تكرارًا في بيانات التدريب الخاصة به، والتي عادةً ما تحتوي على أرقام أقل (1 أو 2 أو 3).

الجاذبية الدلالية

كما أن «التسلسلات المحتملة» تتأثر بأسلوب المحتوى. ولهذا السبب تكون عناوين الحلقات عرضة للخلل في التوقع. فإذا طلبت من نموذج اللغة الكبيرة (LLM) تسمية حلقة من مسلسل «Friends»، فإنه يعرف النمط المتبع: «The One With…»

• الحقيقة: لا توجد حلقة بعنوان «الحلقة التي تتناول الكسوف الشمسي».
• الوهم: نظرًا لأن عبارة «The One With...» تُعدّ بادئة شائعة الاستخدام، و«الكسوف الشمسي» موضوعًا تلفزيونيًا متكررًا (يُشير إلى أن «الأمور على وشك أن تصبح غريبة»)؛ فإن نموذج اللغة الكبيرة (LLM) يدمج بينهما ليشكل «تسلسلًا محتملًا». تبدو الإجابة أصيلة بنسبة 100٪ لأنها تتبع القواعد الدلالية لعناوين حلقات مسلسل «Friends»، حتى وإن كانت غير صحيحة من الناحية الواقعية.

مشكلة الأعداد الصحيحة: الرموز مقابل الأرقام

لا «تحسب» نماذج اللغة الكبيرة (LLMs) بالطريقة التي يحسب بها البشر. فهي تنظر إلى الأرقام على أنها أجزاء، لذا قد تتم معالجة الرقم 154 على أنه رمزان: 15 و4.

عندما يتنبأ نموذج اللغة الكبيرة (LLM) غير المُدرَّب على بيانات معينة برقم حلقة ما، فإنه لا يرجع إلى قاعدة بيانات. بل يسأل: «في سلسلة الأرقام التي تلي عنوان هذا البرنامج، ما هو الرقم الذي يأتي عادةً بعد ذلك؟»

إذا أظهرت بيانات التدريب أن المسلسل يتألف من حوالي 20 حلقة في كل موسم، وكان نموذج اللغة الكبيرة (LLM) قد أنتج بالفعل «الموسم الثاني»، فإنه سيُفضل إحصائيًا أي رقم يتراوح بين 1 و20. وغالبًا ما يكون الاختيار المحدد بين «12» و«13» بمثابة رمي عملة، بناءً على «الضوضاء» الموجودة في النموذج، وقد تحصل على إجابات مختلفة لنفس المطالبة.

لماذا تبدو الهلوسة واثقة جدًا

لا يمتلك نموذج اللغة الاصطناعية (LLM) حالة "لا أعرف" ما لم يتم ضبطه خصيصًا لهذا الغرض. وفي الغالب، يدخل النموذج في "تسلسل محتمل" ويُنتج رموزًا تتمتع بثقة رياضية عالية، وهو ما يُعرف بـ"خريطة الاحتمالات". وفيما يلي مثال على خريطة الاحتمالات فيما يتعلق بأسماء المخرجين:

السؤال: مخرج فيلم «تايتانيك» (1997) هو...

احتمالات الرموز التالية:

• جيمس: 99.2%
• ستيفن: 0.3%
• جورج: 0.1%

النتيجة المتوقعة بسبب الارتباط القوي بين اسم جيمس كاميرون وفيلم «تايتانيك».

السؤال: مخرج الحلقة التلفزيونية «الذبابة» هو...

احتمالات الرموز التالية:

• فينس (منتج تنفيذي، مسلسل «بريكنج باد»): 45%
• ريان (المخرج الفعلي، مسلسل «بريكنج باد»، الموسم 3 الحلقة 10): 30%
• ميشيل (مديرة متكررة): 20%

في هذا المثال الثاني، سيختار نموذج اللغة الكبير (LLM) فينس (جيليجان) لأنه «أكثر احتمالاً» أن يكون مرتبطاً بنص المسلسل بشكل عام، على الرغم من أنه لم يقم بإخراج تلك الحلقة بالتحديد. ونظراً لوجود كمية أقل من المواد المكتوبة المتعلقة بهذه الحلقة (مقارنةً بمثال «تايتانيك» ) فإن قلة بيانات التدريب تعني أن خريطة الاحتمالات من المرجح أن تسفر عن إجابة خاطئة.