لماذا ينسى الذكاء الاصطناعي بعض ما قلته ؟ فهم نافذة السياق وحدود المحادثة
تعرف على معنى نافذة السياق في الذكاء الاصطناعي ، ولماذا قد ينسى النموذج بعض التفاصيل في المحادثات الطويلة، وكيف تتعامل مع حدود السياق بشكل أفضل .
قد تبدأ محادثة طويلة مع نظام ذكاء اصطناعي ، وتشرح له في البداية شرطًا مهمًا : لا تستخدم أسلوبًا معينًا ، أو التزم بميزانية محددة ، أو تعامل مع معلومة باعتبارها ثابتة طوال المهمة .
تستمر المحادثة ، ثم بعد عشرات الرسائل تلاحظ شيئًا غريبًا : النظام يتصرف وكأن أحد التفاصيل القديمة لم يعد موجودًا ، أو يجيب بطريقة تتعارض مع شرط ذكرته سابقًا .
من السهل عندها أن نقول إن الذكاء الاصطناعي ( نسي ) .
لكن ما يحدث تقنيًا أكثر تعقيدًا من النسيان بالمعنى البشري .
جزء أساسي من التفسير يرتبط بمفهوم يسمى نافذة السياق أو Context Window : الحد الذي يحدد مقدار المعلومات التي يمكن أن تكون متاحة للنموذج ضمن عملية المعالجة نفسها ، مثل التعليمات ورسائل المحادثة ومحتوى الملفات والنتائج المسترجعة ، مع اختلاف التفاصيل بحسب النموذج والنظام المستخدم .
وفهم هذه الفكرة يفسر كثيرًا من السلوكيات التي تبدو محيرة في المحادثات الطويلة .
1. النموذج لا يرى المحادثة بالطريقة التي تراها أنت
عندما تفتح محادثة قديمة ، تستطيع أنت التمرير إلى الأعلى ورؤية الرسائل التي كتبتها قبل ساعات أو أيام .
هذا قد يعطي انطباعًا بأن النموذج أمامه الصفحة نفسها وأن كل ما يظهر لك متاح له بالدرجة نفسها .
لكن واجهة المحادثة وما يصل إلى النموذج ليسا بالضرورة شيئًا واحدًا .
عند إنشاء إجابة ، يحتاج النظام إلى تزويد النموذج بالسياق الذي سيعتمد عليه .
وقد يتضمن هذا السياق تعليمات النظام ، ورسائلك ، وردودًا سابقة ، ومعلومات من ملفات أو أدوات ، وبيانات أخرى مرتبطة بالمهمة .
كل هذه المعلومات تستهلك مساحة .
وهنا تظهر نافذة السياق .
يمكن تشبيه نافذة السياق ، بحذر، بمساحة عمل محدودة توضع فيها المعلومات التي يحتاج إليها النموذج في المهمة الحالية .
لكن هذا مجرد تشبيه للتبسيط ؛ نافذة السياق ليست ذاكرة بشرية ، ولا تعني أن النموذج ( يتذكر ) كل ما مر عليه بالطريقة التي يتذكر بها الإنسان .
2. ما الذي يدخل داخل نافذة السياق ؟
ليست رسالتك الأخيرة وحدها .
في أبسط صورة ، قد يكون السياق مكوّنًا من أجزاء مثل :
تعليمات تحدد طريقة عمل النموذج مثل قواعد السلوك أو متطلبات التطبيق .
المحادثة السابقة الأسئلة والأجوبة التي يحتاج إليها لفهم ما يحدث الآن .
رسالتك الحالية وهي الجزء الذي تطلب منه معالجته مباشرة .
محتوى إضافي مثل نص مستند ، نتائج بحث ، بيانات استرجعتها أداة أو معلومات أضيفت إلى المهمة .
ويختلف ما يدخل فعليًا بحسب التطبيق وطريقة بناء النظام .
لهذا فإن سؤالًا قصيرًا في نهاية محادثة ضخمة قد يأتي بعد كمية كبيرة جدًا من المعلومات التي يجب على النظام التعامل معها .
والنافذة ليست بلا حدود .
3. الكلمات ليست هي وحدة القياس
عند الحديث عن نافذة السياق ستظهر كلمة Token كثيرًا ، ويترجمها البعض إلى ( رمز مميز ) .
النموذج لا يقيس المحتوى بعدد الصفحات أو الكلمات بالطريقة التي يفعلها برنامج معالجة النصوص .
يُقسّم النص إلى وحدات أصغر تسمى Tokens ، وقد تكون الوحدة كلمة كاملة أو جزءًا من كلمة أو علامة ، ويختلف التقسيم باختلاف اللغة والمحتوى وطريقة الترميز .
لذلك لا يصح أن نقول مثلًا إن ( 100 ألف Token تساوي دائمًا عددًا محددًا من الكلمات ) .
الأمر تقريبي .
وتدخل هذه الوحدات في حساب المساحة التي يشغلها السياق ، كما تحتاج الإجابة التي سينشئها النموذج بدورها إلى مساحة بحسب النظام المستخدم .
الفكرة التي تهم المستخدم أبسط من التفاصيل الحسابية :
كلما زادت المعلومات التي نضعها في المهمة ، استهلكنا جزءًا أكبر من نافذة السياق .
4. ماذا يحدث عندما تصبح المحادثة أطول من المساحة المتاحة ؟
هنا لا توجد إجابة واحدة تنطبق على جميع التطبيقات .
يمكن للنظام المصمم حول النموذج أن يتعامل مع المحادثات الطويلة بطرق مختلفة .
قد لا يرسل بعض الأجزاء القديمة كما هي .
وقد يلخص محتوى سابقًا بدل إبقائه كاملًا .
وقد يسترجع النظام فقط المعلومات التي يحدد أنها أكثر ارتباطًا بالسؤال الحالي .
وقد يستخدم مزيجًا من هذه الأساليب .
وهذا تفصيل مهم ، لأننا يجب ألا نخلط بين قدرة النموذج نفسه وبين طريقة إدارة التطبيق للمحادثة .
لذلك عندما يبدو أن معلومة قديمة اختفت فليس التفسير الوحيد أن النموذج (قرأها ثم نسيها) . ربما لم تعد المعلومة الأصلية موجودة داخل السياق النشط بالصورة نفسها أصلًا .
وهذا أيضًا يفسر لماذا يمكن لتطبيقين يستخدمان تقنيات متقاربة أن يتصرفا بصورة مختلفة في المحادثات الطويلة .
5. نافذة أكبر لا تعني استخدامًا مثاليًا لكل ما بداخلها
قد يبدو الحل بسيطًا : إذا كانت المساحة محدودة ، فلنجعلها ضخمة .
وقد تطورت النماذج بالفعل إلى سياقات أطول بكثير من الأجيال السابقة ، وتصل بعض الأنظمة الحديثة إلى أحجام كبيرة جدًا من الرموز في المهمة الواحدة .
لكن يوجد فرق مهم بين سؤالين :
هل يستطيع النموذج استقبال هذه الكمية من المعلومات ؟
و :
هل سيستخدم كل معلومة داخلها بالدقة نفسها ؟
ليسا السؤال نفسه .
أظهرت دراسة بعنوان Lost in the Middle ، في اختبارات على عدة نماذج وسياقات طويلة ، أن موقع المعلومة داخل السياق يمكن أن يؤثر في قدرة النموذج على استخدامها .
ولا ينبغي تحويل هذه النتيجة إلى قاعدة تقول إن ( كل نموذج ينسى وسط المحادثة دائمًا ) .
المعنى الأدق هو :
السعة القصوى لنافذة السياق لا تساوي ضمانًا بأن كل جزء داخل هذه السعة سيحصل على الدرجة نفسها من الاستخدام والانتباه .
وهذه نقطة أهم للمستخدم من الرقم الكبير المكتوب في مواصفات النموذج .
6. لماذا قد يتجاهل شرطًا رغم أنه ما زال موجودًا ؟
ليست كل مشكلة في المحادثة الطويلة سببها نفاد نافذة السياق .
لنفترض أنك قلت في بداية المهمة :
( اكتب التقرير في صفحة واحدة فقط ) .
وفي عشرات الرسائل التالية أضفت متطلبات جديدة ، وبيانات كثيرة، وتعليمات أخرى .
ثم أعطاك النظام تقريرًا أطول من المطلوب .
هناك عدة احتمالات .
قد تكون المعلومة القديمة لم تعد ممثلة في السياق بالطريقة الأصلية .
أو ربما ظلت موجودة ، لكن وسط كمية كبيرة من المعلومات والتوجيهات أصبحت أقل بروزًا .
أو قد تكون هناك تعليمات لاحقة تتعارض معها .
أو قد يكون النموذج أخفق ببساطة في اتباعها رغم توفرها .
لذلك من الخطأ تشخيص كل مخالفة على أنها ( نسيان بسبب نافذة السياق ) .
وهذا مهم أيضًا عند تقييم جودة الإجابة ؛ فالنتيجة الصحيحة لا تعتمد فقط على وجود المعلومات ، بل على قدرة النظام على تحديد ما هو مهم واستخدامه بطريقة صحيحة .
7. مثال عملي : مشروع يتحول تدريجيًا إلى فوضى
تخيل أنك تستخدم الذكاء الاصطناعي لإعداد مشروع .
في الرسالة الأولى تحدد :
في الرسالة الأولى تحدد :
- الجمهور المستهدف .
- الميزانية .
- المدة .
- ثلاثة أشياء ممنوعة .
ثم تطلب تحليل المنافسين .
ثم تضيف بيانات العملاء .
ثم تناقش التسعير .
ثم تغير جزءًا من المنتج .
ثم ترسل تقريرًا طويلًا .
ثم بعد عشرات الرسائل تقول :
( حسنًا ، أعطني الخطة النهائية ) .
ثم تضيف بيانات العملاء .
ثم تناقش التسعير .
ثم تغير جزءًا من المنتج .
ثم ترسل تقريرًا طويلًا .
ثم بعد عشرات الرسائل تقول :
( حسنًا ، أعطني الخطة النهائية ) .
بالنسبة لك ، عبارة ( الخطة النهائية ) تشير إلى كل ما ناقشته منذ البداية .
لكن المهمة الفعلية أصبحت تحتوي على طبقات كثيرة من المعلومات ، وبعضها تغير وبعضها تعارض وبعضها أصبح قديمًا .
المشكلة هنا ليست فقط : هل تسع النافذة جميع الرسائل ؟
هناك سؤال آخر :
كيف يعرف النظام أي نسخة من كل معلومة يجب اعتبارها الحالية ؟
إذا قلت في البداية إن الميزانية 20 ألفًا ، ثم ذكرت لاحقًا 30 ألفًا داخل نقاش فرعي ، ثم عدت بعد عشرين رسالة إلى عبارة ( ميزانيتنا ) ، فإن إدارة السياق أصبحت مسألة معنى وأولوية ، وليست مجرد سعة تخزين .
وهذا سبب آخر يجعل المحادثة الأطول ليست دائمًا المحادثة الأفضل .
8. إعادة التعليمات المهمة ليست علامة على فشل الاستخدام
قد يبدو من غير الضروري أن تكرر شرطًا سبق أن قلته للنظام .
لكن في المهام الطويلة ، إعادة تثبيت أهم القيود قبل النتيجة النهائية قد تكون ممارسة جيدة .
بدل أن تقول فقط :
( أنشئ النسخة النهائية ) .
يمكن أن تقول :
( أنشئ النسخة النهائية بناءً على ما توصلنا إليه ، مع الالتزام بميزانية 30 ألفًا ، ومدة ثلاثة أشهر ، وعدم استخدام الخيارات التي استبعدناها ) .
أنت لا تعيد المحادثة كلها .
بل تعيد المعلومات التي لا تتحمل الخطأ إلى موضع واضح بالقرب من المهمة الحالية .
وينطبق الأمر نفسه على المستندات الطويلة : ليس من الضروري دائمًا إرسال كل ما لديك لمجرد أن النظام يستطيع استقباله .
ولا توجد فائدة من ملء السياق بمعلومات لا تحتاج إليها المهمة لمجرد أن النظام يستطيع استقبالها ؛ فالمحتوى غير ذي الصلة قد يزيد حجم المعالجة ويجعل تمييز المعلومات المهمة أصعب دون أن يضيف قيمة إلى النتيجة .
9. نافذة السياق ليست ( ذاكرة المستخدم )
هناك تمييز نحتاج إليه هنا ، لكن دون الخوض في موضوع الذاكرة كاملًا .
نافذة السياق تتعلق بالمعلومات المتاحة للنموذج أثناء المهمة الحالية .
أما وجود خاصية في تطبيق ما تحتفظ بتفضيلات أو معلومات بين محادثات مختلفة ، فهذه آلية أخرى .
كذلك فإن قاعدة معرفة خارجية أو ملفًا محفوظًا ليست نافذة السياق نفسها ؛ قد يجلب النظام أجزاء منها إلى السياق عندما يحتاج إليها .
لذلك يمكن لنظام أن يمتلك نافذة سياق كبيرة دون أن ( يتذكرك ) بين المحادثات .
ويمكن لتطبيق أن يحتفظ ببعض المعلومات عن تفضيلاتك رغم أن هذه المعلومات ليست موجودة حرفيًا في كل رسالة سابقة .
لذلك يجب الفصل بين نافذة السياق وذاكرة المستخدم : الأولى تتعلق بالمعلومات المتاحة للنموذج أثناء المهمة الحالية ، أما الثانية فتتعلق بآليات أخرى قد تحتفظ بمعلومات أو تفضيلات لاستخدامها لاحقًا .
10. ماذا عن الصور والصوت والملفات ؟
بعد أن أصبحت بعض النماذج متعددة الوسائط ، لم يعد السياق يعني النص فقط .
قد تحتوي المهمة على صورة أو صوت أو فيديو أو مستند إلى جانب الكلمات ، بحسب قدرات النظام .
وهذه المدخلات يجب أيضًا تمثيلها بطريقة يستطيع النموذج معالجتها ، وقد تستهلك بدورها جزءًا من الموارد والسياق المتاح .
وهنا يرتبط موضوع نافذة السياق مباشرة بما شرحناه في مقال الذكاء الاصطناعي متعدد الوسائط .
الفكرة الأساسية واحدة : النموذج يحتاج إلى مساحة عمل تحتوي المعلومات التي سيستخدمها للوصول إلى النتيجة ، سواء جاءت هذه المعلومات في صورة نص فقط أو في أكثر من وسيط .
11. كيف تتعامل مع المحادثات الطويلة بصورة أفضل ؟
لا نحتاج إلى تحويل استخدام الذكاء الاصطناعي إلى عملية معقدة ، لكن بعض العادات تحدث فرقًا واضحًا .
عندما تصل إلى مرحلة مهمة من المشروع ، اطلب تلخيص القرارات الحالية بدل الاستمرار فوق عشرات الرسائل بلا مراجعة .
صحح الملخص إذا احتوى على شيء قديم .
عندما تغيّر قرارًا ، قل بوضوح إن المعلومة الجديدة تحل محل السابقة .
وقبل إنتاج نتيجة مهمة ، أعد ذكر القيود الأساسية التي لا تريد أن تضيع .
وإذا تحولت المحادثة إلى خليط من مواضيع كثيرة لا علاقة بينها ، فقد يكون بدء سياق جديد مع ملخص نظيف أكثر فعالية من مواصلة المحادثة القديمة إلى ما لا نهاية .
ليس الهدف أن تجعل المحادثة أقصر دائمًا .
الهدف أن تجعل المعلومات المهمة أسهل على النظام في التمييز والاستخدام .
12. الخلاصة
عندما يبدو أن الذكاء الاصطناعي نسي شيئًا قلته له ، لا توجد دائمًا مشكلة واحدة اسمها ( الذاكرة ) .
قد تكون المعلومة خرجت من السياق النشط ، أو جرى اختصارها ، أو أصبحت مدفونة وسط كمية كبيرة من المحتوى ، أو تعارضت معها تعليمات أحدث ، أو لم يستخدمها النموذج جيدًا رغم وجودها .
نافذة السياق تشرح جزءًا مهمًا من هذه الصورة .
هي تحدد مقدار المعلومات التي يمكن للنموذج التعامل معها في المهمة ، لكن حجمها وحده لا يخبرنا بمدى جودة استخدام تلك المعلومات .
ولهذا فإن السؤال العملي ليس :
كم تستطيع هذه المحادثة أن تصبح طويلة ؟
بل :
هل المعلومات التي يحتاج إليها النموذج الآن واضحة ، حديثة ، وغير مدفونة وسط أشياء لم تعد مهمة ؟
عندها تتحول نافذة السياق من رقم تقني في مواصفات النماذج إلى مفهوم يفيد المستخدم فعلًا .
الانضمام إلى المحادثة
التزم بالاحترام ، وسيتم نشر تعليقك بعد المراجعة .