أين تعيش ذاكرة المحادثة
النموذج لا يتذكر شيئًا. يحمل كل طلب الرسائل السابقة مع الرسالة الجديدة، وحدّ معين يقرر كم منها يتسع. وحين تتجاوز المحادثة هذا الحد تُحذف أقدم الرسائل ويجيب المساعد بدونها.
يبدو النسيان عيبًا في الانتباه، وهو في الحقيقة عيب في الحساب. ومعرفة أيهما هو تغيّر ما تفعله حياله: تكرار كلامك بصوت أعلى لا ينفع، وملخص قصير ينفع.
في هذه الصفحة
كل طلب بداية جديدة
يُعطى النموذج نصًا ويعيد استكمالًا له. وبين طلبين لا يحتفظ بشيء. وكل ما يبدو ذاكرة هو في الواقع المنتج وهو يعيد إرسال رسائلك السابقة، ولهذا تكلّف المحادثة الطويلة تشغيلًا أكثر من القصيرة.
الحد يُقاس بالرموز لا بالرسائل
الرمز (token) هو تقريبًا كلمة قصيرة أو جزء من كلمة. وتشمل الميزانية التعليمات والمحادثة وسؤالك الجديد والرد معًا. ولهذا قد يقصّر السؤال الطويل الجوابَ، ولهذا أيضًا تنفد محادثة مليئة بنصوص ملصوقة طويلة قبل محادثة لها عدد الرسائل نفسه.
ما يسقط أولًا
في أغلب الخدمات تُحذف أقدم الرسائل أولًا، أي أن التمهيد الذي قدمته في البداية هو الجزء الأرجح أن يختفي. وهذا التمهيد هو عادةً الجزء المهم، فالعطل ليس عشوائيًا: إنه يزيل بالضبط السياق الذي كنت تريد الإبقاء عليه.
التعامل مع الحد
ابدأ محادثة جديدة وافتتحها بملخص من 3 جمل لما يهم. هذا أقل كلفة من مجادلة محادثة فقدت بدايتها فعلًا، ويضع السياق المهم عند الطرف الأحدث حيث يبقى. كما يفيد أن تخصص محادثة واحدة لكل مهمة، فتُنفق الميزانية على نص ذي صلة لا على تاريخ لا علاقة له.
قبل أن تلصق سؤالك
هل تتذكر بعض روبوتات الدردشة بين الجلسات؟
بعضها يخزّن ملاحظات عنك ويرفقها بالمحادثات اللاحقة. وهذا ملف مخزَّن وليس ذاكرة داخل النموذج، وهو ميزة منفصلة بإعدادات منفصلة.
هل ينفع أن أطلب منه أن يتذكر؟
داخل محادثة واحدة لا يغيّر شيئًا، لأن كل شيء يُعاد إرساله على أي حال. وبين المحادثات لا ينفع إلا حين يملك المنتج مخزنًا، وعندها المخزن هو الذي يؤدي العمل.
لماذا يتذكر أحيانًا بداية محادثة طويلة؟
لأن المحادثة لم تتجاوز الحد بعد، أو لأن المنتج يلخّص الرسائل الأقدم بدل حذفها. والسلوكان موجودان ولا يُعلَن عن أيٍّ منهما.
ابدأ محادثة، وأعطه 3 جمل من السياق، وانظر إلى أي مدى يصمد.
افتح الشات بدون قيود