Dónde vive la memoria de una conversación
El modelo no recuerda nada. Cada petición lleva los mensajes anteriores junto con el mensaje nuevo, y un límite decide cuántos caben. Cuando la conversación supera ese límite, se descartan los mensajes más antiguos y el asistente responde sin ellos.
El olvido parece un fallo de atención, pero es un fallo de aritmética. Saber de cuál se trata cambia lo que haces al respecto: repetir lo mismo con más insistencia no ayuda, y un resumen breve sí.
En esta página
Cada petición empieza de cero
Al modelo se le da un texto y devuelve una continuación. Entre 2 peticiones no guarda nada. Todo lo que parece memoria es el producto reenviando tus mensajes anteriores, por eso una conversación larga cuesta más de procesar que una corta.
El límite se mide en tokens, no en mensajes
Un token es más o menos una palabra corta o un trozo de una palabra. El presupuesto cubre las instrucciones, la conversación, tu nueva pregunta y la respuesta, todo junto. Por eso una pregunta larga puede acortar una respuesta, y por eso una conversación llena de texto pegado se agota antes que otra con el mismo número de mensajes.
Qué se cae primero
En la mayoría de los servicios se descartan primero los mensajes más antiguos, así que el planteamiento que diste al principio es lo que más probablemente desaparece. Y ese planteamiento suele ser lo que importaba, por lo que el fallo no es aleatorio: elimina justo el contexto que habrías querido conservar.
Cómo trabajar con el límite
Empieza una conversación nueva y ábrela con un resumen de 3 frases de lo que importa. Cuesta menos que discutir con una conversación que ya perdió el principio, y deja el contexto importante en el extremo más reciente, donde sobrevive. Mantener 1 conversación por tarea también ayuda, porque el presupuesto se gasta en texto relevante y no en historial sin relación.
Antes de pegar tu pregunta
¿Algunos chatbots recuerdan entre sesiones?
Algunos guardan notas sobre ti y las añaden a conversaciones posteriores. Eso es un perfil almacenado y no memoria del modelo, y es una función aparte con sus propios ajustes.
¿Sirve pedirle que recuerde algo?
Dentro de 1 conversación no cambia nada, porque todo se reenvía de todos modos. Entre conversaciones solo funciona si el producto tiene un almacén, y entonces es el almacén quien hace el trabajo.
¿Por qué a veces recuerda el inicio de un chat largo?
Porque la conversación aún no había superado el límite, o porque el producto resume los mensajes antiguos en lugar de descartarlos. Ambos comportamientos existen y ninguno se anuncia.
Empieza una conversación, dale 3 frases de contexto y mira hasta dónde aguanta.
Abrir chatbot sin censura