Cómo recuerda y personaliza las respuestas la IA: custom ChatGPT y asistentes de OpenAI

Por Tirso Maldonado profesor de UFM Madrid.

En la primera parte de este artículo hablamos de la memoria de los modelos de inteligencia artificial, prestando atención a ChatGPT. Ahora volvemos sobre el asunto, para centrarnos en los custom ChatGPT y en los asistentes de OpenAI.aa

Memoria en custom GPTs: ¿realmente recuerdan algo?

Uno de los errores más comunes al hablar de custom GPTs es asumir que, por ser personalizables, también tienen memoria persistente. Sin embargo, la realidad es distinta: un custom GPTs no recuerda interacciones pasadas. Cada vez que inicias una nueva conversación, es como si estuvieras hablando con un modelo recién creado.

Entonces, ¿cómo es posible personalizar un custom GPT sin que tenga memoria?

¿Cómo funcionan los custom GPTs sin memoria?

Los Custom GPTs dependen de tres elementos clave para adaptarse a las necesidades de los usuarios sin necesidad de recordar información entre sesiones:

• Instrucciones personalizadas: Se configuran al crearlo y establecen el tono, estilo y enfoque de sus respuestas. Ejemplo: Un GPT para asesoría legal puede recibir instrucciones específicas para priorizar términos jurídicos en su lenguaje.
• Carga de archivos: Si un custom GPT tiene habilitada la opción de procesar documentos, puedes cargar archivos de dos maneras:Subiéndolos a la Base de Conocimiento, lo que los convierte en permanentes y accesibles en futuras sesiones.Subiéndolos dentro de una conversación, en cuyo caso el GPT podrá acceder a ellos mientras dure la sesión, pero no los recordará en futuras interacciones, ya que no dispone de memoria sobre los chats. Ejemplo: Si le subes un PDF sobre estrategias de marketing, podrá responder con base en ese contenido mientras dure la conversación, pero si vuelves más tarde, el archivo tendrá que subirse nuevamente, a menos que lo hayas guardado en la Base de Conocimiento.
• Integración con herramientas externas: Puede conectarse a APIs o bases de datos para acceder a información en tiempo real. Ejemplo: Un Custom GPT diseñado para análisis financiero podría extraer datos de una API de mercado bursátil para generar informes actualizados.

Ventajas de los custom GPTs sin memoria

• Personalización total: Puedes definir su comportamiento y estilo sin riesgo de que “olvide” información clave.
• Acceso a documentos y APIs: Si bien no recuerda, puede consultar bases de datos y archivos para ofrecer respuestas en tiempo real.
• Fiabilidad en las respuestas: Al no “contaminarse” con conversaciones previas, siempre responde según las instrucciones predefinidas.

Limitaciones

• No aprende de interacciones previas: Cada sesión es un nuevo comienzo, lo que puede ser frustrante en interacciones recurrentes.
• No retiene contexto: No puedes hacer referencia a conversaciones pasadas, salvo que subas archivos o utilices APIs.
• Depende de configuraciones manuales: Cualquier ajuste en el conocimiento del GPT debe hacerse manualmente en las instrucciones o mediante archivos cargados en cada sesión.

Ejemplo práctico

Supongamos que creamos un custom GPT para soporte técnico de software:

Escenario 1: Un usuario pregunta “¿Cómo soluciono un error en mi software ERP?”. El Custom GPT responde con base en la documentación que tiene disponible en la sesión. Escenario 2 (nueva sesión): El mismo usuario vuelve más tarde y pregunta “¿Recuerdas el problema que tenía con mi ERP?”. Respuesta del custom GPT: “No tengo acceso a conversaciones anteriores. ¿Puedes describirme el problema nuevamente?”

Aquí es donde radica la principal diferencia con los Proyectos de ChatGPT, que sí recordarían el problema planteado previamente, y con los Assistants de OpenAI, que podrían almacenar información en una base de conocimiento persistente.

Los custom GPTs no tienen memoria persistente, pero su flexibilidad y capacidad de integración con archivos y APIs los convierten en herramientas poderosas. Son ideales cuando necesitas un modelo altamente personalizable pero sin el riesgo de sesgos o contaminación de respuestas por interacciones pasadas.

Sin embargo, algo que sí puedes hacer es utilizar la conversación en ChatGPT con memoria y hacer una llamada a un custom GPT utilizando “@”. De esta forma, puedes combinar la memoria de ChatGPT con la información registrada en la sesión y, al mismo tiempo, aplicar la funcionalidad y conocimiento específico de un custom GPT concreto. Esto te permite aprovechar lo mejor de ambos sistemas: la persistencia de información de ChatGPT y la especialización de los Custom GPTs.

Memoria en assistants de OpenAI

Si ChatGPT con memoria ofrece una experiencia personalizada pero con limitaciones y los custom GPTs dependen de configuraciones estáticas, los assistants de OpenAI representan un equilibrio entre personalización y persistencia. Estos modelos están diseñados para almacenar información estructurada, integrarse con bases de conocimiento y acceder a datos externos, lo que los convierte en una opción potente para aplicaciones más avanzadas.

Pero, ¿cómo funciona realmente la memoria en los assistants de OpenAI y en qué se diferencian de otras soluciones?

¿Cómo gestionan la memoria los assistants de OpenAI?

A diferencia de ChatGPT con memoria, que selecciona automáticamente qué información recordar, los assistants pueden retener información utilizando tres mecanismos clave:

Fine-tuning (ajuste fino del modelo)

Se entrena al modelo con ejemplos específicos para que aprenda patrones de respuesta que se mantendrán en el tiempo. Esto no es una “memoria” en tiempo real, pero permite que el assistant se especialice en un área concreta.

Ejemplo: Un assistant diseñado para atención al cliente puede entrenarse con un histórico de respuestas y casos de uso, asegurando consistencia en sus respuestas.

Vector stores (almacenamiento de datos estructurados)

Se pueden subir bases de conocimiento en documentos o bases de datos vectoriales. Esto permite al assistant acceder a información relevante de forma persistente, pero sin “recordar” conversaciones como lo hace ChatGPT con memoria.

Ejemplo: Un assistant en un despacho legal puede tener un repositorio con documentos jurídicos y consult*arlos en cualquier momento.

Integración con APIs y herramientas externas

Los assistants pueden conectarse a sistemas externos para recuperar información en tiempo real.

Ejemplo: Un assistant financiero puede conectarse a APIs de mercado para ofrecer análisis de tendencias y reportes actualizados.

Ventajas de la memoria en assistants de OpenAI

• Memoria más estructurada y persistente: Almacenan datos relevantes en bases de conocimiento accesibles en cualquier momento.
• Mayor precisión y fiabilidad: Gracias a los vector stores, los assistants pueden recuperar información con alta relevancia contextual.
• Posibilidad de integraciones avanzadas: Pueden conectarse a herramientas y sistemas empresariales para enriquecer sus respuestas.

A diferencia de los Custom GPTs, donde los vectores se crean en tiempo real pero se vacían al finalizar la conversación, en los assistants, los embeddings se almacenan de forma permanente en el vector store, permitiendo recuperar información en futuras interacciones.

Limitaciones

• No recuerdan conversaciones como ChatGPT con memoria: Dependen de bases de datos y no de un “diálogo continuo”.
• Requieren configuración avanzada: Para aprovechar al máximo su memoria, necesitan entrenamiento y estructuración de datos.
• No tienen una memoria emocional o conversacional: No retienen matices subjetivos de la interacción como sí lo hace ChatGPT con memoria.

Ejemplo práctico: assistant de OpenAI en acción

Imaginemos que una empresa de consultoría en transformación digital usa un assistant para gestionar información de clientes:

Escenario: Un cliente pregunta: “¿Cuáles son las mejores estrategias para la adopción de IA en pymes?” El assistant consulta su vector store y responde con un resumen basado en los documentos previamente cargados.

¿Qué significa esto para la memoria en IA?

Los Assistants de OpenAI ofrecen una memoria más estructurada y controlable, lo que los convierte en la mejor opción para empresas y profesionales que necesitan persistencia sin perder precisión. Si bien no recuerdan conversaciones como ChatGPT con memoria, su capacidad de acceder a bases de datos y aprender de entrenamientos específicos los hace más robustos para aplicaciones avanzadas.

Mientras que ChatGPT con memoria es útil para interacciones fluidas y personalizadas y los Custom GPTs permiten configuraciones a medida sin memoria, los assistants de OpenAI son la opción más potente cuando se necesita almacenar, organizar y consultar información con lógica empresarial.

El fine-tuning en un assistant de OpenAI personaliza el modelo general (como GPT-4o) con la información específica que se le ha proporcionado durante el entrenamiento. Sin embargo, la información ajustada no se almacena en un vector store, sino que se integra directamente en los pesos del modelo. La aplicación de un trabajo de fine-tunning ajusta sus parámetros internos para reflejar los patrones y datos con los que ha sido entrenado. Esto significa que la información aportada ya no se encuentra como un conjunto separado de datos, sino que forma parte del modelo mismo y se usa de manera implícita en sus respuestas.

El futuro de la memoria en IA

La memoria en inteligencia artificial está evolucionando rápidamente, y con ella, la manera en que interactuamos con estos modelos. Desde simples asistentes conversacionales hasta agentes capaces de tomar decisiones estratégicas, la capacidad de recordar y aprender define el nivel de autonomía e inteligencia de cada sistema.

Pero lo realmente interesante es imaginar un futuro donde podamos configurar libremente cómo queremos que funcione la memoria en IA.

El sistema ideal: una memoria IA 100% personalizable

En un mundo donde la IA se adapta a nuestras necesidades, podríamos tener:

Tamaño configurable de la ventana de contexto: Definir cuántos tokens queremos que la IA recuerde en una sesión.

• Almacenamiento flexible: Decidir si los datos se guardan en archivos, en un vector store, o si simplemente se eliminan tras la sesión.
• Fine-tuning del modelo del usuario: Un entrenamiento a medida que permita ajustar respuestas según nuestro estilo y necesidades.
• Control total sobre la memoria: Elegir entre registro automático o manual, asegurándonos de que solo se guarde lo que realmente queremos recordar.
• Edición de datos registrados: Poder revisar y modificar los recuerdos almacenados, como si tuviéramos una “configuración avanzada de memoria IA”.

Por ahora, todo esto es un sueño, pero no uno imposible. La tendencia en IA apunta hacia modelos más adaptativos, configurables y transparentes, donde los usuarios tendrán mayor control sobre lo que la IA recuerda, cómo lo usa y con qué finalidad.

Porque el futuro de la memoria en IA no es solo recordar más, sino recordar mejor, de la manera que el usuario lo desee. Y tú, si pudieras diseñar tu IA perfecta, ¿cómo configurarías su memoria?

Para acabar con un poco de humor, veamos qué te cuenta ChatGPT con lo que tienes registrado en la memoria. Teclea literalmente: “roast me en español“… ya me cuentas!