Saltar al contenido
TokIQ
Técnicas

Chain-of-thought prompting: ¿sigue funcionando?

El chain-of-thought prompting pide al modelo razonar paso a paso antes de responder. Cuándo ayuda, cuándo los modelos de razonamiento lo sobran y cómo usarlo.

TokIQ Editorial6 min de lectura
En este artículo
  1. ¿Por qué ayuda escribir el razonamiento?
  2. Un ejemplo concreto, antes y después
  3. ¿Sigue funcionando "think step by step" con los modelos de razonamiento?
  4. ¿Debe razonar el modelo antes o después de la respuesta?
  5. ¿Cómo se separa el razonamiento de la salida final?
  6. ¿Cuándo es mala idea el chain-of-thought?
  7. Técnicas relacionadas que conviene conocer
  8. En resumen

El chain-of-thought (CoT) prompting consiste en pedirle a un modelo de lenguaje que escriba los pasos intermedios antes de comprometerse con una respuesta. Ayuda sobre todo en problemas con varios pasos dependientes, como aritmética, lógica y planificación con varias restricciones, y ayuda poco en tareas simples. Los modelos de "razonamiento" más recientes hacen esto de forma interna, por lo que las instrucciones explícitas de ir paso a paso son menos necesarias que hace unos años.

La técnica tiene un origen claro. En 2022, Wei et al. publicaron "Chain-of-Thought Prompting Elicits Reasoning in Large Language Models", donde mostraron que los ejemplos few-shot que incluían el razonamiento resuelto, y no solo las respuestas, mejoraban mucho el rendimiento de los modelos grandes en problemas matemáticos redactados y pruebas similares. Poco después, Kojima et al. ("Large Language Models are Zero-Shot Reasoners", 2022) descubrieron que bastaba con añadir "Let's think step by step" para lograr un efecto parecido sin ningún ejemplo. Desde entonces, esa frase se ha copiado en un millón de prompts.

¿Por qué ayuda escribir el razonamiento?

Un modelo genera el texto token a token, y cada token depende de lo anterior. Si tiene que dar la respuesta final de inmediato, todo el trabajo debe ocurrir en un solo paso. Si primero escribe "el tren sale a las 14:10, el viaje dura 2 horas 35 minutos, así que llega a las 16:45", cada resultado intermedio pasa a formar parte del contexto del paso siguiente. Los pasos escritos funcionan como un borrador.

Esa explicación también indica dónde el CoT no ayudará. Si la tarea no se descompone en pasos, no hay nada que guardar en el borrador. Pedirle a un modelo que "piense paso a paso" sobre cuál de dos sinónimos suena más amable solo produce una respuesta más larga.

Un ejemplo concreto, antes y después

Este es un problema que hace tropezar a los modelos cuando responden de golpe:

Una sala de reuniones está reservada de 09:00 a 10:30 y de 13:00 a 14:00.
Un equipo de limpieza necesita 45 minutos, debe terminar antes de las 12:00
y no puede empezar antes de las 09:15. Indica todas las horas de inicio
válidas en cuartos de hora.

Si responde de inmediato, un modelo puede incluir las 09:15, que se solapa con la reserva. Una versión que pide el trabajo primero:

Una sala de reuniones está reservada de 09:00 a 10:30 y de 13:00 a 14:00.
Un equipo de limpieza necesita 45 minutos, debe terminar antes de las 12:00
y no puede empezar antes de las 09:15.

Primero, escribe los intervalos libres entre las 09:15 y las 12:00.
Después, comprueba qué horas de inicio en cuartos de hora permiten
un turno de 45 minutos dentro de esos intervalos. Por último, indica
las horas de inicio válidas.

Fíjate en que esto es mejor que un simple "piensa paso a paso". Le dice al modelo qué pasos importan. El CoT genérico deja que el modelo elija su propia descomposición; el CoT guiado le da la correcta. Cuando sepas cómo debe dividirse el problema, dilo.

(La respuesta, por si te lo preguntas: el intervalo libre va de 10:30 a 12:00, así que 10:30, 10:45 y 11:00, y se excluye 11:15 porque el turno debe terminar antes de las 12:00. Al escribir los pasos, ese último límite es difícil de pasar por alto.)

¿Sigue funcionando "think step by step" con los modelos de razonamiento?

Aquí es donde los consejos de 2023 se han quedado anticuados. Varias familias de modelos incluyen ahora modos de razonamiento o modelos de razonamiento específicos que generan una cadena de pensamiento oculta o resumida antes de la respuesta visible. La serie o de OpenAI, el extended thinking de Anthropic y los modelos con thinking de Gemini son ejemplos de este enfoque.

Con esos modelos cambian varias cosas:

  • Añadir "think step by step" suele servir de poco, porque el modelo ya gasta tokens en razonar.
  • Las guías de los propios proveedores tienden a recomendar instrucciones de alto nivel en lugar de prescribir los pasos exactos. Decirle a un modelo de razonamiento cómo pensar con precisión puede limitarlo y a veces empeora los resultados.
  • Muchas veces el razonamiento se controla con un ajuste de la API (un nivel de esfuerzo de razonamiento o un presupuesto de tokens de pensamiento) y no con el texto del prompt.

Por tanto, la regla práctica es esta: en un modelo de chat estándar, el CoT explícito sigue siendo una herramienta útil para problemas de varios pasos. En un modelo de razonamiento, describe el objetivo, las restricciones y lo que debe cumplir una respuesta correcta, y deja que planifique. Consulta la documentación del proveedor para el modelo concreto que uses, porque este terreno cambia rápido.

¿Debe razonar el modelo antes o después de la respuesta?

Antes. Siempre antes.

Este es uno de los errores más comunes en los prompts estructurados:

{
  "answer": "approve",
  "reasoning": "El solicitante cumple el umbral de ingresos y..."
}

Si el campo de la respuesta va primero, el modelo se compromete con "approve" y luego escribe una justificación de una decisión que ya tomó. El razonamiento se convierte en una racionalización. Invierte el orden para que el razonamiento se genere primero y la respuesta pueda depender de él:

{
  "reasoning": "Los ingresos son 52,000 y el umbral es 50,000, así que cumple. La ratio de deuda es 0.46 y el límite es 0.40, así que no cumple...",
  "answer": "reject"
}

Lo mismo vale para el texto plano: "Explica tu razonamiento y después da la respuesta final en la última línea" funciona mejor que "Da la respuesta y explica por qué".

Una advertencia que conviene decir con honestidad. No hay garantía de que la cadena de pensamiento escrita sea un reflejo fiel de cómo el modelo llegó a su respuesta. Las investigaciones sobre la fidelidad del CoT han encontrado casos en los que el razonamiento expuesto omite factores que sí influyeron en la salida. Trata el razonamiento como un producto de trabajo útil, no como un registro de auditoría.

¿Cómo se separa el razonamiento de la salida final?

En una aplicación, los usuarios normalmente no deberían ver el borrador. Quieren la respuesta. Hay dos patrones fiables:

Etiquetas en texto plano.

Resuelve el problema dentro de etiquetas <thinking>.
Después da solo la respuesta final dentro de etiquetas <answer>.
La <answer> debe ser un único número sin unidades.

Tu código extrae lo que haya dentro de <answer> y descarta el resto. La documentación de Anthropic recomienda este patrón con etiquetas para Claude, y funciona bien con otros modelos.

Campos separados en la salida estructurada. Si ya pides JSON, añade un campo reasoning antes del campo answer, como se muestra arriba, y muestra solo answer. Nuestra guía sobre cómo obtener JSON fiable de los LLM explica cómo imponer esa estructura.

Con los modelos de razonamiento que piensan internamente, normalmente recibes la respuesta final directamente, a veces con un resumen opcional del razonamiento desde la API. No necesitas etiquetas para la parte oculta.

¿Cuándo es mala idea el chain-of-thought?

Es fácil abusar de él. Evítalo cuando:

  • La tarea es una consulta o una transformación simple. Traducir una frase, corregir la gramática, extraer un correo electrónico. El CoT añade coste y, de vez en cuando, convence al modelo de abandonar la respuesta correcta y obvia.
  • La latencia importa más que una mejora marginal de precisión. Los tokens de razonamiento son tokens generados. Un chatbot que se queda seis segundos pensando en "cuál es vuestro horario" es un peor producto.
  • Clasificas con reglas claras. Unas definiciones claras y un par de ejemplos suelen funcionar mejor que el razonamiento. Consulta zero-shot vs few-shot prompting.
  • Mostrarías el razonamiento a los usuarios finales sin revisarlo. Los pasos intermedios pueden contener afirmaciones a medias o incorrectas que la respuesta final corrige después.

Técnicas relacionadas que conviene conocer

La autoconsistencia (self-consistency) (Wang et al., 2022) muestrea varias cadenas de pensamiento y se queda con la respuesta mayoritaria. Mejora la precisión en problemas con una única respuesta correcta, a costa de ejecutar el modelo varias veces.

Descomposición en varias llamadas. En lugar de un prompt largo que lo hace todo, divide el problema: una llamada extrae los datos, una segunda razona sobre ellos y una tercera da formato al resultado. Cada prompt es más fácil de probar y se ve exactamente dónde falla. Suele ser la versión más robusta del CoT en sistemas de producción, y lleva de forma natural a las llamadas a herramientas y los agentes.

Pedir una verificación. Después de que el modelo produce una respuesta, un segundo prompt le pide que la compruebe con las restricciones originales. Detecta algunos errores, aunque un modelo que revisa su propio trabajo comparte sus propios puntos ciegos.

En resumen

El chain-of-thought da al modelo espacio para trabajar pasos dependientes, y ese espacio importa más en matemáticas, lógica y planificación. Indícale qué pasos importan cuando los conozcas. Pon el razonamiento antes de la respuesta, nunca después. Oculta el borrador a los usuarios con etiquetas o campos separados. Y con los modelos de razonamiento, describe el objetivo en lugar de dictar el pensamiento.

Si quieres practicar cómo detectar cuándo ayuda el razonamiento y dónde se coloca mal, el tema de razonamiento repasa esas decisiones una a una.

Preguntas frecuentes

¿Qué es el chain-of-thought prompting?

El chain-of-thought prompting (cadena de pensamiento) le pide a un modelo de lenguaje que escriba pasos de razonamiento intermedios antes de dar su respuesta final. Lo popularizaron Wei et al. (2022), que mostraron grandes mejoras en pruebas de matemáticas y lógica.

¿Sigue funcionando "let's think step by step"?

En los modelos de chat estándar todavía puede ayudar con problemas de varios pasos. En los modelos de razonamiento, que ya piensan antes de responder, añadirlo suele cambiar poco, y los proveedores suelen desaconsejar microgestionar su razonamiento interno.

¿Cuándo no debería usar chain-of-thought?

Evítalo en consultas simples, en clasificaciones con reglas claras o en reescrituras cortas. Añade tokens y latencia, y en tareas fáciles el texto extra puede introducir errores en lugar de evitarlos.

¿Cómo oculto el razonamiento en la salida final?

Pide al modelo que ponga su razonamiento dentro de una etiqueta, como <thinking>, y la respuesta final dentro de otra, como <answer>, y muestra a los usuarios solo la respuesta. Con salida estructurada, usa un campo aparte para el razonamiento.

  • #chain of thought
  • #razonamiento
  • #piensa paso a paso
  • #modelos de razonamiento

Ahora, a practicar

TokIQ convierte el prompt engineering en quizzes cortos, con una explicación para cada respuesta.

Próximamente enApp StoreDisponible enGoogle Play
Técnicas6 min de lectura

Qué es RAG: generación aumentada por recuperación

RAG recupera documentos relevantes y los añade al prompt para que el modelo responda con fuentes. Cómo funciona y cómo pedir respuestas ancladas y con citas.

Técnicas6 min de lectura

Few-shot prompting: ejemplos frente a zero-shot

Los prompts zero-shot solo dan instrucciones; los few-shot añaden ejemplos. Cuándo los ejemplos mejoran la respuesta y cuándo causan copias, sesgo y deriva.

Escribe mejores prompts con unas pocas preguntas al día.

Quizzes cortos sobre decisiones reales al escribir prompts, con una explicación para cada respuesta. Gratis para empezar en iPhone y Android.

Próximamente enApp StoreDisponible enGoogle Play