Chain-of-thought: что это и работает ли «думай по шагам»
Chain-of-thought просит модель рассуждать по шагам перед ответом. Когда это помогает, когда reasoning-модели делают его лишним и как применять.
Рассуждение
Промпты для рассуждений просят модель разобрать задачу шаг за шагом, прежде чем дать окончательный ответ; этот подход называется chain-of-thought. Он помогает в многошаговой математике, логике и планировании и меньше нужен для простых справочных запросов. Современные модели с рассуждением уже думают внутри себя, поэтому сегодня навык состоит в том, чтобы решать, когда просить видимые рассуждения и как отделять их от итогового ответа.
Your app parses the model’s JSON, but sometimes the reply starts with “Sure! Here is the JSON:”. What is the most robust fix?
Вам нужны рассуждения модели для отладки, но в приложении нужно только итоговое число. Какая структура промпта подходит лучше всего?
B. Попросить рассуждения внутри тегов <thinking>, а затем ответ внутри тегов <answer> Рассуждения, написанные до ответа, могут его улучшить, а теги позволяют вашему коду извлечь только итоговый ответ, сохранив рассуждения для логов.
Chain-of-thought промптинг просит модель записать промежуточные шаги рассуждения перед итоговым ответом. Он стал популярным после работы Wei et al. (2022) и больше всего помогает в многошаговых задачах.
С моделями с рассуждением это часто не нужно. С остальными моделями это всё ещё может помогать в многошаговых задачах, особенно если просить рассуждение до ответа и в отдельном разделе.
Chain-of-thought просит модель рассуждать по шагам перед ответом. Когда это помогает, когда reasoning-модели делают его лишним и как применять.
Как учить промпт-инжиниринг: путь из 8 шагов от основ до агентов, бесплатные руководства вендоров и по одному упражнению на каждый шаг.
Промпт-инжиниринг — умение писать запросы, которые дают стабильный результат от ИИ-моделей. Из чего состоит хороший промпт, с примерами «до и после».
Короткие тесты о реальных решениях при составлении промптов, с объяснением к каждому ответу. Начать можно бесплатно на iPhone и Android.