prompt-eng
Словарь ↗Prompt Ensembling
Prompt ensembling («ансамбль промптов») прогоняет одну задачу через несколько разных промптов — с разной формулировкой, форматом, персоной или набором примеров — и затем агрегирует выводы: обычно голосованием большинства для классификации или слиянием для генерации. Идея заимствована из классического ансамблирования моделей: независимые и разнообразные «голосующие» гасят индивидуальные ошибки друг друга, поэтому итоговый ответ надёжнее и меньше зависит от причуд одного промпта. От self-consistency, где из одного промпта сэмплируют несколько путей рассуждения, приём отличается тем, что разнообразие исходит из самих промптов. Для SaaS-разработчиков это способ купить надёжность на дорогих решениях — модерация контента, скоринг лидов, извлечение данных, — где слепые зоны одного промпта обходятся дорого. Очевидная плата: N промптов означают N-кратные вызовы, токены и задержку, поэтому приём обычно держат для офлайн- или пакетных конвейеров, а не для реального времени, либо используют для сборки доверенного «серебряного» набора под будущую оценку. Он также усложняет управление промптами: теперь вы поддерживаете и версионируете несколько вариантов вместо одного.
Похожие термины