Chain-of-Thought Prompting (Düşünce Zinciri İstemi)

Chain-of-thought (CoT) prompting, büyük bir dil modeline, doğrudan bir sonuca atlamak yerine, son yanıtını üretmeden önce bir problemi açık, sıralı akıl yürütme adımlarıyla çözmesini talimat veren bir tekniktir. 2022 yılında bir Google araştırma makalesiyle popülerleşen CoT, çok adımlı mantık gerektiren görevlerde — aritmetik, çok sekmeli soru yanıtlama, planlama ve karmaşık kural takibi — doğruluğu çarpıcı biçimde artırır, çünkü modele "işini gösterme" fırsatı verir ve doğrudan bir cevaba örüntü eşleştirmesi yaparak yapacağı hataları yakalar. En basit biçim, bir promptun sonuna "Adım adım düşünelim" gibi bir ifade ekleyerek tetiklenen zero-shot varyantıdır; bu tek başına akıl yürütme kıyaslamalarında ölçülebilir doğruluk artışı sağlar. Daha güçlü bir varyant olan few-shot CoT, örnek çıktıların yalnızca son cevabı değil, tam akıl yürütme zincirini gösterdiği işlenmiş örnekler içerir ve modele beklenen akıl yürütme tarzını öğretir. SaaS geliştiricileri için CoT, hesaplamalar, çok koşullu iş mantığı veya denetlenebilir olması gereken kararlar (bir insan değerlendirici, kör bir kutu cevabına güvenmek yerine akıl yürütmeyi kontrol edebilir) içeren özelliklerde özellikle değerlidir. Ödünleşim, ayrıntılılık ve maliyettir: CoT yanıtları daha uzundur, daha fazla çıktı jetonu tüketir ve gecikme ekler, bu yüzden üretim sistemleri genellikle CoT'yi dahili olarak kullanır, ardından görüntülemek için yalnızca son cevabı çıkarır veya son biçimlendirme adımı için daha ucuz/hızlı bir model kullanır. Modern "akıl yürütme modelleri" (ör. Claude'un genişletilmiş düşünme modu, OpenAI'nin o-serisi), CoT tarzı genişletilmiş akıl yürütmeyi modelin çıkarım sürecinin kendisine yerleştirir ve bazen manuel olarak bunu istemenin gerekliliğini azaltır, ancak açık CoT prompting, akıl yürütme yeteneğine sahip modellerle bile akıl yürütme derinliğini ve yapısını kontrol etmek için yararlı olmaya devam eder. Somut bir örnek: bir SaaS fiyat teklifi aracı promptu: "Bir müşteri, Pro planımızdan (kullanıcı başına ayda 29$) 47 lisansa ihtiyaç duyuyor; %15 yıllık indirim ve 500$'lık tek seferlik kurulum ücreti var. Toplam ilk yıl maliyetini hesaplamak için adım adım düşün, ardından son satırda son cevabı 'TOPLAM: $X' olarak ver." Model şöyle akıl yürütür: "47 × 29$ = 1.363$/ay → 16.356$/yıl. %15 indirim uygula: 16.356$ × 0,85 = 13.902,60$. Kurulum ücretini ekle: 13.902,60$ + 500$ = 14.402,60$." ardından "TOPLAM: $14.402,60" çıktısını verir — açık adımlar, doğrudan toplamı istemekten çok daha az olası bir aritmetik hatası yapılmasını sağlar ve bir geliştiricinin, sayı yanlış görünürse akıl yürütmeyi günlüğe kaydetmesine/denetlemesine olanak tanır. Önemli bir üretim inceliği: CoT, gerçekten çok adımlı akıl yürütme görevlerinde doğruluğu güvenilir bir şekilde artırır, ancak aslında basit olan bir göreve (bir arama, açık bir cevabı olan basit bir sınıflandırma) "adım adım düşün" eklemek genellikle doğruluğu iyileştirmeden — ve bazen hafifçe kötüleştirerek — gecikme ve maliyet ekler, bu yüzden olgun prompt mühendisliği, her promptta genel bir varsayılan olarak değil, görev karmaşıklığına göre seçici olarak CoT uygular.