Tree-of-Thought (Düşünce Ağacı)

Tree-of-thought (ToT), modelin bir problem için birden çok farklı akıl yürütme yolunu ("dal") üretip keşfetmesini, her ara dalın umut vaat edip etmediğini değerlendirmesini ve zayıf yolları geri izleyip budamasını sağlayarak chain-of-thought'u genişleten gelişmiş bir akıl yürütme tekniğidir — tek bir doğrusal düşünce zincirine bağlı kalmak yerine olası çözümlerden oluşan bir ağaç üzerinde arama algoritmasını taklit eder. 2023'te yayınlanan bir araştırma makalesinde tanıtılan ToT, bir modelin denediği ilk akıl yürütme yaklaşımının mutlaka en iyisi olmadığı ve tek bir akıl yürütme çizgisine erken bağlanmanın (standart CoT'de olduğu gibi) modelin erken bir hataya "kilitlenmesine" ve yanlış bir cevaba doğru güvenle akıl yürütmesine neden olduğu problemler için tasarlanmıştır. ToT tipik olarak ya çok adımlı bir prompt iskeleti gerektirir (uygulama kodu modeli tekrar tekrar yönlendirir: "3 olası sonraki adım üret," ardından "her adımın umut vaat etme düzeyini 1-10 arasında değerlendir," ardından "en yüksek puanlı adımdan devam et") ya da daha hafif bir versiyon için, modelden yanıt vermeden önce birden çok yaklaşımı içsel olarak değerlendirmesini ve en iyisini seçmesini isteyen tek bir prompt gerektirir. SaaS geliştiricileri için tam ToT pahalıdır — her kullanıcı isteği için birden çok LLM çağrısı gerektirir, hem maliyeti hem de gecikmeyi katlar — bu yüzden rutin sohbet veya sınıflandırma görevleri yerine, doğruluğun hız veya maliyetten çok daha önemli olduğu yüksek değerli, yüksek karmaşıklıklı görevler için ayrılmıştır: karmaşık hata ayıklama asistanları, stratejik iş planı üretimi, bulmaca çözme özellikleri veya kod mimarisi tavsiyeleri gibi. Somut bir örnek: yapay zeka destekli bir SQL sorgu optimize edici özelliği basitleştirilmiş bir ToT promptu kullanır: "Bir sorgu yavaş çalışıyor. 3 farklı olası kök neden ve çözüm öner (ör. eksik indeks, N+1 kalıbı, gereksiz JOIN). Her biri için aşağıdaki sorguya dayanarak güveni 1-10 arasında değerlendir. Ardından en iyi tek çözümü öner.\n\nSorgu: SELECT * FROM orders o JOIN customers c ON o.customer_id = c.id WHERE o.created_at > '2026-01-01'" — model, güven puanlarıyla üç aday teşhis üretir (ör. created_at üzerinde eksik indeks: 8/10; SELECT * yükü: 5/10; JOIN verimsizliği: 3/10) ve en yüksek güvenilirlikteki düzeltmeyi önerir; bu, kullanıcıya tek bir açıklanmamış öneri yerine, değerlendirilmiş ve reddedilmiş alternatiflere görünürlük sağlar.