prompt-eng
Sözlük ↗Çok Turlu Promptlama
Çok turlu promptlama, tek bir promptun herhangi bir devam beklentisi olmadan tek bir nihai cevap ürettiği tek turlu promptlamanın aksine, devam eden, çok alışverişli bir konuşma içinde var olan promptlara özgü tasarım hususlarını ifade eder -burada her yeni kullanıcı mesajı, birikmiş konuşma geçmişi ışığında yorumlanır ve uygulama, konuşma büyüdükçe bu geçmişin nasıl oluşturulacağını, sürdürüleceğini ve sonunda kırpılacağını yönetmelidir. Çoğu LLM API'si durumsuz (stateless) olduğundan (modelin API çağrıları arasında kalıcı belleği yoktur), her çok turlu konuşma, uygulamanın ilgili konuşma geçmişini -önceki kullanıcı ve asistan mesajlarının tam veya kısmi dizisini- her yeni istekte yeniden göndermesini gerektirir; çok turlu tasarıma özgü prompt mühendisliği kararları şunları içerir: ne kadar geçmişin tutulacağı (tam geçmiş maksimum bağlamı korur ama token maliyetini büyütür ve uzun oturumlarda bağlam doldurma ile persona kayması sorunları riski taşır), eski turların özetlenip özetlenmeyeceği veya nasıl sıkıştırılacağı, konuşmadaki önceki ifadelerle çelişen veya onları düzelten bir kullanıcının nasıl ele alınacağı ve orijinal sistem promptu talimatlarının, uzun birikmiş bir geçmiş tarafından fiilen "geride bırakılmasının" nasıl önleneceği (persona tutarlılığıyla ilgili gerçek bir risk). Çok turlu promptlama ayrıca tek atışlı promptlamanın ötesinde durum yönetimi meseleleri de getirir: kullanıcının konu değiştirip değiştirmediğini (ve eski, artık ilgisiz bağlamın bırakılıp bırakılmaması gerektiğini) takip etmek, yapay zekanın kullanıcının birkaç tur önce sağladığı bilgiyi hatırlaması gereken çok adımlı iş akışlarını yönetmek (örneğin 5 alışveriş boyunca konuşma yoluyla tamamlanan bir alım formu) ve yalnızca önceki turun bağlamı mevcutken anlamlı olan belirsiz takip referanslarını ("ya ikincisi ne olacak?") ele almak. SaaS geliştiricileri için, destek sohbet botları, yapay zeka asistanları, katılım akışları gibi çoğu konuşmalı yapay zeka özelliği doğası gereği çok turludur, bu da bu geçmiş yönetimi kararlarını, herhangi bir tek turun promptunu izole şekilde tasarlamaktan ayrı ve ek olarak, prompt mühendisliği işinin çevresel değil çekirdek bir parçası haline getirir. Somut örnek: bir proje yönetimi SaaS'ı için bir yapay zeka katılım asistanı, tek bir form yerine birden fazla tur boyunca konuşma yoluyla kurulum bilgisi toplar -takım büyüklüğü, birincil kullanım örneği, entegrasyon ihtiyaçları. 6. tura kadar, konuşma geçmişi kullanıcının 1-2. turlardan takım büyüklüğünü (12) ve kullanım örneğini (müşteri proje takibi) içerir. Kullanıcının 6. tur mesajı basitçe "evet, ayrıca Slack'i de çok kullanıyoruz" olduğunda, model bunu "bu aynı katılım akışı için entegrasyonlar listesine Slack'i ekle" olarak çözmelidir; bu yalnızca 6. turda modele gönderilen promptta bu izole mesaj değil tam çok turlu bağlam dahil edildiği için doğru şekilde yorumlanabilir.
İlgili terimler