Ajan Belleği (Agent Memory)

Ajan belleği, bir AI ajanının tek bir model çağrısının ötesinde bilgi saklamasını sağlayan mekanizmadır; böylece ajan her turda her şeyi unutmak yerine birçok adım veya oturum boyunca tutarlı davranabilir. Genellikle iki katmana ayrılır: kısa vadeli (çalışma) bellek — mevcut görevin bağlam penceresinde tutulan anlık bağlamı — ve uzun vadeli bellek — model dışında, tipik olarak bir vektör veritabanında veya normal bir veritabanında saklanan ve gerektiğinde geri çağrılan gerçekler, geçmiş etkileşimler ve öğrenilmiş tercihler. Uzun vadeli bellek çoğu zaman episodik (daha önce ne olduğu) ve semantik (kullanıcı veya alan hakkında kalıcı gerçekler) olarak ayrıca bölünür. Geliştiriciler için bellek, durumsuz bir sohbet botunu; müşterinin planını, geçmiş taleplerini veya marka sesini hatırlayan bir ürüne dönüştüren şeydir. Asıl zorluk seçicilikte: her geçmiş mesajı gelişigüzel prompta doldurmak hem pahalıdır hem doğruluğu düşürür; bu yüzden özetler, alaka puanı verir ve her adımın gerçekten ihtiyaç duyduğu kısmı geri çağırırsınız.