Belirlenimsizlik (Non-Determinism)

Belirlenimsizlik, aynı girdiden farklı çıktı üretme özelliğidir. Dil modellerinde bu hem tasarımla hem kazayla vardır: örnekleme bilinçli bir değişkenlik getirir ve örnekleme kısılsa bile toplu işleme, donanım ve sunum altyapısındaki farklar, özdeş isteklerin özdeş metin döndüreceğini garanti etmez. Üzerine bir şey inşa eden herkes için bu bir ayrıntı değildir; sıradan mühendislik alışkanlıklarının çoğunu geçersiz kılan özelliktir. İlk kayıp test tarafında olur. Çıktının sabit bir dizeye eşit olduğunu söyleyen bir iddia aralıklarla başarısız olur ve silinir; yapay zekâ özellikleri böylece hiç testsiz kalır. İşe yarayan ikame, metin yerine özellikleri iddia eder — yanıt ayrıştırılıyor mu, yalnızca kaynakta bulunan varlıkları anıyor mu, uzunluk sınırında kalıyor mu, gerektiğinde reddediyor mu — ve tek bir girdi yerine bir küme üzerinde çalışır; tek bir geçiş değil bir oran kabul eder. Hata ayıklamanın biçimi de değişir. Yeniden üretilemeyen bir bildirim, hiçbir şey olmadığının kanıtı değildir; normal durum budur. Kaydedilmiş çalıştırmanın burada belirlenimci sistemlerdekinden daha çok önemsenmesinin nedeni budur: o anki tam girdiler, bağlam ve araç sonuçları yakalanmamışsa tek seferlik bir arıza incelenemez ve onu bir tesadüf ilan edip devam etme cazibesi doğar. Ajanlar bunların hepsini büyütür; çünkü belirlenimsizlik bir kararlar zinciri boyunca birikir. Aynı istek, ardışık iki çalıştırmada farklı bir yol izleyebilir, farklı araçlar çağırabilir, farklı bir tutar tutabilir ve farklı bir süre alabilir. Bu yüzden değişkenlik, bir ortalamanın etrafındaki gürültü değil, bir ajanın birinci sınıf işletme özelliğidir. Pratik duruş, onunla her yerde savaşmak değildir. Hiçbir şey kazandırmadığı yerde azaltın — sabitlenebileni sabitleyin, istemleri sürüm denetiminde tutun, üretken adımı yalıtın ki çevresindeki hat belirlenimci kalsın — ve değişkenliğin bizzat amaç olduğu yerde kabul edin. Sonra örneklemi değil dağılımı ölçün ve tek bir çalıştırmadan çıkarılan her sonucu bir anekdot sayın.