Geri Bildirim Sinyali (Feedback Signal)

Geri bildirim sinyali, bir yapay zekâ çıktısının işe yarayıp yaramadığına dair her türlü kanıttır. Açık olanı, yanıta iliştirilen beğendim ve beğenmedim düğmeleridir; örtük olanı ise kullanıcının sonra yaptığı her şeydir — kopyaladı, düzenledi, aynı şeyi başka kelimelerle yeniden sordu, yükseltti ya da çekip gitti. Örtük sinyaller daha bol ve genellikle daha dürüsttür. Açık puanlamaların, üzerine bir şey inşa etmeden önce bilinmeye değer bir biçimi vardır. Neredeyse hiç kimse puanlamaz; dolayısıyla hacim küçük ve kendi kendini seçmiş bir dilimdir. Olumsuz puanlar baskındır, çünkü tıklamaya sinirlenme motive eder, memnuniyet etmez. Ve düğme birkaç farklı şikâyeti tek potada eritir: yanlış, yavaş, kötü biçimlendirilmiş, doğru ama kastettiğim bu değil, ve arkasındaki politikaya katılmıyorum. Bundan hesaplanan ham bir oran kalite ölçüsü değildir; yine de orandaki keskin bir değişim işe yarar bir alarmdır. Örtük sinyaller daha çok bilgi taşır ve daha çok özen ister. Bir dakika içinde aynı soruyu yeniden ifade eden kullanıcı, ilk yanıtın başarısız olduğunun güçlü işaretidir; göndermeden önceki ağır bir düzenleme kısmi bir başarısızlıktır; bir insana anında yükseltme ise neredeyse kesin bir tanesidir. Her biri bir kez tanımlanmalı ve bilerek ölçülmelidir; çünkü olaylar planlanmazsa sonradan günlüğe düşmüş ne varsa ondan yeniden kurulur ve ekipler böylece modellerini değil arayüzlerini ölçer hâle gelir. Bunları toplamanın nedeni etiketli bir küme oluşturmaktır. Tek tek bu sinyaller gürültülüdür, ama beğenilmeyen ve yeniden ifade edilen vakalar, gerçek girdileriyle gerçek arızalardan oluşan bir kuyruktur; bunlardan bir örneklemi incelemek, hiçbir yapay test kümesinin üretemeyeceği değerlendirme vakaları ve istem düzeltmeleri verir. Bütün değer bu hattadır: sinyal, örneklem, inceleme, değerlendirmeye ekleme. İki alışkanlık bunu korur. Puanın yanında nedeni de, birinin gerçekten dolduracağı bir biçimde isteyin; ve döngüyü en azından bazen görünür şekilde kapatın. Hiçbir şeyi değiştirmeyen bir geri bildirim düğmesi, kullanıcılara onu kullanmamayı öğretir; sinyal de tam sistem yoğunlaşırken incelir.