Bir Yapay Zekâ Ajanının Gerçekten Çalıştığı Nasıl Anlaşılır?

Tek bir çıktıyı puanlamaktan farklı bir soru

Tek bir yapay zekâ çıktısını yargılamak yeterince çözülmüş bir iştir: gerçek girdilerden bir küme sabitleyin, kabul edilebilir bir yanıtın neye benzediğini tarif edin, tekrarlanabilir biçimde puanlayın. Bir ajan başka bir şey gerektirir; çünkü yargılanan tek bir yanıt değil, birçok adımda yürütülen bütün bir görevdir ve adımları sistemin kendisi seçmiştir, üstelik aynı yolu iki kez izlemeyebilir.

Bu, neyin kanıt sayılacağını değiştirir. Tek başına nihai yanıt zayıf bir kanıttır, tedarikçinin demosu hiç kanıt değildir ve birkaç kez deneyip edinilen izlenimler, aynı girdide farklı davranan bir sistemde doğrudan yanıltıcıdır. Aşağıdaki liste, üretimle temasa dayanan küçük ölçüm kümesidir.

Yalnızca varış noktasını değil yolu yargılayın

Çalıştırmanın tamamını kaydedin: her model çağrısı, argümanları ve sonuçlarıyla her araç çağrısı ve nihai çıktı, sırasıyla. İki çalıştırma aynı doğru yanıtı üretebilir; biri üç araç çağırmışken diğeri on bir araç çağırmış, başarısız bir uç noktayı altı kez yeniden denemiş ve oraya şansla varmış olabilir. Bunlardan yalnızca biri gelecek ay da çalışacaktır ve yanıtta ikisini ayıran hiçbir şey yoktur.

Bunlardan birkaçını baştan sona elle okumak, herhangi bir ajan kurulumunun ilk haftalarındaki en verimli saattir. İki açıklama örtüştüğü için pahalı bir aracı iki kez çağırdığını, bir adımdan sessizce vazgeçip devam ettiğini ya da adımlarının üçte birini elinde zaten olan bağlamı yeniden okumakla geçirdiğini orada keşfedersiniz. Bunların hiçbiri bir toplamda görünmez.

Denemeyi seçtiğini değil geleni sayın

Bir ajan metriğindeki en yaygın şişme paydadadır. Sistemin üstlenmeye karar verdiği görevler üzerinden hesaplanan bir başarı oranı; reddettiği, bıraktığı ya da hiç görev olarak tanımadığı her şeyi dışarıda bırakır — ki dağılımın zor ucu tam olarak budur. Oranı gelen her şey üzerinden hesaplayın; istiyorsanız denenenler üzerinden olanı ayrıca raporlayın. İkisi arasındaki fark da yararlı bir sayıdır: ajanın şu anda hiç dokunmadığı problem payı.

Kısmi tamamlanmanın ne sayılacağına açıkça karar verin. İşin çoğunu yapıp temizce duran bir çalıştırma, yanlış sonuçla bitenden farklı bir sonuçtur; ikisi de canlı bir sistemde bir şeyi çoktan değiştirmişken yarı yolda duranından farklıdır. Üçünü birden başarısızlığa katlamak, neyi düzelteceğinize karar verirken önemli olan ayrımı gizler; ilkini başarı saymak ise ajanı pohpohlar.

Ajanın kendi kâğıdını okumasına son verin

Bir modele görevi tamamlayıp tamamlamadığını sormak, kendi ödevini yazdığı üslupla notlandırmasını istemektir ve yanıt genelde evettir. Kendi beyan ettiği başarı, sistemdeki en az güvenilir sinyaldir ve gösterge panolarının çoğu tam onun üstüne kuruludur.

Görev izin verdiği her yerde bunu, başka bir şeyin yaptığı bir kontrolle değiştirin: geçen bir test, doğrulayan bir şema, beklenen değerlerle artık var olan bir kayıt, ikinci bir kaynakla tutan bir toplam. Böyle bir kontrolün olmadığı yerde, birinin denk gelip açtığı vakalar yerine rastgele bir örneklem üzerinde insan incelemesi kullanın; merakla seçilmiş bir örneklem merakı ölçer. Hakem olarak ikinci bir model makul bir ara adımdır; yeter ki insan puanlarıyla uyumunu önce bir örneklemde kontrol etmiş ve modellerden biri değiştiğinde yeniden kontrol ediyor olun.

Ortadan kalkmayan işi izleyin

Her otomasyon yüzdesinin dürüst bir karşılığı vardır: bir kişinin devreye girmek zorunda kaldığı çalıştırma payı. Açık yükseltmeleri sayın; ama çıktıyı alan kişinin sonradan yaptığı sessiz düzeltmeleri, müşterilerin yeniden açtığı vakaları, bırakılıp elle yapılan çalıştırmaları ve gerçekten okunmuş onayları da sayın. Yalnızca ajanın kendi yükselttiklerini saymak, performansını değil kendi farkındalığını ölçer.

Bunu bölümlendirin, çünkü ortalama biçimi gizler. Müdahaleler yoğunlaşır — tek bir istek türünde, tek bir müşteri kesitinde, tuhaf veri döndüren tek bir entegrasyonda, yukarı akış sisteminin yavaşladığı günün tek bir saatinde. Dar bir banttan gelen yüksek bir oran düzeltebileceğiniz bir mühendislik sorunudur; eşit dağılmış aynı oran bir kapsam sorunudur ve yanıt, ayarlamayı sürdürmek değil ajanın neye kalkıştığını daraltmaktır.

Maliyetle birlikte de okuyun. Vaat edilen işgücü tasarrufu asıl müdahaleye gider; bu yüzden oranı sıradan ama müdahaleleri pahalı olan bir ajan — kıdemli insanlar, yavaş bağlam kurma, sinirlenmiş bir müşteri — daha sık ama ucuz müdahale edenden daha kötü bir değer olabilir.

Arızaların sessiz olacağını varsayın

Bir ajan nadiren çökerek arızalanır. Akıcı ve zamanında, ama yanlış olan bir şey döndürür; ya da sessizce hiçbir şey yapmamış olarak sonuna kadar çalışır: boş dönen bir getirim, hata yerine boş liste döndüren bir araç, süzmeyi bırakan bir süzgeç. Çalışma süresi, gecikme ve hata oranı bu boyunca mükemmel görünür; geleneksel izlemenin yapay zekâ özellikleri konusunda bu kadar içi rahatlatıcı ve bu kadar bilgisiz olmasının nedeni budur.

Saptama, yürütmeye değil sonuçlara dair iddia kurmalıdır. Beklenen hacimler ve onların yokluğu. Kararlı olması gereken dağılımlar — çalıştırma başına adım, çalıştırma başına araç, görev başına maliyet — burada ani bir hareket, anlamı henüz bilinmese de bir sinyaldir. Takvime bağlı yeniden çalıştırılıp kontrol edilen küçük ve sabit bir bilinen girdi kümesi. Ve sizinle hemfikir olabilmesi için aynı biçimde yanılması gerekecek bir şeyle mutabakat.

Bu sınavın kurumsal sürümü keşfin nereden geldiğidir. Arızalar müşteriler, denk gelip bakan bir meslektaş ya da üç aylık bir gözden geçirme tarafından bulunuyorsa, panolar ne kadar yeşil olursa olsun arızalar sessizdir; ve düşürülmeye değer sayı, arızanın başlamasıyla birinin fark etmesi arasındaki süredir.

Bir şey kımıldadığında yeniden ölçün

Bir ajanın sayıları bir eğilimdir, gelecek hafta hakkında bir olgu değil. Model değiştiğinde, bir istem ya da araç açıklaması düzenlendiğinde, yukarı akıştaki bir sistem farklı veri döndürmeye başladığında ve gelen istek bileşimi kaydığında hareket ederler — ve sonuncusu, açıklanamayan düşüşlerin diğer üçünün toplamından fazlasına yol açar; çünkü sistemde hiçbir şey değişmemiştir.

Kaydedilmiş çalıştırmaları saklayın ve her değişiklikten sonra sabit araç yanıtlarına karşı yeniden oynatın; böylece önceden çalışan hangi yolların saptığını görebilirsiniz. Ve herhangi bir oranı, ölçüldüğü görev dağılımının yanında raporlayın. Bu bağlam olmadan bir başarı oranı bir ölçüm değil, bir slogandır.