Sentetik Medya

Sentetik medya, bir insan tarafından doğrudan çekilmiş, filme alınmış veya yardımsız olarak yazılmış olmaktan ziyade, tamamen veya önemli ölçüde kısmen yapay zeka tarafından üretilen veya manipüle edilen herhangi bir içerik parçasını — metin, görüntü, ses veya video — kapsayan geniş şemsiye terimdir; bu sözlük kümesindeki hemen hemen her çıktı türünü (metin üretimi, görüntü üretimi, TTS, ses klonlama, video sentezi, deepfake'ler, avatar üretimi ve daha fazlası) dar bir teknik kategori yerine tek bir politika ve kamuoyu söylemi düzeyinde kategori altında kapsar. Terim, geliştiricilerin genellikle uyguladıkları belirli modaliteyi (görüntü üretimi, ses klonlama) konuştuğu günlük ürün mühendisliği tartışmalarından çok, düzenleyici, gazetecilik ve platform politikası bağlamlarında kullanılır — bu, düzenleyicilerin açıklama gereksinimlerini yazarken başvurduğu kategoridir (AB Yapay Zeka Yasası'nın yapay zeka tarafından üretilen/manipüle edilen içerik için Madde 50 şeffaflık yükümlülükleri ve siyasi reklamcılıkta veya seçimler sırasında sentetik medyaya etiket gerektiren çeşitli platform politikaları), çünkü sahte bir haber fotoğrafı, klonlanmış bir siyasi konuşma, sahte bir ürün inceleme videosu, yapay zeka anlatımlı bir sesli kitap gibi üretken çıktıların tüm genişliğini, her modaliteyi kendi özel, hızla eskiyen kurallar kitabıyla ayrı ayrı düzenlemek yerine tek bir şemsiye altında kapsaması gerekir. SaaS geliştiricileri için neden önemli: kullanıcıya yönelik sentetik medya üreten herhangi bir ürün — yapay zeka tarafından yazılmış bir ürün açıklaması veya yapay zeka tarafından üretilmiş bir kahraman görseli kadar zararsız bir şey bile olsa — giderek yalnızca bir UX açısından değil, bir uyumluluk açısından açıklama ve köken konusunda düşünmesi gerekir: yasa veya platform politikası gerektirdiğinde yapay zeka tarafından üretilen içeriği etiketleme (birçok sosyal platform artık gönderilerde sentetik medya etiketleri gerektiriyor), makine tarafından okunabilir köken meta verisi gömme (Adobe, Microsoft ve diğerleri tarafından desteklenen C2PA "İçerik Kimlik Bilgileri" standardı, bir içerik parçasını hangi araçların ürettiğine veya düzenlediğine dair kurcalamaya karşı korumalı bir kayıt gömer) ve hesap verebilirlik için üretim isteklerinin denetim günlüklerini tutma. Somut bir örnek — gerçek ve yapay zeka tarafından üretilen görüntüleri karıştıran bir stok fotoğraf pazar yeri: (1) platform, alım sırasında her yapay zeka tarafından üretilen yüklemenin, katılımcının beyanı veya otomatik sentetik medya tespit taraması yoluyla etiketlenmesini zorunlu kılar; (2) etiketlenen görüntüler arama sonuçlarında ve görüntünün detay sayfasında "Yapay Zeka Tarafından Üretildi" olarak etiketlenir ve üretici aracı kaydeden C2PA içerik kimlik bilgisi meta verisiyle gömülür; (3) alıcılar, kullanım durumlarına bağlı olarak arama sonuçlarını yapay zeka tarafından üretilen içeriği içerecek veya hariç tutacak şekilde filtreleyebilir (bazı yayınların yapay zeka görsellerini yasaklayan editoryal politikaları vardır); (4) platformun şartları, yapay zeka tarafından üretilen gönderimlerin belgelenmiş onay olmadan gerçek, tanımlanabilir kişileri tasvir etmemesini gerektirir.