YouTube, yapay zekâ ile oluşturulan deepfake videoları tespit etmek için yeni bir güvenlik aracı geliştirdi. Üreticiler artık kendi yüz ve seslerinin izinsiz kullanıldığı videoları sistem üzerinden kaldırabilecek.
YouTube’tan deepfake içeriklere karşı yeni güvenlik adımı
Popüler video platformu YouTube, yapay zekâ ile üretilen deepfake içeriklere karşı yeni bir önlem duyurdu.
Platform, içerik üreticilerinin yüz veya seslerinin izinsiz kullanılmasını engellemek amacıyla geliştirdiği “İçerik Tespiti” (Content Detection) adlı aracı kullanıma sundu.
The Verge’in haberine göre sistem, yapay zekâ algoritmaları aracılığıyla bir içerik üreticisinin yüzünü veya sesini taklit eden videoları tespit ediyor ve bu videoların kaldırılması için kullanıcıya bildirim gönderiyor.
Kademeli olarak kullanıma açılıyor
YouTube’un yeni güvenlik aracı, ilk etapta YouTube İş Ortağı Programı üyeleri için aktif hale getirildi.
Kullanıcılar, YouTube Studio’daki yeni “İçerik Tespiti” sekmesi üzerinden kendi taklitlerini içeren videoları görüntüleyip kaldırma talebi oluşturabilecek.
YouTube, çarşamba günü seçilen üreticilere e-posta yoluyla bilgilendirme yapıldığını ve sistemin önümüzdeki aylarda daha geniş bir kullanıcı grubuna açılacağını açıkladı.
Şirket yetkilileri, “Bu sistem, içerik üreticilerinin kimlik haklarını ve güvenliğini korumak için önemli bir adım” ifadesini kullandı.
Sistem hâlâ geliştirme aşamasında
Erken erişim kullanıcıları için yayımlanan rehberde, aracın hâlâ geliştirme aşamasında olduğu ve zaman zaman yanlış tespitlerde bulunabileceği belirtildi.
Sistem, YouTube’un mevcut “Content ID” mekanizmasına benzer şekilde çalışıyor ancak bu kez odak noktası yapay zekâ tarafından oluşturulan benzerlikler.
Bu özellik, yalnızca telif hakkı ihlallerini değil, aynı zamanda kişisel benzerlik ve kimlik güvenliği ihlallerini de kapsıyor.
Geçen yıl duyurulmuştu
YouTube’un yapay zekâ destekli benzerlik tespit aracı, ilk olarak geçen yıl Aralık ayında Creative Artists Agency (CAA) ile yapılan bir pilot programda test edilmişti.
Amaç, “platformda bir kişinin yüzünü içeren yapay zekâ içeriklerini tespit ve yönetmek” olarak açıklanmıştı.
O dönemde elde edilen olumlu sonuçların ardından YouTube, aracı daha geniş kullanıcı kitlesine açma kararı aldı.
Google, yapay zekâ güvenliğine yatırım yapıyor
YouTube’un ana şirketi Google, son dönemde hem üretken yapay zekâ araçlarına hem de bu teknolojilerin kötüye kullanımını önlemeye yönelik sistemlere büyük yatırım yapıyor.
Mart ayında yürürlüğe giren yeni politika kapsamında, üreticilerin yapay zekâ ile oluşturulmuş veya değiştirilmiş içerikleri etiketlemesi zorunlu hale gelmişti.
Ayrıca, gerçek sanatçıların seslerini taklit eden yapay zekâ müzik içeriklerine karşı da telif ve doğrulama önlemleri alınmıştı.