Sosyal medya neden şiddet görüntülerini durdurmuyor?


Orkun KIRER

Orkun KIRER

21 Nisan 2017, 08:53

Bu hafta "Facebook katili olarak" adlandırılan Steve Stephens sosyal medyanın sağladığı imkanları kullanarak yayınladığı cinayet videosu ile medyanın ve dünyanın yoğun ilgisini çekmeyi başardı. Bu durum akla şu soruyu getiriyor. Sosyal medya kullanarak insanların anlık olarak şöhret ve ilgi odağı haline gelmesini sağlayan şiddet içerikli yayınlar engellenebilseydi bu tür hareketlerin önüne geçilebilir miydi?

Steve Stephens videosunun yayınlanmasından ve tüm dünya medyasının ilgisini çekmesinden sonra Facebook videoyu kınayan ve yayından kaldırıldığını açıklayan bir bildiri yayınladı fakat çok geç kalınmıştı.

Şiddet görüntülerinin yüklenmesi ve çok kısa sürede sosyal medyada yayılması ve bunun engellenememesinin en büyük nedeni sosyal medyada yayınlanan materyallerin büyüklüğüdür. Facebook'a günde 300 milyonun üzerinde fotoğraf yüklenmekte ve günde 100 milyon saatin üstünde video izlenmekte. Hiçbir insan gücü yüklenen her video ve fotoğrafı makul süreler içinde gözden geçiremez. Ayrıca son zamanlarda hızlı bir yükselişe geçen canlı yayınlarda 1 dakika sonrasında neler olacağını veya yaşanacağını hiçbir denetleyici hatta canlı yayını yapan kişi dahi öngöremez.

Sosyal medya firmaları her ne kadar şiddet görüntülerinin engellenmesi ve yüklenen içeriklerin içeriğinin gözden geçirilmesi için yeteri kadar personeli istihdam ettiklerini iddia etseler de insan gücü ile şiddet içeren görütülerin çok küçük bir kısmı engellenebilmektedir.


Otomatikleştirilmiş teknolojiler

Şiddet içeren görüntülerin engellenmesinde insan gücünün yetersiz olduğundan bahsettik. Peki otomatikleştirilmiş teknolojiler bu konuda ne kadar iyi?
Google geçen yıl 250 milyon haber fotoğrafını Cloud Vision API ile işleyerek ve derin öğrenme algoritmalarını kullanarak şiddet görüntülerini tespit etmede büyük bir gelişme sağladı. Birisine silah tutan bir kişiden tutun da kanlı görüntüler Cloud Vision API kullanılarak fotoğraf analiz ediliyor ve başarı ile tespit edilebiliyor.

Bu tür araçların Facebook ya da diğer sosyal medyalara yüklenen her içeriği gerçek zamanlı olarak filtrelemek için kullanıldığını düşünün. Görüntünün potansiyel olarak şiddet içerdiğini düşünen algoritma, görüntüyü yükleyen kullanıcıya bir uyarı mesajı gösterebilir ve yüklediği görüntülerin incelemeden sonra yayınlanacağı bilgisini verebilir. Görüntünün yayınlanıp yayınlanmaması konusunda nihai karar moderatörler tarafından verilebilir.

Hiçbir algoritma kusursuz değildir ve kullanılan bu algoritmalar her zaman doğru sonucu vermeyeceklerdir. Fakat verilen her yanlış karar bile sistemin daha iyi işlemesi için veri niteliğinde olacaktır. Otomatikleştirilmiş araçların Facebook'un şu an ki modeline adapte edilmesi gerekmektedir. Facebook şu an şiddet içeren görüntüleri sadece şikayet geldiğinde ya da görüntüler sosyal medyada tepki çektikten sonra kaldırmakta.

Şu an için hiçbir çözüm mükemmel değil fakat Google'ın 250 milyon görüntüyü kullanarak geliştirdiği derin öğrenme aracı (Cloud Vision API) ilerisi için umut vadediyor. Bizlerin kullanıcı olarak yapabileceğimiz en büyük katkı sosyal medyada şiddete geçit vermemek ve şiddet içeren görüntüleri paylaşmamak olacaktır.
Yorum Ekle
İsim
Yorumunuz onaylanmak üzere yöneticiye iletilmiştir.×
Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.