Vicdani pusulayı bilgisayara yüklemek


Tarık BİLGİN

Tarık BİLGİN

01 Şubat 2019, 09:22

25 yıl kadar önce, liseden bir arkadaşımla, kahvaltı masasında araba kullanmanın geleceği konusunda sohbet ediyorduk. Her ikimiz de sürücüsüz otomobillerin yol güvenliği, trafik verimliliği ve yakıt tasarrufu açısından ne kadar iyi olacağını düşünmekteydik. Üzerinde anlaşamadığımız nokta bu teknolojinin ne kadar süre sonra gerçekleşeceği idi. Arkadaşım 20 yıllık bir süre kaldığını düşünürken ben 50 yıllık sürenin daha gerçekçi olduğunu düşünmekte idim.
Göründüğü kadarı ile arkadaşım neredeyse doğru tahmin etmiş. Ancak bu teknolojiyi tümüyle kullanmak için tamamen hazır olduğumuzu söyleyemeyiz. Her ne kadar teknolojik temeller (makine öğrenimi, bilgisayar vizyonu, kablosuz ağ oluşturma, uydu yön güdümü, konum ve haritalama teknikleri) oturdu ise de, sürücüsüz otoların şimdiden sebep olduğu kazaların işaret ettiği gibi, çözülmesi gereken daha birçok sorun ve üzerinde durulması gereken pek çok konu var. Şimdilik sürücüsüz otoların güvenli hareket ettiklerini ve tehlikeli durumlarda tepki vermede en yetenekli insan sürücüler kadar başarılı olduklarını varsayalım.

Dünyada her yıl 1 milyon kişi, çoğunluğu sürücü hatası sonucu oto kazalarında ölüyor. Eğer dünya tümüyle sadece sürücüsüz otolar kullansa kuşkusuz bu sayı önemli ölçüde düşecektir. Fakat teknoloji ne kadar iyi olursa olsun, yollarda ölümler kaçınılmazdır. Ancak, öyle durumlar ortaya çıkacaktır ki, ya otomobildeki ani bir teknik sorun (frenlerin çalışmaması gibi) ya da yayaların ve diğer yol kullanıcıların hareketleri sonucu, otomuzun bilgisayar beyni bir felaketin yaklaşmakta olduğunu sezecek, daha doğrusu ölçecek, hesaplayacaktır. Bugün için, sürücüsü insan olan bir oto ile ilgili düşünülebilecek en kötü senaryoda, sürücünün mantıklı ve düşünülmüş bir tepki verecek kadar vakti bile olmayabilir. Hatta sürücünün tercihi tamamen rastlantısal olabilir. Oysa, sürücüsüz bir otonun yönetici bilgisayarı için 1 saniye bile durumu değerlendirmek ve karar vermek için yeterince uzundur.  

Etik çalışmalarında 'Beş kişiyi kurtarmak için bir kişiyi öldürür müsün?' gibi sorular çok irdelenir ve öngörülerimiz bize insanlarda bulunan ahlaki, manevi pusulanın aynısının sürücüsüz bir otoda da bulunmasının gerektiğini söyler.
Ancak bu 'ahlaki pusula' tam olarak nedir ki? İşte bu nedenle 2016 yılında, MIT'nin (ünlü üniversite Massachusetts Institute of Technology) Media Lab'ı (Medya Laboratuvarı), Moral Machine (Erdemli Makine) adlı online bir projeyi bir oyun olarak uyguladı.
Oyun sizden iki feci senaryodan birisini seçmenizi istiyordu. Örnekler:

*Frenlerin çalışmaması halinde, yoldan yasal bir biçimde geçen yayaları öldürmemek için direksiyonunuzu kırarak otonun içinde doğru ve yasal biçimde bulunan yolcuları mı öldürmelisiniz?
*İnsanları kurtarmak için hayvanları mı öldürmelisiniz?
*Trafik ışıkları kırmızıda iken yoldan hatalı şekilde geçen yayaları öldürüp otodaki tek kişiyi mi korumalısınız?

Bu ve bunun değişik şekillerindeki, etik felsefesinde 'Tramvay Problemi' adı verilen ikilemler sunuldu ve sonuçlar çok ilgi çekici çıktı.
Oyunu oynayan, soruları cevaplayanların çoğunluğu üniversite mezunu erkekler olsa da, cevapları bulundukları coğrafi bölgeye göre önemli farklılıklar göstermekte idi.
Doğu ülkelerinden oyuncular, yaşlı bir kişiyi kurtarıp genç birisini kurban etmeye Batı ve Güney ülkelerindekilere göre daha meyilli idiler. Güney ülkelerinden cevaplayanlar atletik bir kişiyi kurtarıp şişman bir kişiyi kurban etmeyi tercih ediyorlardı. Büyük ekonomik eşitsizliklerin bulunduğu ülkelerin (Kolombiya gibi) mensupları evsiz bir kişiyi kurban edip bir işadamını ise kurtarmaktan yanaydılar. Yasaların güçlü ve egemen olduğu, örneğin Japonya ve Almanya gibi, ülkelerin yurttaşları kurallara riayet edenin kurtarılıp kurallara aykırı olarak yoldan geçen yayaların öldürülmesini tercih ediyorlardı.

Bu aykırılıklara rağmen bazı genel çizgiler de ortaya çıktı. Oyuncuların çoğunluğu kadınları korumaktan yanaydılar. Kedi köpek arsında tercih köpeklerden yanaydı. Daha da rahatsız edici bir sonuca göre suçlular-köpekler arasında tercih söz konu olduğunda karar köpeklerden yanaydı.
Cevaplardaki bu farklılar bizi daha da zor sorulara doğru yöneltiyor...
Örneğin bir Doğu ülkesinde satılmış ve BMW tarafından üretilmiş bir otonun, genç kişileri koruma önceliği kaldırılmalı mı? Tersini yapmak pekâlâ ahlaki sömürgecilik olarak görülebilir. Ya bu önceliklerin üzerinde kolaylıkla oynanabileceği otokratik rejimler?
Dünyada böyle bir sorunun çözümü için yasal çerçeve düzenlemeye başlayan tek ve belki de şaşırmayacağınız ülke Almanya. 2017 yılındaki ilk sürücüsüz oto düzenleme ve kılavuzlarına göre 'Önlenemez kaza durumlarında, yaş, cinsiyet, fiziksel ve ruhsal durum gibi kişisel niteliklere göre ayrıcalık tanımak 'yasak'tır.' Almanya'nın 20. yüzyıldaki karanlık günlerini düşününce bu da sürpriz sayılmaz.

Belki de George Orwell'in 1984 eserini okumuş olmanın getirdiği bilgileniş ve uyanış sonucu ben de oyun için benzer bir değerlendirme yapıyorum.
Manevi ve ahlaki bir iç pusulayı yani yapay vicdanı bilgisayara yüklemek kolay olmayacak. Yüklendiğinde ise bu yapay vicdan çok sorgulanacak.

Yorum Ekle
İsim
Yorumunuz onaylanmak üzere yöneticiye iletilmiştir.×
Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.