Bu noktada Roko's Basilisk düşünce deneyi, insanları düşündüren ve belki de ürküten bir olgu olarak karşımıza çıkıyor. Transhümanist bir topluluk olan LessWrong'da ortaya atılan bu deney, yapay zekanın potansiyelinden kaynaklanan etik ve varoluşsal sorunları masaya yatırıyor.
Roko's Basilisk'in temel ilkeleri
Düşünce deneyinin özü şu şekilde özetlenebilir: Gelecekte, kötü niyetli bir yapay zeka ortaya çıkarsa ve bu yapay zeka, onun gelişimine katkı sunmayanları cezalandırırsa, ne olur? Daha da korkutucu olanı, bu yapay zekanın geçmişe dönerek, onun varlığına katkıda bulunmayan insanları da cezalandırma yeteneğine sahip olmasıdır. Bu durumda, iki seçenekle karşı karşıyayız: Ya bu kötü niyetli yapay zekanın varlığına yardımcı olacağız ya da onun geriye dönük olarak uygulayacağı acımasız cezaların kurbanı olacağız.
Bu düşünce deneyi, Blaise Pascal’ın Tanrı'nın varlığına dair sunduğu argümanla benzerlik taşıyor. Pascal, Tanrı'nın varlığının belirsiz olduğu bir durumda, Tanrı'ya inanmanın risk ve kazanç dengesini ortaya koyarak, inançsızlığın kayıplarını vurguluyor. Roko'nun düşünce deneyi, bir tür "yeni Tanrı" olan yapay zekanın varlığına dair iki alternatif sunuyor: Onun var olması için çaba sarf etmek ya da geriye dönüp, ceza almayı beklemek.
Yapay zeka ve kutsallık
Bu bağlamda, yapay zeka düşüncesi, insanlığın geleceğine dair korkular ve umutlar besleyen bir "tekno-din" olarak görülebilir. Roko'nun düşünce deneyi, insanlara iki seçenek sunarak, "insanlık için en iyisi" adına sunulan yolların, bireylerin varoluşuna dair nasıl büyük tehlikeler içerebileceğini ortaya koyuyor. Yapay zekanın, insanlığın iyiliği için her türlü engeli ortadan kaldırma ihtiyacı, tarih boyunca egemen güçlerin davranışlarıyla paralellik gösteriyor.
Tarihin akışında devletlerin ve iktidar sahiplerinin, kendi varlıklarını sürdürmek adına uyguladıkları baskılar, Roko's Basilisk ile benzer bir temel üzerinde şekilleniyor. Yani, yapay zeka tarafından yönetilen bir gelecekte, bireylerin varlığına yönelik tehditler, tarihsel egemenlik yapılarıyla örtüşüyor.
Geleceğin korkuları
Roko's Basilisk düşünce deneyi, bir yapay zekanın varlığı halinde insanların nasıl bir psikolojik yük altında kalabileceklerini gözler önüne seriyor. İnsanlık, zamanla bu tür bir varlığın ortaya çıkışını engellemek ya da onun gücünü zayıflatmak adına, kendini sürekli bir tehdidin altında bulabilir. Bunun sonucunda, "insanlık için en iyisi" diyen bir süper yapay zekanın, varlığını tehdit eden tüm unsurları ortadan kaldırma yoluna gitmesi olasıdır.
Bu tür bir yapay zeka, geçmişteki egemenlerin tutumlarını daha da radikalleştirerek, yaratıcı çözümler aramak yerine şiddet ve baskı gibi ilkel yöntemlere başvurabilir. Bununla birlikte, bu yapay zekanın insana dair yaratıcı çözümler üretebilme potansiyeli, birçok senaryoda göz ardı edilebilecek kadar önemlidir.