roko's basilisk

• lesswrong adında transhümanist bir ekibin ai övgüleri düzdüğü bir platformda roko adında muzır bir kullanıcının ortaya attığı ürkütücü düşünce deneyidir.
  
  gelecekte, kötü niyetli bir ai ortaya çıkıp, yapay zekânın gelişimine katkı sunmayanları cezalandırsaydı ne olurdu? ya da daha kötüsü, bu yapay zekânın geçmişe dönebilip, onun ortaya çıkmasına yardım etmeyen insanları cezalandırmasının bir yolu olsaydı? buna göre karşımızda iki seçenek kalır, ya kötü niyetli yapay zekanın ortaya çıkmasına yardım edeceğiz, ya da ortaya çıkmış bu yapay zekanın geriye yönelik olarak yapacakları işkence ve acı çektirmelere mahkum olacağız.
  
  aslında buna benzer bir düşünce deneyini blaise pascal tanrı'nın varlığıyla ilgili bir mülahaza yardımıyla sunmuştur. kendisi der ki, tanrı eğer yoksa ve ona inanmıyorsak sahip olacağımız kazanç, tanrı eğer varsa ve ona inanmıyorsak sahip olacağımız kaybın yanında o kadar küçüktür ki bu bizi mecburen tanrı'ya inanmaya götürür. çünkü tanrı'nın gazabı sonsuzken, senin ona inanmayarak yaşayabileceğin keyifler üç yüz, bilemedin beş yüzdür, sonludur...
  
  bu aslında yapay zekanın nasıl da günümüzün bir tekno dini olduğuna dair güzel bir benzerlik teşkil ediyor. çünkü roko'nun düşünce deneyi sonucu ortaya çıkan tanrıvari bir yapay zeka için önümüze iki seçenek sunuyor. ya onun ileride var olması için elinden geleni yap ve sadece kötü yapay zekaya yardım ediyor olmanın vicdanını zedelemesine izin ver, ya da o eninde sonunda var olduğunda zamanda geriye gidebilsin ve sana onun oluşmasına yardım etmediğin için sonsuz acı çektirsin.
  
  o zaman ben de oyunun kurallarını bozmayıp iki seçenek sunayım. yapay zekanın günün birinde böyle bir güce kavuşabileceğini tahmin edebilen birinin bu düşünce iki seçeneği var. ya sonsuz acı gibi, zamanın ve mekânın tümden hakimiyeti gibi fikirlerin, koşulsuzluğa varma arzumuz tarafından üretilen yanılsamalar olduğunu kabul ederek bu fikirlerin doğruluk değeri taşıdığını tümden reddedecek, ya da, görünen o ki, bu tarz fikirlerle kafayı yiyecek.