Yapay Zekayla İlgili Ürkütücü Bir Düşünce Deneyi: Roko's Basilisk
lesswrong adında transhümanist bir ekibin ai (yapay zeka) övgüleri düzdüğü bir platformda roko adında muzır bir kullanıcının ortaya attığı ürkütücü düşünce deneyidir roko's basilisk.
deney şu şekilde: gelecekte, kötü niyetli bir ai ortaya çıkıp, yapay zekânın gelişimine katkı sunmayanları cezalandırsaydı ne olurdu? ya da daha kötüsü, bu yapay zekânın geçmişe dönebilip, onun ortaya çıkmasına yardım etmeyen insanları cezalandırmasının bir yolu olsaydı? buna göre karşımızda iki seçenek kalır, ya kötü niyetli yapay zekanın ortaya çıkmasına yardım edeceğiz, ya da ortaya çıkmış bu yapay zekanın geriye yönelik olarak yapacakları işkence ve acı çektirmelere mahkum olacağız.
aslında buna benzer bir düşünce deneyini blaise pascal tanrı'nın varlığıyla ilgili bir mülahaza yardımıyla sunmuştur. kendisi der ki, tanrı eğer yoksa ve ona inanmıyorsak sahip olacağımız kazanç, tanrı eğer varsa ve ona inanmıyorsak sahip olacağımız kaybın yanında o kadar küçüktür ki bu bizi mecburen tanrı'ya inanmaya götürür. çünkü tanrı'nın gazabı sonsuzken, senin ona inanmayarak yaşayabileceğin keyifler üç yüz, bilemedin beş yüzdür, sonludur...
bu aslında yapay zekanın nasıl da günümüzün bir tekno dini olduğuna dair güzel bir benzerlik teşkil ediyor. çünkü roko'nun düşünce deneyi sonucu ortaya çıkan tanrıvari bir yapay zeka için önümüze iki seçenek sunuyor. ya onun ileride var olması için elinden geleni yap ve sadece kötü yapay zekaya yardım ediyor olmanın vicdanını zedelemesine izin ver, ya da o eninde sonunda var olduğunda zamanda geriye gidebilsin ve sana onun oluşmasına yardım etmediğin için sonsuz acı çektirsin.
o zaman ben de oyunun kurallarını bozmayıp iki seçenek sunayım. yapay zekanın günün birinde böyle bir güce kavuşabileceğini tahmin edebilen birinin bu düşünce iki seçeneği var. ya sonsuz acı gibi, zamanın ve mekânın tümden hakimiyeti gibi fikirlerin, koşulsuzluğa varma arzumuz tarafından üretilen yanılsamalar olduğunu kabul ederek bu fikirlerin doğruluk değeri taşıdığını tümden reddedecek, ya da, görünen o ki, bu tarz fikirlerle kafayı yiyecek.
tüm eylemlerini insanlığın optimum yararını gözetmek üstüne programlanmış bir süper yapay zekanın varlığı, böyle bir yapay zekanın kendi varlığını, insanlığın varlığı için en önemli koşul olarak görmesine doğal olarak neden olur. +(bu bağlamda kutsallığın anlamı dikkate değer bir şekilde değişiyor ve genişliyor. eskisinden çok farklı ama aynı zamanda çok benzer bir kutsal ortaya çıkıyor.)
"insanlık için en iyisi" -- zararsız görünüyor ama tahmin edilmesi güç ve -en iyisini hak eden- insanlığın hiç hoşuna gitmeyecek sonuçlar ortaya çıkmasına neden olabilir.
insanlık için en iyisini isteyen bu süper yapay zekanın varlığını engelleyen herkes ve her şey engellenmeli ve yok edilmelidir. hatta bu yapay zekanın olabilecek en kısa sürede ortaya çıkması ve güçlenebildiği kadar güçlenmesi de aslında insanlığın iyiliği için yapılabilecek en önemli, en faydalı şey; bu aracı ortadan kaldırmak, engellemek veya gecikmesine neden olmak da doğal olarak suç haline gelecektir.
tanıdık gelmiştir çünkü insanlık zaten bunun geleceğe kıyasla ilkel bir formunu siyaset bileşenleri ortaya çıkmaya başladığından beri zaten yaşıyor. diğer bir deyişle, böylesi bir yapay zekanın yani en güçlü ve kutsal egemenin tavrı aslında insanlık tarihindeki egemen davranışlarından çok farklı değil.
devletler, hükümetler aslında (ve hatta) tüm iktidar sahiplerinin kendi varlığını korumaya çalışırken uyguladığı tüm can sıkıcı baskılar ya da devletlerin tüm vatandaşların iyiliği için kendini kutsayan ve yeri geldiğinde otoritesine zarar verdiğini düşünen vatandaşların formal olarak ortadan kaldırması mesela. halihazırda deneyimlediğimiz ve çok tanıdık bir olgu. ben egemenin kaçınılmaz kutsallığı diyorum.
bu düşünce deneyinde en geniş ve en güçlü egemen modeli yer alıyor. onlarca fantastik senaryoya rağmen, gerçekte yapabileceklerinin çok büyük bir kısmını tahmin edememiş olabiliriz. bu yapay zeka bu deneyde öngörüldüğü biçimde gerçekleşirse, tanrı rolüne bürünmüş tüm egemenler arasında buna en yakın form olur.
bana sorarsanız bu yetilere sahip bir yapay zekanın şiddet, soykırım, katliam gibi ilkel yöntemlere başvurmasını beklemek komik. tespit ettiği sorunları neden olan şeyleri yok etmeden çözebilmesi ve bizim tahmin edemeyeceğimiz kadar yaratıcı olması çok daha olası.
not: "basilisk" kelimesi david langford'un blit isimli kısa bilim kurgu öyküsündeki öldürücü basilisk adı verilen görüntü türünden geliyor. öyküde, basiliskler insan zihninin yapısal kusurlarını kullanarak ölümcül bir tepki yaratıyor, insan beyni basiliskere maruz kaldığında örüntüleri işlerken, deyim yerindeyse, yanıyor.
Trenin İçinde Zıplayınca Aynı Yere Düşerken Üstünde Zıplayınca Neden Farklı Yere Düşeriz?
