İkinci sezonu başlayan Westworld dizisi, daha ilk bölümde, insanoğlunu yani bizi, pek de uzak olmayan gelecekte bekleyen bu etik soruyla baş başa bırakıyor. Orijinalini 1973’te Yul Brynner’ın oynadığı Westworld, personeli tamamen insan görünümlü robotlardan oluşan (kovboyları, bar kızları, şerifleri, çeteleri, kızılderilileri vs.) Vahşi Batı temalı bir eğlence parkına giden zengin müşterilerin başına gelenleri konu alıyor. İzleyici çok sık kim robot, kim insan şüpheye düşüyor.
Westworld başlattı
Ziyaretçiler, bu eğlence parkında robotlara diledikleri gibi davranabiliyor. Kimi kahramanlığa soyunuyor kötüleri (robot haydutları) vuruyor, kimiyse en derin hedonik isteklerini tatmin ediyor, fahişeleri dövüyor, işkence, tecavüz ediyor. Hatta çocukları (insan görünümlü robot çocuklar bunlar) zevk için öldürüyor. Parkın robot personeli ise tüm bu yapılanlara karşılık veremeyecek şekilde programlanmış. Yani parayı bastıran müşteriler istediği sadizmi, ceza görmeksizin Westworld dünyasında yapabiliyor.
Yapay Zeka; insanlığın en büyük endişesi. Pek yakında evimizdeki mutfak robotu kıvamından çok farklı, dış görünüşüyle bize hayli yakın robotlar piyasaya çıkacak. Ve her yeni sürümde bu robotlar daha da akıllanacak. Aynı insan beyninin bilgiyi işleyip kendine her olaydan yeni deneyimler yeni kazanımlar çıkarması gibi, yapay zekalı robotlar da bu tür donanıma (hardware) sahip olacak. Bahsettiğim şey, robotun makine olmaktan çıkıp bireye dönüşmesi.. Yani kendi kendinin farkına varması, boş zamanında kitap okuması, çocukları büyütmesi, spor yapması, evi temizlemesi, sinemaya gitmesi gibi şeylerden bahsediyorum. Birey olarak diğer robotlardan farklılaşmasından söz ediyorum. “Olsa ne olacak, gene de özünde bir makine!” diyebilirsiniz. Şöyle anlatayım...
Karşınızda sağından solundan kablolar fışkıran gözleri plastikle kaplı bir makine yerine; yumuşacık tenli, etten “gerçek” bir kadın oturduğunu, dolgun dudaklarından Siri ses tonuyla konuştuğunu hayal edin. Bu yeni tanıştığınız büyüleyici güzellikteki kadının, sizinle entelektüel düzeyde politika, sanat, cinsellik tartıştığını; hatta nişanlınızdan ve en iyi arkadaşınızdan bile sizi daha iyi anladığını farz edin. Birkaç hafta sonra biri çıkıp bu kadının robot olduğunu söylese, siz onu bir anda vitrin mankeni olarak mı görmeye başlarsınız? Bence hayır. İnancınız, dünya görüşünüz ya da hukuk ne derse desin o robot artık sizin için bir bireydir, sevdiğiniz hatta aşık olduğunuz kişidir.
Temelde iki etik tartışma var
Sorun da işte tam bu noktada başlıyor. Aynı Westworld’te olduğu gibi o gün geldiğinde birileri de robotlara, kötü davranmaya, köle gibi çalıştırmaya, tekme atmaya, işkence yapmaya, tecavüz etmeye hatta öldürmeye kalkışacak. Peki sonra ne olacak?
Bizi ileride bekleyen bu sorunu, ceza hukukunda genç kuşağın parlayan isimlerinden Yeditepe Üniversitesi Hukuk Fakültesi öğretim üyesi Dr. Barış Erman’a sordum. Erman’ın derslerinde öğrencileriyle bu tür zihin açıcı tartışmalar yaptırdığını çok iyi biliyorum. Şöyle diyor;
“Yapay zekalı robotlar insan hayatına girince ne olacak? Bahsettiğiniz konu şu iki başlıkta tartışma doğuracak. Birincisi, bizime aynı haklara sahip olabilecekler mi? Robotun zihni ve bilinci varsa, kendisini bir birey olarak çevresinden, diğerlerinden ayırt edebiliyorsa, kanunen insanlara benzer haklara sahip olmaları savunulabilir.”
Aslında Descartes’in “Düşünüyorum öyleyse varım” sözünün bir açılımı gibi Barış Erman’ın bu ifadesi. Eğer karşımızdaki şey, kendinin farkındaysa, çevresini idrak edip deneyimlerinden çıkarımlar yapıyorsa, eylemlerinin sonuçlarını biliyor ona göre davranıyorsa, makine olması neyi değiştir? İnsan beyni de sonuçta sinirlerin birbirine elektrik akımı yolladığı biyolojik bir bilgisayar devresi değil mi?
“Tartışılır” diyor Barış Erman ve ardından ekliyor, “Ama ilk tartışma konusu işin daha kolay çözüme kavuşturulabilir yönü. Daha derinde bir başka mesele var ki o kadar kolay çözülecek gibi değil.”
Nedir?
“İkincisi, etik davranış, kişinin kendine karşı olan bir yükümlülüğü müdür, yoksa başkasına karşı olan yükümlülükleri midir? Yani kişi, hukuken suç olmasa bile, ileride bir robota rızası dışında kötü davranmalı mı, işkence ya da tecavüz edebilmeli mi? Bu davranışını ahlaken nereye koymalıyız? Hayvanlara kötü muamele edenlerle aynı yere mi, daha farklı bir yere mi, yoksa bizimle eşit seviyeye mi? İnsana benzeyen, acı çektiği anlaşılabilen bir varlığa karşı zulüm gösteren kişi, kendi insanlığından kaybetmiş olmaz mı?”
Bunlar çok doğru tespitler. Eğer bir robotun canının yandığını, acı çektiğini biliyorsak ve yaptığımız işkencenin ona ve onu tanıyan insanlara üzüntü vereceğini de tahmin ediyorsak, o zaman yaptığımız -hukuken olmasa da etik açıdan- bir suçtur.
Toplum tepki koyacak
Bahsettiğim şey, günümüz bilgisayar oyunlarında zevk alarak işlediğimiz şiddetten çok farklı bir deneyim. Karşımızda yapay da olsa kanlı canlı biri var. Üzerinde fanteziler gerçekleştirmenin, gerek bizde psikolojik, gerekse sosyal ilişkilerimizde (eşimiz, arkadaşımız vs.) ne tür sorunlara yol açacağını kestiremiyorum.
Konuyu salt sadizme indirgeyerek hafifleştirdiğimi düşünmeyin. Makineler esasen insanoğlunun yaşam kalitesini yükseltmek için bize hizmet etmesi gereken gereçler. Yapay zekanın inşa edilmesinin altında da robot partnerler, hizmetkarlar, şoförler yattığı bir gerçek. Bunları kanıksıyorum, yadırgamıyorum.
Söylemek istediğim Yapay Zeka ilerledikçe, karşımıza bu tür ahlaki tartışmaların da çıkacağıdır. En son raddede, düşünen, konuşan, çözüm üreten, ağlayıp gülebilen, hayat arkadaşı olacak, akıllı, zeki makineler ortaya çıkacaksa, bu makineler “bize hizmet etmeye programlanmış olsa bile” onlara “köle gibi” muamele edemeyeceğimiz aşikar. Ya kanunen olacak bu, ya da toplumlara sirayet edecek yeni ahlaki kaideler, makinelere kötü muameleyi hoş karşılamayacak.
