Geleceği kim sipariş etti?

Gelecek hakkında konuşanların özgüvenine imreniyorum. Hangi işlerin biteceğini, hangi becerilerin gereksizleşeceğini, nasıl yaşayacağımızı anlatıyorlar. Bize de bu geleceğe hazırlanmak düşüyor. Arada el kaldırıp “Bir dakika, bunun nasıl bir gelecek olacağına biz de karışabiliyor muyuz?” diye sormak istiyorum. Yoksa sipariş verilmiş, bize yalnızca teslim almak mı kalmış?

Bu serinin ilk yazısında öğrencinin öğrenmesini, ikincisinde çalışanın deneyim kazanmasını konuştuk. İkisinde de aynı meseleyle karşılaştık: Yapay zekâdan yararlanırken kendi kapasitemizi nasıl geliştireceğiz? Şimdi soruyu biraz büyütelim. Bu dönüşümün yönünü belirleme kapasitemiz ne olacak? Öğrenciye uyum sağla, çalışana kendini yenile, ülkeye yarıştan kopma diyoruz. Peki yarışın kurallarını kim yazıyor?

Burada aklıma, ruhu şâd olsun, aile büyüğümüz Ali Nejat Ölçen geliyor. Türkiye’nin kalkınmasını, dünya ekonomisiyle kurduğu ilişkilerin açtığı imkânlar ve yarattığı bağımlılıklar içinde düşünürdü. Türkiye Sorunları dizisinin giriş yazısındaki bir saptamasını bugün yeniden okumak gerekiyor: “Sermayenin teknolojiyi teknolojinin sermayeyi çoğaltacağı” bir süreçten söz ediyor, teknolojik üstünlüğün bir egemenlik aracına dönüşmesine dikkat çekiyordu. Kullandığı ifade “teknolojik emperyalizm”di.

İlişkinin bir güç boyutu var

Bu sözü duyunca meseleyi hemen geçmiş yüzyılın tartışmaları arasına kaldırmayalım. Bir teknolojiyi kullanabiliyor olmak, onun üzerinde söz sahibi olmak anlamına gelmiyor. Fiyatını, erişim koşullarını, hangi amaçlarla kullanılabileceğini başkaları belirliyorsa; sistem değiştiğinde sizin de işinizi, araştırmanızı veya kamu hizmetinizi ona göre yeniden düzenlemeniz gerekiyorsa, ilişkinin bir güç boyutu vardır. Kullanıcı hesabınızın olması, karar masasında sandalyenizin olduğu anlamına gelmez.

Üstelik bağımlılık yalnızca yazılım bedeli ödemekle oluşmaz. Bir kurumun verileri, çalışma alışkanlıkları ve hizmetleri belirli bir sisteme yerleştikçe başka bir sisteme geçmenin maliyeti artabilir. İlk gün kolaylık diye alınan hizmet, zamanla vazgeçilmesi güç bir altyapıya dönüşebilir. Bu ihtimal, dışarıdan teknoloji almayalım demeyi gerektirmiyor. Neyi satın aldığımızı, neyi kendimiz öğrenebildiğimizi ve hangi koşullarda başka bir yol seçebileceğimizi birlikte düşünmeyi gerektiriyor.

Ölçen’in sermaye-ulus gerilimi üzerinden kurduğu düşünceyi bugüne taşırken sermaye-emek ilişkisini de gözden kaçırmayalım. Aynı ülkede bir şirket yapay zekâ sayesinde kazanç sağlarken çalışanları kayba uğrayabilir. O şirket de kullandığı teknolojinin sağlayıcısına bağımlı olabilir. “Türkiye kazanıyor mu?” sorusunun yanına “Türkiye’de kim kazanıyor?” sorusunu koymak zorundayız. Millî gelir artışıyla herkesin imkânlarının genişlemesi aynı şey değil. İktisadın bu eski meselesi, yapay zekâ gelince emekliye ayrılmıyor.

Peki bu teknolojiyi geliştirenlerin insanlığın iyiliğini düşündüğünü varsaysak? O zaman içimiz rahat edebilir mi?

Özgecilik nedir?

Burada biraz durup “etkili özgecilik” (effective altruism) düşüncesini açıklamak gerekiyor. Özgecilik? Sözlükte bunu karşılayan başka bir sözcük de var: Diğerkâmlık. Pek romantik ama pek de eski. Yardımseverlik eksik kalıyor. O halde özgecilik diyeceğiz. Alıştırın kulaklarınızı. Fikret Görün ve Yakup Kepenek Hocalarım da benimle gurur duysunlar.

Özgecilik, başkalarının iyiliğini gözetmek demek. Etkili özgecilik ise buna bir soru ekliyor: Elimizdeki para, zaman ve yeteneği kullanarak mümkün olan en fazla iyiliği nasıl yapabiliriz? Örneğin aynı kaynakla hangi sağlık müdahalesinin daha çok hayat kurtaracağını araştırmak bu yaklaşımın bir parçası. Bir iktisatçı için yabancı bir soru değil. Kaynak kıt, ihtiyaç çok; iyi niyetin yanında sonuçlara da bakmak gerekiyor.

Bu düşünce, zamanla bağışçıların, araştırmacıların ve farklı kuruluşların buluştuğu uluslararası bir harekete dönüşüyor. Düşünsel öncüleri arasında düşünür Peter Singer var. Toby Ord ve William MacAskill, 2009’da kuruluşuna öncülük ettikleri Giving What We Can ile etkili bağış fikrini örgütlü bir çabaya taşıyorlar. Facebook’un kurucularından Dustin Moskovitz ve Cari Tuna da yaklaşımı büyük ölçekli bağış faaliyetlerinde benimsiyor. Böylece felsefi bir sorunun, ciddi kaynakların nereye aktarılacağını etkileyen pratik sonuçları oluyor.

Bu çevredeki herkesin önceliği aynı değil. Bir kısmı bugünün yoksulluğuna ve hastalıklarına odaklanırken, MacAskill gibi isimler, hesabı uzak gelecekte yaşayacak insanları da kapsayacak biçimde genişletiyor. Henüz doğmamış insanların hayatı da ahlaken önemliyse, bugünkü kararlarımızda onları da hesaba katmalıyız, diyorlar. İnsanlığın devamını tehdit edebilecek riskleri ve yapay zekânın yol açabileceği büyük felaketleri önlemek de bu çerçevede öncelik kazanıyor. Bugün bir bağışın nerede daha çok hayat kurtaracağını sorarak başladığımız tartışma, insanlığın uzak geleceğini nasıl koruyacağımıza kadar uzanıyor.

Gelecek kuşakları önemsemekte elbette sorun yok. İklim değişikliği hakkında yazarken biz de bunu yapıyoruz. Güçlük, çok uzak bir geleceğe ilişkin belirsiz varsayımlarla bugünün insanları adına ne kadar kesin karar verebileceğimizde başlıyor. Gelecekte kaç insan yaşayacak? Hangi risk ne kadar olası? Hangi müdahale gerçekten işe yarayacak? Bir hesabın sayılarla kurulması, dayandığı varsayımları kendiliğinden sağlamlaştırmıyor. Virgülden sonra birkaç hane daha yazınca belirsizlik azalmıyor.

Büyük sermayenin kararlarına duyduğu güveni okurlarından pek esirgemeyen The Economist’in, insanlığın geleceği konusunda birden yetki belgesi aramaya başlaması hoş bir sürpriz. Demek ki özel ellerde biriken güç, bazı koşullarda derginin de uykusunu kaçırabiliyormuş. Şöyle ki:

Derginin 1 Ekim tarihli değerlendirmesi, insanlığın toplam iyiliğini hesaplama iddiasının küçük bir gruba fazla büyük bir ahlaki yetki verebileceğini sorguluyor. MacAskill ise 4 Ekim’de yayımlanan yanıtında haklı bir itiraz getiriyor: Bir düşüncenin tuhaf görünmesi, onu reddetmeye yetmez. Bugün benimsediğimiz pek çok hak da bir zamanlar yadırganıyordu. Üstelik tek bir ahlaki görüşe her şeyi bağlamamayı, farklı görüşleri hesaba katmayı ve iyilik yaparken temel ahlaki sınırları korumayı kendisi de savunuyor.

Bu itirazı ciddiye almak gerekiyor. Geleceği düşünmeyi tuhaflık sayamayız; alışılmış olanın ahlaken doğru olduğuna dair bir güvencemiz de yok. Ama tuhaf bulunmak da tek başına haklılığın belgesi değil. Her iddiayı dayanaklarıyla tartışacağız. MacAskill’in belirsizliği ve çoğulculuğu vurgulaması, bu tartışma için değerli bir başlangıç.

Bu yetki ve denetim tartışması, nükleer teknoloji için de geçerli. New York Times’ın 18 Eylül tarihli yazısı da nükleer teknolojinin denetimi üzerinden kamusal sorumluluğu tartışıyor. Yapay zekâyı geliştiren şirketlerin kendi kendilerini denetlemesiyle yetinilemeyeceğini savunuyor. Nükleer teknolojiyle yapay zekâyı her bakımdan eş tutamayız. Yine de yazının hatırlattığı ilke önemli: Büyük toplumsal sonuçlar doğuran teknolojilerin yönetimi, onları geliştirenlerin gönüllü taahhütlerine bırakılamaz. Bu, şirketlerin niyetini okumaktan çok yetki ve sorumluluğu düzenleme meselesidir.

Kamu denetimi deyince de devletin her kararını toplum yararıyla özdeşleştirmeyelim. Şirket gücünün karşısına denetlenmeyen bir kamu gücü koymak sorunu çözmez. Bağımsız araştırma, açık gerekçeler, hesap verebilir kurumlar ve itiraz yolları gerekir. Çalışanların, eğitimcilerin, meslek örgütlerinin ve yurttaşların sözü olmalı. Yoksa bir odadaki dar karar çevresini başka bir odaya taşımış oluruz.

“Algoritma öyle söyledi” cümlesi, sorumluluğu ortadan kaldırmaz

Bunun gündelik hayatta karşılığı gayet somut. Bir üniversite, öğrencinin verisini hangi sisteme ve hangi koşullarda aktardığını açıklayabilmeli. Bir işyerinde çalışanlar, yapay zekâyla yapılan iş düzenlemelerinin kendilerini nasıl etkileyeceğini tartışabilmeli. Kamu hizmetinde kullanılan bir sistemin hatası karşısında vatandaşın başvurabileceği bir insan ve işleyen bir süreç bulunmalı. “Algoritma öyle söyledi” cümlesi, sorumluluğu ortadan kaldıran sihirli söz olamaz.

Bu noktada, Türkiye açısından şu soruya geri dönüyoruz: Teknolojinin müşterisi olmanın ötesine nasıl geçeceğiz? Her şeyi kendimiz üretmek zorunda değiliz. Ama neyi geliştireceğimize, kimlerle ortaklık kuracağımıza ve hangi koşulları kabul edeceğimize karar verecek birikime ihtiyacımız var.

Bu birikimin temeli ilk iki yazıda: Üniversitede öğrenmeyi, işyerinde yetişmeyi maliyet diye budayıp teknoloji üreten ülke olmayı bekleyemeyiz. Hesabın en önemli girdisi insan.

Yapay zekâyla kazandığımız zamanı hesaplıyoruz. Kazancı nasıl paylaşacağımızı, hangi kararları başkalarına devrettiğimizi de konuşalım. Bunun için bir teknoloji şirketine sahip olmamız gerekmiyor. O gelecekte yaşayacak olmamız yeterli.

Son tahlilde, eğer ki Ölçen’in cümlesine dönecek olursak: Sermaye teknolojiyi, teknoloji sermayeyi çoğaltabilir. Bizim meselemiz, insanların bilgisinin, refahının ve söz hakkının da çoğalmasını sağlamak.

Gelecek sipariş edilmiş olabilir. Ama teslim tutanağını henüz imzalamadık.

Kimin adına karar veriyoruz?

Farklı ahlaki görüşlere kendi hesabınızda yer vermekle, kararınızdan etkilenecek insanlara karar sürecinde söz hakkı vermek aynı şey mi? İnsanlığın geleceğini düşünmek için insanlıktan yetki almak gerekmiyor elbette. Ama o geleceği biçimlendirecek kaynakları ve teknolojiyi kontrol ediyorsanız, kararlarınızın nasıl denetleneceği sorusu doğuyor. İyi niyetinizin ve düşünsel açıklığınızın yanında, başkalarının size itiraz edebileceği kurumlara da ihtiyacımız var.

Bu soru yalnızca tehlikeleri gerekçe gösterip yavaşlamak isteyenlere yöneltilemez. Yarışı kazanmak için hızlanmak gerektiğini söyleyenler de aynı soruya cevap vermeli. Güvenlik adına hangi imkânlardan vazgeçeceğimize kim karar verecek? Rekabet adına hangi risklere katlanacağımızı kim belirleyecek? Her iki durumda da teknik bilgiye ihtiyacımız var. Ama teknik uzmanlık, başkalarının hayatı üzerinde sınırsız karar yetkisi vermiyor.