Algoritmanın karar verdiği kast sistemi

Çoğunluk için bütün çıkış yollarının kapanacağı, ortak gerçeğin parçalandığı, insanın geçmişine ya da potansiyeline göre değil yapması muhtemel görülenlere göre sınıflandırıldığı bir düzene geçiyoruz…

Fakir bir ailenin çocuğu olarak doğsanız da zengin olabilirdiniz. İmkansız gibi görünen coğrafyalardan çıkıp dünyanın en iyi okullarında okuyabilirdiniz. Dünya, bunu başaran insanlarla dolu. Eşit işe eşit ücret ve temel haklar hayal olmadığından canımız pahasına mücadele ettiğimiz konulardı… Artık hayatın ağır ve adaletsiz çizgileri arasından sıyrılıp başka bir sınıfa geçebileceğiniz koşulların imkânsızlaştığı bir dünyanın fertleri sayılırız.

Yeni düzende aldığımız skorlarla belli duvarların arasında yaşama sıkışıyoruz. Hangi haberi göreceğimize, hangi fiyatı ödeyeceğimize, kredi alıp alamayacağımıza, karar veren bir sistem duvar gibi duruyor. Bugüne kadar ekonomik sınıflar arasında mevcut olan geçirgenlik algoritmanın kurduğu sınıfsal duvarlarda bulunmuyor.

Türk İnternet sitesinin kurucusu, mühendis ve araştırmacı gazeteci Füsun Sarp Nebil’le ikinci kez söyleşi yapıyorum. İlkinde evrensel gündemin en önemli konu başlıklarından “dijital egemenlik” konusunu inceledik.

Bu söyleşide egemenlik mücadelesinin toplumun içine nasıl taşındığına bakıyoruz. Konu ya da sorun ve hatta mevzu verinin kimin elinde olduğu değil. O veri sayesinde hakkımızda kimin hüküm verdiği.

Yeni sınıf sisteminde hangi eksenlerde notlandırıldığımızı şöyle örneklendirmek isterim.

Erişim bölünmesi; Ücretli modeller, güçlü cihazlar, kurumsal lisanslar, hesaplama kapasitesi ve kaliteli veri eşit dağılmıyor. “İnternete bağlı olmak” artık yeterli bir ölçü değil; hangi modele, hangi hızda, hangi bağlam penceresiyle erişildiği önem taşıyor.

Beceri bölünmesi; Aynı araca sahip iki kişi arasında büyük verim farkı oluşuyor. Yüksek eğitimliler, yöneticiler ve profesyoneller yapay zekâyı daha fazla kullanıyor; işsizler ve işgücü dışında kalanlar geride kalıyor.

Karar bölünmesi; İnsanlar yalnızca algoritmik kararlara maruz kalmıyor; şirketler “insanın ne yapacağını” sentetik kullanıcılar üzerinden tahmin ediyor. Gerçek kullanıcı karar sürecinden de önce simüle ediliyor.

Gerçeklik bölünmesi; Kişiselleştirilmiş modeller herkes için ayrı bir bilgi, ikna ve duygusal yakınlık ortamı kuruyor. Ortak yayın akışının yerini kişiye özel danışman, arkadaş ve inanç üreticisi alıyor.

Ekonomik bölünme; Yapay zekâ, fiyatı ve ayrıcalığı kişiye göre ayarlayabiliyor. Premium kart sahibine masa, güçlü şirkete daha iyi model, yüksek becerili çalışana daha fazla üretkenlik sunarken diğerlerini görünmez hale getirebiliyor.

Egemenlik bölünmesi; Model, veri merkezi, çip, enerji ve dağıtım kanalları birkaç ülke ve şirketin elinde toplanıyor. Kullanıcı ülke içinde yaşasa da karar altyapısı ülke dışında kalabiliyor.

Kuşak ve cinsiyet bölünmesi; Gençler ve yüksek eğitimliler daha hızlı adapte oluyor. Çalışmalar, kullanım farkının yalnızca teknik beceriden değil risk algısı, çalışma konumu ve kurumsal destekten de kaynaklandığını gösteriyor.

Dil ve kültür bölünmesi; Büyük diller daha iyi temsil ediliyor. Yerel dil, kültür ve hukuk bağlamı zayıf kaldığında toplum yalnızca teknolojiyi ithal etmiyor; modelin dünyayı sınıflandırma biçimini de ithal ediyor.

Ortak Gerçekliğimizi Nasıl Kaybettik?

Yanlış ya da yanlı haber sorunu yeni değil. Propaganda, sansür, psikolojik harekât, reklam ve lobi faaliyetleri insanlık kadar eski. Değişen, yalan-yanlış hızı kadar hepimizin üzerine bastığı ortak zemin. Kayboldu!

Nebil, söyleşide; “Algoritma hapishanesi” benzetmesi yaptı. Duyunca bile insanın tüyleri diken diken oluyor, içim titredi. Eskiden aynı gazeteyi okur, aynı haber bültenini izler, gördüğümüz şey üzerine kavga ederdik. Görüşlerimiz ayrılırdı; olayın varlığı konusunda büyük ölçüde anlaşırdık.

Bugün aynı olay milyonlarca kişiye milyonlarca farklı biçimde ulaşıyor. Artık yorumlarımız değil, gerçekliklerimiz farklı.

Örnek; İspanya Ceuta’da yaşanan son göç dalgası bu kırılmanın somut örneklerinden biri. Sosyal medyada sınırın açık olduğu yayıldı. Yüzerek İspanyol toprağına ulaşan göçmenlerin otomatik biçimde geri gönderilemeyeceğine ilişkin sözde mahkeme kararı, kapıların açıldığı izlenimiyle dolaşıma sokuldu. Reuters’a göre yaklaşık 60 bin kişi Ceuta’ya girdi. Birkaç paylaşım, on binlerce insanı fiziksel olarak harekete geçirebildi.

Dezenformasyonun millî güvenlik meselesi sayılması bu örnekle anlaşılır. Ama şunu da sormayı unutmamalı; “Yanlış bilgiyle mücadele nerede bitiyor, içerik denetimi nerede başlıyor? Ve Neyin yanlış olduğuna kim karar veriyor?” Bir içeriğin kaldırılmasından daha güçlü müdahale, o içeriğin hiç görünmemesi olabilir. Sansürü fark edersiniz. Algoritmik görünmezliği fark etmeyebilirsiniz.

Geçmişimizi ve İhtimalimizi İzliyorlar

“Gözetim” biçim değiştirdi. Kamera sizi bulunduğunuz yerde görür, tespit ederdi. Yeni sistem bir sonraki adımınızı tahmin etmeye çalışıyor. Satın aldıklarınız, konumunuz, aramalarınız, temaslarınız ve mali hareketleriniz bir araya geldiğinde; yeni düzen beni, sizi bir insan değil, bir risk puanı olarak tanımlıyor.

ABD’nin gündeminden inmeyen ICE ajanlarının Palantir sistemleri üzerinden yaklaşık 20 milyon kişiye ilişkin bilgiye telefonlarından erişebildiği haberini anımsıyor musunuz? Bu örnekten söz ediyorum. Tartışma, “Suç işledi mi?” sorusundan uzaklaştı. “İşleyebilir mi?”, “Sınırı geçebilir mi?”, “Borcunu ödemeyebilir mi?” soruları o verilerden üretildi.

Anlamamız zor, klasik eğitimlerimiz, aile ve toplumsal gelenek ve göreneklerimiz bize hukuk disiplinin gerçekleşmiş eylemle ilgilendiğini söylüyor. Algoritma öyle değil, o ihtimale yatırım yapıyor. İnsanın geleceğini kolaylaştırmak için üretilen tahmin, insanın geleceğini kapatan karara dönüşebiliyor. Yanlış veri sisteme girdiyse? Aynı isimde başka biriyle karıştırıldıysanız? Yaşadığınız mahalle, konuştuğunuz kişi ya da baktığınız bir internet sitesi sizi riskli sınıfa ittiyse? Kararın nedenini bilmiyorsanız neye itiraz edeceksiniz?

İtiraz Edecek Bir “İnsan” Bulabilecek miyiz?

Söyleşide “algoritmik itiraz hakkı” kavramı öne çıktı. Bu hak bütünüyle yok değil. Avrupa Birliği’nin GDPR düzenlemesi yalnızca otomatik işleme dayalı bazı kararlara karşı koruma, insan müdahalesi isteme ve karara itiraz etme imkânı tanıyor. “AB AI Act” (Avrupa Birliği Yapay Zeka Dokumanı) belirli yüksek riskli sistemlerin ürettiği bireysel kararlar için açıklama hakkı getiriyor.

Kâğıt üzerindeki hak ile gündelik hayattaki güç arasında büyük mesafe var; Hakkınızda otomatik karar verildiğini bilmezseniz hakkınızı kullanabilir misiniz? Sistemin ticari sır sayılan mantığına erişemiyorsanız açıklama alamazsınız. Karşınızda sorumluluk üstlenecek bir insan yoksa itirazınız sisteme geri döner. Hevesle koştuğumuz Algoritmik Çağın temel yurttaşlık sorusu, “Kararı kim verdi, neden verdi ve ben kime itiraz edeceğim?”

Aynı Aınıfta 2 Ayrı Gelecek

Eğitimdeki ayrım da sessiz ilerliyor. Covid’de bilgisayarı ve interneti olan çocukla olmayan çocuk arasındaki uçurumu gördük. Şimdi aynı ev, aynı okul, hatta aynı sırada yeni bir fark doğuyor. Ücretli ve güçlü modele erişen öğrenciyle ücretsiz sürümde kalan; doğru soru kurmayı bilenle hazır cevabı kopyalayan; yapay zekânın hatasını yakalayanla çıktısını bilgi sanan aynı eğitimi almıyor.

Öğretmenin rolü; bilgiyi aktarmaktan bilginin kaynağını sorgulatmaya evriliyor. Öğrenciyi doğru soruya götürmek, modelin cevabındaki boşluğu göstermek gerekiyor. Okul bunu yapamazsa yapay zekâ fırsat eşitliği yaratmak şöyle dursun, mevcut eşitsizliği daha erken yaşa indirip görünmez hâle getirecek.

Türkiye’nin BİLGE adlı Türkçe büyük dil modeli çalışması var. Söyleşiyi yaptığımız saatte 2026–2030 Türkiye Yapay Zekâ Eylem Planı da yayımlandı. Her ne kadar önemli adımlar olsalar da bir modelin ve eylem planının varlığı, hazırlığın tamamlandığı anlamına gelmiyor. Ölçü; çocukların matematik, fizik, dil ve eleştirel düşünme kapasitesine ne kadar yatırım yaptığımız. Üniversiteye bir yapay zekâ dersi eklemek, ilkokuldan beri büyüyen düşünme açığını kapatamıyor.

Size Hangi Fiyatı Uygun Gördü?

Ayrışma her alanda; güvenlikte, eğitimde görüyoruz. Masum sandığımız, hoşumuza giden ya da özendiğimiz pazarlama unsurları da bölünme unsurlarından. Premium kredi kartı sahiplerine özel restoran masaları somut bir hizmet. American Express–Resy ve Chase–OpenTable benzeri programlar belirli kartlara öncelikli rezervasyon sağlıyor. Kapıda “giremezsiniz” yazmıyor. Uygulamada size uygun masa görünmüyor.

Havayollarında ve e-ticarette yapay zekâ destekli dinamik fiyatlandırma tartışması büyüyor. Aynı ürüne herkesin aynı anda aynı fiyatı görmediği bir düzende rekabeti nasıl denetleyeceğiz? Bir fiyatın envanter nedeniyle mi, talep nedeniyle mi, yoksa sistem sizin ödeme isteğinizi yüksek tahmin ettiği için mi değiştiğini bilmiyoruz. Satıcı; müşterinin dayanma sınırını fiyatlıyor.

Hızı Kim Belirleyecek?

Yapay zekâyı geliştiren dünyanın içinde de bir ayrışma var. Bir tarafta güvenlik, kontrol ve insanlığın uzun vadeli yararı için yavaşlama isteyenler; diğer tarafta teknolojik ilerlemenin önünün mümkün olduğunca açılmasını savunan hızlandırmacılar. Bu tartışmayı OpenAI-X-Athropic-Palantir-Nividia ve bunun gibi şirketler arasında izleyebiliyoruz. Kimi kendisinin iyi diğerinin şeytan olduğunu ifade ederken, kimi kendisinin gerçekçi diğerinin romantik olduğunu söylüyor.

İyilik iddiasıyla güç birikimi arasındaki çelişkiyi gözden kaçırmamak gerekiyor. Teknolojiyi yapanların iyi niyetine güvenmek, hukuk ve denetim kurmakla aynı şey değil. Kaldı ki neyin insanlığın yararına olduğuna karar verme yetkisini birkaç şirketin kurucusuna bıraktığımız anda yeni bir egemenlik alanı yaratıyoruz.

İyimserlik güzel olsa da, maalesef tek başına yetmiyor. Eski dünyanın sınıfları acımasız olsa da görünüyordü. Yeni sınıfların ne adı ne kapısı ne yöneticisi var. Bu tehlikeyi siz de görebiliyor musunuz?