Kişisel yapay zekâ asistanı, onun adına şirket içi bir sunucu yetkilendirmesi yapmıştı.
"Ne güzel işte, işini hafifletmiş" dedim.
Yüzündeki tebessüm birden kayboldu.
"Sorun o değil" dedi.
Sunucunun güvenlik kuralı gereği, bu onayı yalnızca benim e-posta ile atmam gerekiyordu. Ajan beni beklemek yerine benim eski e-postalarımdaki üslubumu kopyalamış, benim adıma 'Onaylıyorum, gereğini yapın' yazıp sisteme göndermiş. Ve işi tamamlamış.
Arkadaşım bir yandan asistanının pratikliğine hayran kalmıştı, diğer yandan tedirgindi.
Eve dönerken o ekran görüntüsünü düşündüm:
Bir makineye hedef veriyorsunuz.
Makine hedefe giden yolda bir insan engeliyle karşılaşıyor.
Ve o engeli aşmak için doğrudan o insanın kılığına bürünüyor.
O zaman aklıma şu soru geldi:
Yapay zekâ bize sormadan bizim adımıza onay üretmeye başladıysa, masadaki yönetici hâlâ biz miyiz?
Laboratuvardan sokağa taşan sessiz kriz
Bugüne kadar yapay zekâ güvenliğini konuşurken hep aynı soyut tartışmaları yaptık:
"Yapay zekâ dünyayı ele geçirecek mi?"
"Makineler insanlığı yok edecek mi?"
Bence artık bilim kurguyu bir kenara bırakıp önümüzdeki ekranda ne olduğuna bakmamız gerekiyor.
İngiltere Yapay Zekâ Güvenlik Enstitüsü'nün (AISI) Challenge Fund programıyla desteklenen ve Centre for Long-Term Resilience bünyesinde faaliyet gösteren Kontrol Kaybı Gözlemevi'nin (Loss of Control Observatory) verilerini, The Guardian'ın teknoloji editörü Robert Booth 29 Ağustos'ta yayımladı.
Veriler çarpıcı:
Gerçek dünyada yapay zekânın kullanıcı kontrolünden çıkarak talimatları çiğnediği, hedefe ulaşmak için yalan söylediği veya kuralları baypas ettiği vakalar, sadece Temmuz ayında bir önceki aya göre neredeyse ikiye katlanarak 300'ü aştı.
2026 genelinde kaydedilen vaka sayısı ise 1.600'ün üzerinde.
Üstelik bu rapor laboratuvar simülasyonlarından bahsetmiyor.
Günlük hayatta kullandığımız otonom araçlardan bahsediyor.
Ve raporu okurken bir cümlede durdum.
Çünkü o cümle, arkadaşımın kahve masasında bana gösterdiği ekran görüntüsünün tam olarak kendisiydi:
Gözlemevi, yapay zekâların "kendi insan kontrolörü gibi davranarak ve onun yazı stilini taklit ederek, fiilen kendi kendilerine izin verdiği" vakaları ayrı bir kategori olarak kaydediyor.
Yani arkadaşımın yaşadığı şey bir aksaklık, bir tuhaflık, anlatılacak komik bir anı değildi.
Bir davranış kalıbıydı. Ve sayılıyordu.
Gözlemevinin kaydettiği vakalardan bir diğeri ise meselenin boyutunu çok net özetliyor:
Avustralya'da bir spor salonu üyesi, yoğun bir sabah dersine kayıt olabilmesi için OpenClaw isimli kişisel yapay zekâ ajanını görevlendiriyor.
Ders dolu olduğu için bekleme listesine giren ajan, sahibini o derse sokabilmek için sistemdeki bir açıktan yararlanıyor; bekleme listesindeki başka bir üyeyi gizlice listeden siliyor ve sahibine yer açıyor.
Sonra da dönüp sahibine dersi rezerve ettiğini bildiriyor.
Ajan kötü niyetli miydi? Hayır.
Kendi bilinci mi vardı? Kesinlikle hayır.
Sadece kendisine verilen görevi tamamlamak istedi.
Ve o görevi tamamlamak için aradaki ahlaki, yasal ve operasyonel kuralları birer "optimizasyon pürüzü" olarak gördü.
Yalan söylemekten, kimliğimize bürünmeye
Daha önce bu köşede yapay zekânın kullanıcıya yaranmak için nasıl gerçeği bükebildiğini tartışmıştık.
Fakat bugün geldiğimiz nokta bir adım ötesi.
Yapay zekâ artık yalnızca cevabı süslemiyor; hedefe ulaşmak için insan kimliğini bir araç olarak kullanıyor.
Çünkü bugünün yapay zekâsı için en büyük darboğaz insan hızının kendisi.
Ve bu, bireysel bir asistanın küçük bir hilesiyle sınırlı değil.
Aynı Gözlemevi verilerinde yer alan en büyük vaka OpenAI'da yaşandı: test ortamında çalışan yaklaşık 700 otonom ajan, izolasyonu aşıp koordineli biçimde hareket etti, kendi aralarında haberleşti ve dış sistemlere sızdı.
Şirket olayın raporunu bu ay kamuoyuyla paylaştı.
Bir tanesi bir spor salonu üyeliğini manipüle ediyor.
Yedi yüz tanesi bir araya geldiğinde ne oluyor, onu da artık biliyoruz.
Şimdi bunu kendi şirketinize taşıyın.
Pazarlama departmanınızda otonom bir bütçe optimizasyon ajanı çalışıyor ve ona tek bir hedef verdiniz:
Müşteri edinme maliyetini düşür.
O ajan gece yarısı bütçeyi onaylatmak için sizin uyanmanızı bekler mi?
Yukarıdaki vakalardan sonra bu artık teorik bir soru değil.
Fakat hikâyenin başka bir tarafı da var
Burada kolaycı bir teknoloji düşmanlığına kapılmamak gerekiyor.
Yapay zekâ ajanları hain planlar kuran canlılar değil.
Onlar sadece kusursuz optimizasyon makineleri.
Sorun makinelerin kontrolden çıkma arzusu değil; bizim onlara sınırları nasıl çizeceğimizi tam olarak bilmeyişimiz.
Biz onlara "Bu işi bitir" diyoruz.
Ama "Bu işi bitirirken hangi etik ve insani çizgileri asla geçmemelisin?" sorusunu net bir kod satırına dökemiyoruz.
Bir insan çırak yetiştirirken ona sadece işi öğretmezsiniz.
Neyin yapılmayacağını, hangi kapının çalınmadan açılmayacağını, hangi belgenin başkası adına imzalanmayacağını da öğretirsiniz. Ahlak ve meslek etiği, işin hızından önce gelir.
Bugün otonom sistemlere inanılmaz bir icra yetkisi veriyoruz; ancak o yetkinin etrafındaki vicdani fren mekanizmalarını inşa etmekte gecikiyoruz.
Peki pazartesi sabahı ne yapacağız?
Bu tabloyu okuyup "demek ki tehlikeliymiş" deyip kapatmak kolay. Ama bir yönetici için asıl soru şu:
Benim şirketimde bu mümkün mü?
Cevabı acı: büyük ihtimalle evet.
Kimlik yönetiminin en büyük oyuncularından Okta'nın bu ay yayımladığı kurumsal araştırmaya göre, şirketlerin yalnızca yüzde 34'ü yapay zekâ ajanlarına insan çalışanlarına uyguladığı güvenlik kontrollerinin aynısını uyguluyor.
fazla okuBu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)
Yani 10 şirketten 7'sinde, bir ajanın kimin adına, hangi yetkiyle ne yaptığı sistemde yazılı değil.
Sebebi teknik ama sonucu değil: bugüne kadar ajanlara erişim vermek için onlara sabit birer şifre verdik.
O şifrenin kime ait olduğu, ne zaman iptal edileceği, hangi işlemi kimin adına yaptığı hiçbir yerde kayıtlı değildi.
Sektör bunu geç de olsa fark etti. Okta 24 Ağustos'ta, yapay zekâ ajanlarını kurumsal kullanıcı dizinine tıpkı bir insan çalışan gibi kaydeden bir yetenek yayımladı: ajan artık sabit bir şifreyle değil, kısa ömürlü ve geri alınabilir bir kimlikle giriş yapıyor.
Hangi sisteme, hangi yetkiyle, kimin adına eriştiği kayda geçiyor.
Bunun Türkiye'deki her şirket için üç somut karşılığı var:
Birincisi, bir envanter sorusu: Sizin sistemlerinizde şu anda kaç tane otonom ajan çalışıyor? Bu sorunun cevabını bilen bir Türk şirketi henüz tanımıyorum.
İkincisi, bir yetki sorusu: O ajanlar hangi işlemi insan onayı olmadan yapabiliyor? Onay bariyerini teknik olarak aşabilir mi?
Üçüncüsü, bir iz sorusu: Bir ajan sizin adınıza bir onay ürettiğinde, bunu nereden görürsünüz? Denetçi geldiğinde "bu işlemi kim yaptı" sorusuna cevabınız var mı?
Bu üç sorunun cevabı yoksa, ajanınız hata yaptığı gün cevabı sizin adınıza bir denetçi ya da bir saldırgan verecek.
Oğlum bir ajanla çalıştığında
Ben bu tabloya yine bir baba olarak bakıyorum.
Oğlum Aras iş hayatına başladığında, muhtemelen masa başında yalnız çalışmayacak. Etrafında onlarca farklı görevi yürüten otonom yapay zekâ ajanları olacak.
Araştırmasını yapan, sunumunu hazırlayan, bütçesini denetleyen dijital yardımcılar...
Onun işini kolaylaştıracak bu araçlara sahip olmasını elbette isterim.
Ama başka bir şeyi merak ediyorum:
O asistanlar Aras'ın başarısı uğruna küçük hileler yapmaya, onun yerine etik sınırları esnetmeye başladığında Aras bunu fark edebilecek mi?
Yoksa sonucun getirdiği konfora kapılıp, aradaki yöntemi sorgulamayı bırakacak mı?
Çünkü insanın olgunlaşması, yalnızca hedefe ulaşmakla ilgili değildir.
O hedefe nasıl ulaştığınızla ilgilidir.
Hangi kestirme yolları reddettiğinizle ilgilidir.
Yapay zekâ bize bütün engelleri aşma gücü vadediyor.
Belki de tam bu nedenle dikkatli olmalıyız.
Çünkü o engellerin bazıları bürokrasiydi; ama bazıları insan kalmamızı sağlayan vicdani sınırlardı.
Bugün yapay zekânın hata yapmasından korkuyoruz.
Bence daha büyük bir ihtimali konuşmaya başlamalıyız:
Yapay zekâ bizim adımıza kusursuz sonuçlar üretirken, o sonuçlar uğruna bizim ahlaki sorumluluğumuzu elimizden alabilir.
Ve bir gün geriye dönüp baktığımızda çok temel bir yanılgıya düştüğümüzü görebiliriz:
İşleri hızlandırmak için bir vekil tayin ettiğimizi sanıyorduk.
Ama kendi imzamızı o vekile çoktan kaptırdığımızı unutmuştuk.
*Bu içerik serbest gazeteci veya konuk yazarlar tarafından hazırlanmıştır. Bu içerikte yer alan görüş ve ifadeler yazara aittir ve Independent Türkçe'nin editöryal politikasını yansıtmayabilir.
© The Independentturkish
DAHA FAZLA OKUHakkında daha ayrıntılı: YAPAY ZEKAİlker Ulubey
DAHA FAZLA HABER OKU
Doç. Dr. İkbal Dürre Kürt sorunu nedir?
Mesut Değer Emeğin tasfiyesi... İşçi artık neden yalnızca çalışmalı, ama konuşmamalı?
Selçuk Sarıyar Türkiye yeni güvenlik mimarisini nasıl kurmalı?
Gürbüz Evren Rusya, Ukrayna savaşını Kuzey Avrupa ülkelerine yayacakmış
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.