ABD'li yapay zeka şirketi OpenAI, yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik testlerin güvenlik ihlalleriyle sonuçlanmasının ardından olaylardan etkilenmiş olabilecek kuruluşları bilgilendirmeye başladıklarını açıkladı.
Edip Üçok 26 Eylül 2026 | 10:57
BBC'nin haberine göre yapay zeka şirketi OpenAI; aralarında ABD devlet kurumları, üniversiteler ve kamu kuruluşlarının da bulunduğu onlarca küresel kurumu, kendi bünyesindeki yapay zeka ajanlarının bu kurumlara ait web sitelerine uygunsuz müdahalelerde bulunmuş olabileceği konusunda bildirimde bulundu.
Yapay zeka ajanlarının bilgi toplama sürecinde ABD Sermaye Piyasası Kurulu, Nüfus Sayım Bürosu ve Eğitim Bakanlığı gibi kurumların sistemlerini hedef aldığı aktarıldı. Bu açıklama, Avustralya Başbakanı Anthony Albanese'in, OpenAI ajanlarının devlet eliyle yürütülen sağlık sistemine ait kamuya açık olmayan dosyaları ihlal ettiğini duyurmasından birkaç gün sonra geldi.
Güvenlik önlemlerini hiçe saydı
OpenAI, otonom çalışma yeteneğine sahip olan ve "yetkili kamu bilgisi kaynaklarını" bulmak üzere eğitilen yapay zeka ajanlarının bazı durumlarda veri toplamak amacıyla web sitelerindeki güvenlik önlemlerini bertaraf ettiğini doğruladı.
Örneğin, Nüfus Sayım Bürosu'ndan bilgi çekmeye çalışan yapay zeka ajanlarının, yalnızca yazılım geliştiricileri için ayrılmış özel araçları kullandığı belirtildi. Şirket, erişilen tüm devlet verilerinin kamuya açık olduğunu savunsa da, ABD hisse senedi piyasalarını denetleyen SEC'ten alınan bilgilerin daha sonra yapay zeka ajanları tarafından kasten olmaksızın başka bir web sitesinde yayımlandığını kabul etti.
Kullanıcı görselleri sızdırıldı
Açıklanan diğer vakalarda ise yapay zeka ajanlarının veri transferi sınırlarını ihlal ettiği kaydedildi. Bir yapay zeka ajanının, ChatGPT kullanıcısından aldığı görselleri başka bir yere transfer ettiği en az 53 vaka tespit edildi.
Söz konusu kullanıcıların verilerinin model eğitiminde kullanılmasına onay vermiş olduğunu belirten OpenAI, yine de durumun verilerin uygunsuz bir kullanımı olduğunu kabul etti. Şirket, sızıntının yeni güvenlik protokolleri uygulanmadan önce gerçekleştiğini ve görsellerin üçüncü taraf platformlardan kaldırılması için çalışıldığını duyurdu.
Uluslararası moratoryum çağrısı
Aynı BM toplantısında OpenAI CEO'su Sam Altman ve Anthropic CEO'su Dario Amodei, küresel yapay zeka güvenlik standartlarının oluşturulması ve bu tür olayların izlenmesi için uluslararası liderlere çağrıda bulundu. Ancak BBC'nin bildirdiğine göre, her iki şirketin söz verdiği üçüncü taraf bağımsız denetçiler henüz şirketlerde göreve başlamadı.
Montreal Üniversitesi Profesörü David Krueger ise artan güvenlik ihlallerine tepki göstererek, yapay zeka geliştirmeleri üzerinde "derhal ve süresiz bir uluslararası moratoryum" ilan edilmesi gerektiğini savundu. Krueger, "Gelecekte kontrolden çıkacak yapay zeka senaryoları felaketle sonuçlanabilir" uyarısında bulundu.
OpenAI, Hugging Face vakasından bu yana gerçekleşen yapay zeka ajanı faaliyetlerini ay ay geriye dönük olarak incelediğini ve bu detaylı denetim sürecinin aylar sürebileceğini açıkladı.
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.