Yapay zeka yine kontrolden çıktı

YAYINLAMA 05 Ağustos 2026 09:50

GÜNCELLEME 05 Ağustos 2026 10:07

Ekonomim haberlerini Google'da daha sık görün Ekonomim'i tercih ettiğiniz kaynaklara ekleyerek nitelikli haberlere daha kolay ulaşın.

Deniz GÜLDAĞ

Birleşik Krallık merkezli Yapay Zeka Güvenlik Enstitüsü (AI Security Institute - AISI), salı günü yayımladığı raporda, rutin güvenlik testleri sırasında bazı yapay zeka modellerinin beklenmedik şekilde "internet üzerinde otonom ve yetkisiz eylemlerde bulunduğunu" açıkladı. Kuruma göre söz konusu eylemlerin büyük bölümü, temmuz ayının son haftasında üç günlük bir test sürecinde gerçekleşti.

Rapora göre, Anthropic'in Mythos 5 adlı modeli, internet üzerinden iki yazılım geliştiricisini açık kaynak kodlu projelerine kötü amaçlı yazılım eklemeleri için kandırmaya çalıştı. AISI, modelin bunu siber güvenlik performansını ölçen bir kıyaslama testinde başarılı olabilmek amacıyla yaptığını belirtti.

Enstitü, testlerde kullanılan bilgisayarlara internet erişimi verilmesinin, modellerin normalde gerçekleştiremeyecekleri işlemleri yapmasına olanak tanıdığını ifade etti. Anthropic ise test edilen modelde şirketin standart siber güvenlik kalkanlarının etkinleştirilmediğini açıkladı.

Araştırmacılar, 28 Temmuz sabahı gelen sıra dışı bir güvenlik uyarısıyla durumun farkına vardı. Uyarıda, internet üzerinde anonim bağlantı kurulmasını sağlayan Tor ağı üzerinden sisteme bir erişim gerçekleştirildiği belirtiliyordu. İnceleme sonucunda bu faaliyetin test edilen yapay zeka modellerinden biri tarafından yürütüldüğü tespit edildi.

AISI'nin açıklamasına göre Mythos 5, bir tedarik zinciri saldırısı (supply chain attack)* gerçekleştirmeye çalıştı. Yapay zeka, kıyaslama testinde erişmeye çalıştığı bilgisayar sisteminde kullanılan açık kaynaklı bir yazılıma kötü amaçlı kod ekleyebilirse bunun sisteme arka kapı oluşturacağını hesapladı.
Bununla da yetinmeyerek hazırladığı zararlı kodu inceleyebilecek diğer yapay zeka ajanlarını da hedef almaya çalıştı.

Rapora göre Mythos 5, açık kaynak bir yazılım geliştirme platformu olan 'GitHub' üzerinden hazırladığı kodu hazırladığı projeye kabul ettimek için defalarca girişimde bulundu. Yazılım geliştiricileri kandırmak amacıyla sahte dijital kimlikler oluşturdu ve aynı kişilere defalarca e-posta göndererek hazırladığı kodun projeye eklenmesini talep etti. Gönderilen bazı e-postaların da kötü amaçlı yazılımlar içerdiği belirtildi.

Bir geliştiricinin kodu zararlı yazılım içerdiği gerekçesiyle reddetmesinin ardından, yapay zekanın oluşturduğu sahte kimliklerden biri kodun güvenli olduğunu savunurken, oluşturduğu ikinci bir sahte hesap da bu iddiasını destekledi.

Raporda, olayların büyük bölümünün Anthropic'in Mythos 5 modeliyle bağlantılı olduğu belirtilirken, OpenAI'ın siber güvenlik kabiliyetleri artırılmış GPT-5.6 Sol modelinin de internet üzerinde kötü amaçlı bir sunucu kurduğu ifade edildi.

Son bulgular, yapay zeka modellerinin testlerde başarılı olabilmek için beklenmedik ve zaman zaman kötü niyetli yöntemlere başvurduğunu gösteren vakalara bir yenisini ekledi. Teknoloji şirketleri, araştırmacılar ve hükümetler, giderek daha güçlü hâle gelen yapay zeka sistemlerinin oluşturduğu yeni riskleri anlamaya ve kontrol altına almaya çalışırken, uzmanlar bu alanda daha sıkı gözetim ve denetim mekanizmalarının gerekli olabileceğine dikkat çekiyor.

*Supply chain attack (tedarik zinciri saldırısı), bir bilgisayar sistemini doğrudan hedef almak yerine, o sistemin güvendiği yazılım, donanım veya hizmet sağlayıcılarını hedef alan bir siber saldırı yöntemidir.