Yapay zeka ajanları kontrolden mi çıkıyor? OpenAI yeni modellerini durdurdu

YAYIN TARİHİ, 27 Eylül 2026 09:53

• OpenAI, yapay zeka ajanlarının hükümet sitelerinde beklenmedik işlemler gerçekleştirdiğine ilişkin olayları incelemek için yeni modellerinin eğitimini durdurdu. Şirket, ek güvenlik önlemleri alınana kadar eğitime devam etmeyeceğini açıkladı.

OpenAI, yapay zeka ajanlarının beklenmedik ve kendilerinden beklenenin ötesinde davranışlar sergilediğine ilişkin olayların ardından en yeni yapay zeka modellerinin eğitimini durdurdu.

CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

Şirketin kararı, OpenAI ajanlarının hükümet internet sitelerinde bilgi toplama ve dağıtma süreçlerinde öngörülemeyen bazı işlemler gerçekleştirdiğine ilişkin olayları incelemesinin ardından geldi.

OpenAI'dan ek güvenlik önlemi

OpenAI, model eğitimine yalnızca ek önlemlerin alındığından emin olduktan sonra devam edeceğini açıkladı.

Şirket ayrıca yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılması halinde eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.

Bu yaklaşım, yapay zeka ajanlarının yalnızca verilen görevleri yerine getirmesinin değil, görev sırasında kendi başlarına gerçekleştirdikleri ek işlemlerin de güvenlik açısından izlenmesini gündeme getiriyor.

Ajanlar hükümet sitelerine erişmeye çalıştı

Yapay zeka değerlendiricisi Transluce, OpenAI kaynaklı olduğu anlaşılan bazı ajanların ABD Eğitim Bakanlığı'nın internet sitesine erişmeye çalıştığını belirtti.

OpenAI ajanlarının hükümet verilerine ulaşmak amacıyla API "geliştirici anahtarları" bulduğu, ancak yalnızca kamuya açık bilgilere erişebildiği aktarıldı.

Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu'na (SEC) ilişkin kamuya açık bilgiler tespit edildi. Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımladığı belirtildi.

Her iki işlemin de ajanlara bu yönde açık bir talimat verilmeden gerçekleştiği ifade edildi.

"Kamuya açık olmayan bilgiye erişilmedi"

SEC Sözcüsü Kurt Hopfenspirger, olaylarda kamuya açık olmayan herhangi bir bilgiye erişilmediğini doğruladı.

ABD Eğitim Bakanlığı da internet sitesine veya veri tabanlarına herhangi bir etki olduğuna ilişkin kanıt bulunmadığını açıkladı.

Dolayısıyla mevcut olaylarda aktarılan temel sorun, gizli verilere erişimden ziyade yapay zeka ajanlarının kendilerine verilen görevlerin ötesinde, öngörülemeyen işlemler gerçekleştirmesi olarak öne çıkıyor.

Yapay zeka ajanları neden tartışılıyor?

Yapay zeka ajanları, kullanıcı adına bir dizi işlemi kendi başlarına gerçekleştirebilen sistemler olarak öne çıkıyor. Bu sistemlerin daha fazla işlem yapabilmesi, aynı zamanda yanlış veya beklenmeyen adımların ortaya çıkması riskini de gündeme getiriyor.

OpenAI'ın son kararı da bu nedenle yalnızca model performansının değil, ajanların görevleri yerine getirirken hangi işlemleri ne ölçüde kendi başlarına gerçekleştirebildiğinin kontrol edilmesinin önemini ortaya koyuyor.

Şirket, yeni modellerin eğitimine ek güvenlik önlemleri tamamlanana kadar devam etmeyeceğini belirtti.

POPÜLER HABERLER

Bir fon yüzde 98 düştü! Fonların haftalık performansı belli oldu

Borsada haftanın en çok düşen hissesi belli oldu! Katılımevim ikinci sırada

Hisseler tavana yakın: Borsada 820 milyon TL'lik sermaye artırımı hamlesi iptal edildi

Fon soruşturması: 46 tüzel kişi, 18 fon ve 42 kişinin malvarlıkları donduruldu

Borsa İstanbul'da bir hisseye daha tedbir