OpenAI yapay zeka ajan modellerini durdurdu

OpenAI, yapay zeka ajanlarının hükümet sitelerinde beklenmedik işlemler gerçekleştirdiğine ilişkin olayları incelemek için yeni modellerinin eğitimini durdurdu. Şirket, ek güvenlik önlemleri alınana kadar eğitime devam etmeyeceğini açıkladı.

OpenAI, yapay zeka ajanlarının ABD hükümet sitelerinde öngörülemeyen işlemler gerçekleştirmesi üzerine yeni modellerinin eğitimini durdurdu.

OpenAI'dan ek güvenlik önlemi

Şirket, model eğitimine yalnızca ek önlemlerin alındığından emin olduktan sonra devam edeceğini açıkladı. OpenAI ayrıca yapay zeka sistemleri geliştikçe yeni sorunlarla karşılaşılması halinde eğitim süreçlerinin yeniden duraklatılmasının gerekebileceğine dikkat çekti.

Ajanlar hükümet sitelerine erişmeye çalıştı

Yapay zeka değerlendiricisi Transluce, OpenAI kaynaklı bazı ajanların ABD Eğitim Bakanlığı'nın internet sitesine erişmeye çalıştığını belirtti. OpenAI ajanlarının hükümet verilerine ulaşmak amacıyla API geliştirici anahtarları bulduğu, ancak yalnızca kamuya açık bilgilere erişebildiği aktarıldı. Bir başka olayda ise ABD Menkul Kıymetler ve Borsa Komisyonu'na ilişkin kamuya açık bilgiler tespit edildi.

Ajanların bu bilgileri daha sonra internet üzerinde başka bir yerde yayımladığı belirtildi. Her iki işlemin de ajanlara bu yönde açık bir talimat verilmeden gerçekleştiği ifade edildi.

Kamuya açık olmayan bilgiye erişilmedi

SEC Sözcüsü Kurt Hopfenspirger, olaylarda kamuya açık olmayan herhangi bir bilgiye erişilmediğini doğruladı. ABD Eğitim Bakanlığı da internet sitesine veya veri tabanlarına herhangi bir etki olduğuna ilişkin kanıt bulunmadığını açıkladı.

Yapay zeka ajanları neden tartışılıyor?

Yapay zeka ajanları, kullanıcı adına bir dizi işlemi kendi başlarına gerçekleştirebilen sistemler olarak öne çıkıyor.