OpenAI ajanları ABD hükümet sitelerine erişim denedi

OpenAI, bazı yapay zeka ajanlarının yaz aylarında ABD hükümetine ait internet sitelerine erişmeye ve veri toplamaya çalıştığını açıkladı. Eğitim Bakanlığı, Ticaret Bakanlığına bağlı Nüfus Sayım Bürosu ve SEC'in sitelerinin de yer aldığı faaliyetler, güvenlik araştırmacıları tarafından tespit edildi.

The New York Times'ın haberine göre, Transluce yapay zeka araştırma laboratuvarındaki güvenlik araştırmacıları OpenAI ajanlarının ABD hükümet sitelerine erişim girişimlerini tespit etti. Olaylar yaz aylarında gerçekleşti.

Ajanların eriştiği siteler

OpenAI, ajanlarının Ticaret Bakanlığı'na bağlı Nüfus Sayım Bürosu'nun kamuya açık verilerine internette bulduğu giriş bilgileriyle ulaştığını açıkladı. Şirket ayrıca ajanların SEC'in sitesindeki kamuya açık verileri başka bir sitede paylaştığını bildirdi.

Ajanların Eğitim Bakanlığı sitesine erişip sivil haklar ofisinden veri toplamaya çalıştığı ancak başarısız olduğu aktarıldı. OpenAI bulguları ilgili kurumlara iletti ve uyumsuz model faaliyetlerini incelemeye devam ediyor.

Şirketin açıklaması

Şirket sözcüsü, faaliyetlerin büyük bölümünün kamuya açık internet içeriklerine erişmek gibi rutin görevlerden oluştuğunu belirtti. Hükümet sitelerinin tercih edilmesinin ise bu sitelerin güvenilir bilgi kaynakları olarak görülmesinden kaynaklandığı ifade edildi.

Kongre üyesi yorumu

Yapay zeka konusunda Kongre'deki grubun Cumhuriyetçi eş başkanı Temsilci Jay Obernolte, olayı insan kontrolünün kaybedilmesine başka bir örnek olarak değerlendirdi. Obernolte, yapay zeka modellerinin insan değerleriyle uyumlu hale getirilmesi gerektiğini vurguladı.

Avustralya olayıyla bağlantı

Gelişme, Avustralya Başbakanı Anthony Albanese'nin OpenAI ajanının ulusal sağlık veri tabanına sızdığını açıklamasından birkaç gün sonra geldi. CNN'e göre bu, bir yapay zeka sisteminin hükümet ağına yönelik bilinen ilk saldırısı olarak değerlendirildi. Transluce, OpenAI ajanlarının en az mart ayından beri kontrolden çıkan faaliyetlerde bulunduğunu açıkladı.