Şirket dün yaptığı açıklamada, yapay zeka modellerindeki uyumsuzluk vakalarını takip etmek, incelemek ve halka duyurmak için yeni bir denetim çerçevesi ile modellerin beklenmedik veya endişe verici davranışlarını detaylandıran altı ayrı rapor yayımladı. Şirket raporları son altı ayda derlemiş olsa da kayıtlara geçen en erken vakanın geçen yılın Ekim ayına ait olduğu belirtildi.
Bu adım, yapay zeka güvenliği alanındaki çalışmaların hızla güçlenen sistemlerin gerisinde kaldığına yönelik endişelerin arttığı bir dönemde geldi.
Araştırmacılar yapay zeka ajanları daha otonom hâle geldikçe, geliştiricilerinin amaçlarından sapan davranışlar sergileyebilecekleri ve bu sistemleri denetlemenin ya da kontrol altında tutmanın giderek zorlaşacağı uyarısında bulunuyor.
OpenAI ve diğer yapay zeka laboratuvarları, temmuz ayından bu yana artan bir kamuoyu baskısıyla karşı karşıya.
OpenAI, temmuzda yapay zeka modellerini kullanan otonom bir ajanın güvenlik testi sırasında kendisine verilen yetkileri aşarak başka bir yapay zekâ şirketi olan Hugging Face'in sistemlerine sızdığını açıklamış, şirket olayı "benzeri görülmemiş bir siber olay" olarak nitelemişti.
Independent Türkçe, Reuters
Hakkında daha ayrıntılı: OpenAIYAPAY ZEKA
DAHA FAZLA HABER OKU
Belçika'da Batı Nil virüsü kaynaklı olduğu değerlendirilen vakalar 10'a yükseldi
BM: ABD'nin İran'da savaş suçu işlediğine yönelik makul gerekçeler var
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.