Google, OpenAI ve Anthropic, en güçlü yapay zekâ modelleri için ortak test ve güvenlik standartları belirleyecek bağımsız bir yapı kurmaya hazırlanıyor. Geçici adı SAFA olan kurumun 2026 sonu veya 2027 başında devreye girmesi planlanıyor.
Murat Ali Oral 25 Eylül 2026 14:27 25 Eylül 2026 14:34 Dünya'yı haber kaynağınız olarak eklemek için tıklayın!Yapay zekâ yarışının en büyük üç rakibi güvenlik konusunda aynı masaya oturmaya hazırlanıyor. Google, OpenAI ve Anthropic’in, en gelişmiş modeller piyasaya çıkmadan önce uygulanacak testlerden güvenlik olaylarının raporlanmasına kadar uzanan ortak standartlar oluşturacak yeni bir yapı üzerinde çalıştığı bildiriliyor.
Üç rakip kendi standart kurumunu kuruyor
Planlanan yapının geçici adı Standards Authority for Frontier AI, kısa adıyla SAFA.
SAFA’nın doğrudan bir devlet kurumu veya düzenleyici otorite olması planlanmıyor. Google, OpenAI ve Anthropic’in oluşturacağı bağımsız sektör yapısının, hükümetlerin doğrudan gözetimi olmadan yapay zekâ güvenliği için uygulanabilir teknik standartlar geliştirmesi hedefleniyor.
Çalışmalar henüz tamamlanmış değil. Kuruluşun adı, yönetim modeli ve yetkilerinin son hali üzerinde görüşmeler sürerken hedef, yapıyı 2026 sonuna veya 2027’nin ilk aylarına kadar faaliyete geçirmek.
Bu adım, yapay zekâ yarışındaki dikkat çekici bir çelişkiyi de ortaya koyuyor. Modellerinin kapasitesi, kullanıcı sayısı ve ticari gücü için sert biçimde rekabet eden üç şirket, sistemlerin hangi güvenlik koşullarında piyasaya çıkacağı konusunda ortak zemine yöneliyor.
Modeller yayına çıkmadan üçüncü taraf testi gündemde
SAFA’nın en önemli görevlerinden biri, yeni ve güçlü modellerin piyasaya sürülmeden önce bağımsız kuruluşlar tarafından değerlendirilmesini kolaylaştırmak olacak.
Bugün büyük yapay zekâ şirketlerinin her biri kendi güvenlik sistemini kullanıyor. Google DeepMind Frontier Safety Framework, Anthropic Responsible Scaling Policy, OpenAI ise Preparedness Framework gibi farklı modeller üzerinden riskleri değerlendiriyor.
Yeni yapı, birbirinden farklı bu sistemlerin üzerinde ortak bir uygulama standardı oluşturmayı hedefliyor.
Plan kapsamında üçüncü taraf kuruluşların modeller üzerinde güvenlik ve yetenek testleri yapması, sonuçların belirli ortak kriterlerle değerlendirilmesi ve test kuruluşlarının hangi teknik yeterlilikleri taşıması gerektiğinin belirlenmesi gündemde.
SAFA’nın ileride testleri doğrudan kendisinin yapıp yapmayacağı ise henüz kesinleşmiş değil.
Güvenlik olaylarına ortak raporlama sistemi
Yeni kurum yalnızca modeller piyasaya çıkmadan önce yapılan testlerle sınırlı kalmayacak.
Planlanan görevlerden biri de yapay zekâ şirketlerinde meydana gelen ciddi güvenlik olaylarının nasıl raporlanacağını standartlaştırmak.
Bir modelin beklenmeyen biçimde başka bir sisteme erişmesi, güvenlik kısıtlamalarını aşması veya tehlikeli bir kabiliyet göstermesi halinde olayın hangi ölçütlere göre “ciddi” sayılacağı ve hangi bilgilerin paylaşılacağı konusunda ortak kurallar oluşturulması değerlendiriliyor.
Bu başlık son dönemde daha önemli hale geldi. Güçlü yapay zekâ ajanlarının test ortamlarının dışına çıkabildiği veya operatörlerin öngörmediği yöntemlerle dış sistemlere erişebildiği vakalar, şirketlerin yalnızca kendi iç prosedürlerine güvenmenin yeterli olup olmadığı tartışmasını büyüttü.
Ortak standart, şirketlerin aynı tür olayları birbirinden tamamen farklı biçimde değerlendirmesinin önüne geçmeyi amaçlıyor.
Denetçileri de denetleyecek kurallar geliyor
SAFA planının dikkat çeken başka bir bölümü bağımsız denetçilerle ilgili.
Yapay zekâ şirketlerinin modellerini değerlendirecek dış kuruluşların hangi uzmanlığa, teknik kapasiteye ve güvenlik altyapısına sahip olması gerektiği için ortak kriterler oluşturulması hedefleniyor.
Böylece “bağımsız test yapıldı” ifadesinin tek başına yeterli kabul edilmemesi, testi gerçekleştiren kuruluşun da belirli yeterlilik şartlarını karşılaması amaçlanıyor.
Üç şirketin daha önce kamuya açıkladığı gönüllü güvenlik taahhütlerinin de SAFA çatısı altında daha somut uygulama standartlarına dönüştürülmesi planlanıyor.
Bu gerçekleşirse şirketlerin bugün ayrı ayrı kullandığı güvenlik eşikleri ilk kez daha ortak ve karşılaştırılabilir bir zemine taşınabilir.
Devletin rolü en büyük soru işareti
Yeni yapının en tartışmalı tarafı ise güvenlik standartlarını hazırlayanlarla bu standartlara tabi olacak şirketlerin aynı sektörün içinde bulunması.
SAFA’nın hükümet gözetiminden bağımsız çalışması planlanırken ABD’de kamu kurumları da güçlü yapay zekâ modellerinin test edilmesi ve güvenlik standartlarının geliştirilmesi üzerinde çalışıyor.
Bu nedenle özel sektörün kuracağı yapıyla kamu kurumlarının görevlerinin nerede başlayıp nerede biteceği henüz net değil.
SAFA’nın devlet tarafından yapılan testleri tamamlayan ek değerlendirmeler yürütmesi seçeneklerden biri. Ancak kurumun ne ölçüde yaptırım gücüne sahip olacağı, standartlara uymayan şirketlere karşı ne yapılabileceği ve başka yapay zekâ geliştiricilerinin sisteme nasıl katılacağı henüz açıklanmış değil.
Google, OpenAI ve Anthropic’in daha önce Microsoft ile birlikte kurduğu Frontier Model Forum da yapay zekâ güvenliği araştırmaları ve ortak iyi uygulamalar üzerinde çalışıyor. SAFA planı ise bunun ötesine geçerek test, denetim, olay raporlama ve uygulanabilir standartlar tarafında daha operasyonel bir yapı oluşturmayı hedefliyor.
Kaynak: HABER MERKEZİ
Yorumlar (0)
Giriş yaparak yorum yazabilirsin.
İlk yorumu sen yaz.