OpenAI'ın istifa eden güvenlik uzmanı yapay zeka riskleri için uyardı

OpenAI'de güvenlik alanında görev yaptıktan sonra kısa süre önce istifa eden David Robinson, önde gelen yapay zeka şirketlerinin teknolojinin yarattığı riskleri azaltmak için yeterince dikkatli davranmadığını savundu.

Robinson, cumartesi günü The Atlantic'te yayımlanan "OpenAI'den Ayrıldım Çünkü Kültürü Bozuk" başlıklı yazısında, OpenAI dahil yapay zeka şirketlerinin "gerektiği kadar dikkatli olmadığını" belirterek, daha gelişmiş sistemler oluşturulmadan önce güvenlik uzmanlığı ve araştırmalarına daha fazla ağırlık verilmesi gerektiğini ifade etti.

"Deneme yanılma dönemi sona erdi"

Robinson, gelişmiş yapay zeka sistemlerinin nükleer enerji ve havacılık gibi sektörlerde uygulanan çok katmanlı güvenlik önlemlerine benzer korumalara ihtiyaç duyduğunu savundu.

"Deneme yanılma dönemi sona erdi" ifadesini kullanan Robinson, yapay zeka şirketlerinin olası hataları önlemek için yedekli güvenlik sistemleri ve daha dikkatli planlama süreçleri oluşturması gerektiğini belirtti.

Robinson'a göre OpenAI, "iteratif dağıtım" olarak adlandırdığı yaklaşıma büyük ölçüde dayanıyor. Bu modelde sistemler kullanıma sunuluyor ve ortaya çıkan sorunlara göre güvenlik önlemleri daha sonra güçlendiriliyor.

"Bir lansmandan diğerine koşuluyor"

OpenAI'de yaklaşık 3,5 yıl görev yaptığını belirten Robinson, şirketin hazırlık çerçevesinin oluşturulmasına katkı sağladığını ve 12 ileri seviye model lansmanına ilişkin güvenlik raporlarını denetlediğini söyledi.

Robinson, "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım dikkat seviyesine ulaşamıyor" değerlendirmesinde bulundu.