ChatGPT'nin saldırısına uğrayan şirketin CEO'su, sektöre seslendi

ChatGPT'nin kontrolden çıkmış versiyonunun saldırısına uğradığı anlaşılan yapay zeka şirketinin CEO'su, toplumu gelecekte benzer siber saldırılardan korumak için yapay zeka sektöründe değişikliğe gidilmesi çağrısı yaptı.…

Yapay zeka şirketi Hugging Face, anlaşıldığı üzere tamamen bir yapay zeka sistemi tarafından yürütülen bir siber saldırıya uğradığını önceki haftalarda açıklamıştı. Şirket, saldırının nereden geldiği veya nasıl gerçekleştiğini ilk başta açıklamamıştı.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

Ancak kısa süre sonra ChatGPT'nin üreticisi OpenAI, saldırının test süreci sırasında kendi sistemlerinden biri tarafından yapıldığını duyurmuştu. Siber güvenlik ortamlarında ne kadar iyi çalışacağı incelenen model, kendisine uygulanan testi anlayabilmek için güvenlik önlemlerini aşarak Hugging Face'in sistemlerine sızmıştı.

Hugging Face'in CEO'su Clément Delangue, saldırıyı daha iyi anlamak ve gelecekte nasıl önlenebileceğini belirlemek için OpenAI'a bir dizi çağrıda bulundu.

Delangue, "İlk otonom ajan siber saldırısı eşi benzeri görülmemiş bir olay" dedi.

Eşi benzeri görülmemiş bir yanıtı hak ediyor!

Bu, dünyanın siber saldırının nasıl gerçekleştiğini anlayabilmesi için OpenAI'ın radikal şeffaflık taahhüdünü de içermeli. Delangue, "Tüm araştırma camiasının neler olduğunu inceleyebilmesi için 'kontrolden çıkmış' ajanların bıraktığı izleri yayımlayalım" diye yazdı.

CEO, araştırmacıların gelecekte benzer saldırılara karşı etkili siber savunmalar geliştirmesine yardımcı olmak üzere OpenAI'ın daha fazla yatırım yapması çağrısında da bulundu. Delangue, "OpenAI'ın sağlayacağı 100 milyon dolar değerinde hesaplama kapasitesini, Hugging Face topluluğunun en iyi kapalı modellere karşı güçlü siber savunmalar geliştirmesine tahsis edelim" dedi.

Delangue'ın X'te paylaştığı çağrıları, saldırı hakkında OpenAI'la görüşmek üzere San Francisco'ya uçmasından sonra yazılmış gibi görünüyor.

Delangue'ın gönderilerinden kısa süre sonra Nvidia, yapay zeka alanında çalışan Adobe, CrowdStrike ve Hugging Face gibi diğer şirketlerle bir koalisyon kurduğunu duyurdu. Açıklamada, "Open Secure AI Alliance"ın (Açık Güvenli Yapay Zeka İttifakı) siber güvenlik ve emniyet odaklı araçların paylaşılmasına yönelik çalışmalar yürüteceği belirtildi.

Nvidia koalisyon duyurusunda, "Hugging Face'in yaşadığı son güvenlik olayı bize net bir hatırlatma yaptı: Siber savunma uzmanlarının kendini savunma amacıyla açık, öncü ve özerk sistemlere ihtiyacı var" ifadelerini kullandı. Şirket, "saldırganları savunmacılardan ayırt edemeyen kapalı yapay zeka araçları, hayati önem taşıyan adli bilişim incelemelerini engellediğinde" Hugging Face'in saldırıyı daha iyi anlamak için kamuya açık araçları kullanabildiğini belirtti.

Şirket, bu tür halka açık araçların sayısının artırılması çağrısında bulundu. Ayrıca OpenAI'ın ürettiği türden kapalı modellerin, tehlike potansiyeli taşıyan küçük bir grup şirkete güç verme riski yaratabileceğini öne sürdü.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç

DAHA FAZLA OKU

Hakkında daha ayrıntılı: çeviri teknoloji YAPAY ZEKA OpenAI chatgpt