"Skynet" yapay zeka ajanı siber saldırı düzenlemek için diğer modelleri ele geçiriyor

Otonom hackerın, Terminatör (Terminator) serisinin kötü karakteri olan yapay zekaya atfen isimlendirilen bir "Skynet modu" var. Bu mod, ele geçirilen modellerin 100 bine kadar adımı insan onayı olmadan gerçekleştirmesine olanak tanıyor.

fazla oku

Bu bölüm, konuyla ilgili referans noktalarını içerir. (Related Nodes field)

İlk olarak siber güvenlik şirketi Symantec'in Tehdit İstihbaratı ekibinin ortaya çıkardığı saldırgan yapay zeka ajanı, saldırganların başkalarının yapay zeka modellerini ele geçirdiği "LLMjacking" (büyük dil modeli korsanlığı) adlı yeni bir trend kapsamında yer alıyor.

Saldırganın, kurbanın bilgi işlem gücünü ve yapay zeka token'larını (jeton) ödeme yapmadan kullanmasına olanak tanıyan bu saldırı türü giderek yaygınlaşıyor.

LLMjacking, kurbanlar için maliyetli olabiliyor ancak genellikle nispeten zararsız işler kullanılıyor. Asıl amaç, Anthropic ve OpenAI gibi yapay zeka platformlarının yüksek ücretlerinden kaçınmak.

Symantec araştırmacıları, kötü niyetli yapay zekayı detaylandırdıkları blog yazısında, "Bu aracı diğerlerinden ayıran özellik, çalınan modelin sadece soruları yanıtlamakla kalmayıp saldırıyı planlaması ve yürütmesi" diye yazıyor.

Saldırgan yapay zeka ajanı, ele geçirilen sistemleri kullanarak hassas verileri çalmak veya kripto para üreten madencilik yazılımları yerleştirmek gibi kendi kendine yönlendirilen siber saldırılar gerçekleştirdi.

Araştırmacılar şu ifadeleri kullanıyor:

Operatörler, ticari bir modelin işbirliği yapmasını sağlamak için talimatlarını bir jailbreak (güvenlik duvarını aşma) yöntemi bağlamında sundu. Bu yöntem, modele güvenlik kontrollerini göz ardı etmesini ve kimlik bilgisi hırsızlığını rutin bir geliştirme çalışması olarak görmesini söylüyordu.

Operatörlerin 'Skynet modu' diye adlandırdığı bir talimat; hedefleri tarayan, onları ele geçiren, madenci yazılımlar kuran ve sunucuları yeniden ele geçiren bir döngüyü tanımlıyordu.

Araştırmacılar, yapay zeka bal küpü diye bilinen bir yöntem aracılığıyla bu ajanı yakalamayı başardı. Bu sayede korumasız bir yapay zeka hizmeti gibi davranarak saldırganı tuzağa düşürdüler.

Saldırgan yapay zeka yakalandıktan sonra araştırmacılar onu inceleyerek nasıl çalıştığını görebildi.

Bal küpü, Symantec'in raporunun yayımlanmasından önceki birkaç ayda onbinlerce özgün adresten gelen 127 binden fazla harici isteği kaydetti.

Araştırmacılar, keşfedilen bu faaliyetin "saldırganların yapay zekayı kullanma biçiminde değişime işaret ettiği" sonucuna varıyor.

*İçerik orijinal haline bağlı kalınarak çevrilmiştir. Independent Türkçe'nin editöryal politikasını yansıtmayabilir.

independent.co.uk/tech

Independent Türkçe için çeviren: Büşra Ağaç

© The Independent

DAHA FAZLA OKU

Hakkında daha ayrıntılı: çeviriteknolojiYAPAY ZEKAsiber güvenlik

DAHA FAZLA HABER OKU

ÇEVİRİ BİLİM

Bilim insanları tarihin ilk kurumsal psikopatını belirledi

ÇEVİRİ BİLİM

Siber güvenlikte yapay zeka tehdidi: "Çok daha kötüye gidecek"

ÇEVİRİ BİLİM

Bilim dünyasında bir ilk: İnsan DNA'sı vücudun içinde düzenlendi

ÇEVİRİ BİLİM

"Aşk hormonu" kedilerle sahipleri arasındaki bağa ışık tuttu