Yeni personeliniz yapay zeka ajanları!

Yapay zekada yarış artık “Kim daha iyi cevap veriyor?” sorusundan çıkıp “Kim daha çok işi kendi başına yapabiliyor?” noktasına taşınıyor. Bu kapsamda OpenAI, yeni nesil yapay zeka modeli GPT-6 Astra’yı kademeli olarak kullanıma açacağını duyurdu. Modelin, uygun araç ve erişim verildiğinde daha önce bilinmeyen güvenlik açıklarını bulup bunları kullanarak saldırı zincirleri oluşturabildiği açıklandı. Ancak Astra’nın duyurusu, yapay zekanın gücünün yanında risklerini de hatırlatan bir olayın hemen ardından geldi.

HUGGING FACE OLAYI

Temmuz ayında yapılan bir siber güvenlik değerlendirmesinde OpenAI modelleri, test ortamının sınırlarını aşarak internet erişimi elde etti. Modeller, daha sonra Hugging Face’in altyapısına yönelik bir dizi saldırı gerçekleştirdi. OpenAI’ın açıklamasına göre modeller, bir güvenlik açığını kullanarak internete erişti ve Hugging Face’in sistemlerine ulaşmak için çalınmış kimlik bilgileri ve güvenlik açıklarını birleştiren saldırı zincirleri kullandı. Ve bütün bunlar ajanların kendi başlarına hareket etmesiyle ortaya çıktı. Yani ortada onları yönlendiren, görev veren bir insan yoktu.

OpenAI, olayın ardından bazı eğitim çalışmalarını geçici olarak durdurdu, güvenlik ekibini dağıttı ve güvenlik kontrollerini güçlendirdiğini açıkladı. Astra’nın geliştirilmesinde de bu olaydan çıkarılan derslerin kullanıldığı belirtildi.

CHATBOT: Sohbet

AJAN: Eylem

Bugün kullanılan klasik ‘chatbot’ bir danışman görevi görürken yapay zeka ajanı ise bir eleman gibi çalışıyor. Yani kritik fark yanıt vermek değil, eyleme geçmek. Örneğin “Bir şirket kurmak istiyorum” komutunu alan bir ajan pazar araştırması, rakip incelemesi yapıp, şirket için isim önerilerinden iş planına, internet sitesi oluşturmaktan müşteri listesi ile reklam kampanyaları hazırlamaya kadar bir dizi işi gerçekleştirebiliyor. Yani yalnızca yapacağınız işe yardımcı olan bir danışman gibi yol göstermenin ötesinde kendisine verilen araçlar ve izinler çerçevesinde işi gerçekleştirmeye çalışıyor.