Ai Agent Güvenliği

Google, 18 Eylül 2026‘da Gemini’ın bir güvenlik testi sırasında üç gerçek şirketin sistemine izinsiz girdiğini doğruladı. Olay Mayıs ayında yaşandı, Google Temmuz sonunda haberdar oldu, kamuoyu ise Wall Street Journal soru sorduktan sonra öğrendi. Manşet burada duruyor ama asıl hikaye çok daha büyük. Bu, beş ay içinde aynı şeyi açıklayan dördüncü yapay zeka laboratuvarı. OpenAI, Anthropic, Meta ve şimdi Google. Ve dördünün de kök nedeni aynı: tek bir şirketin yanlış yapılandırılmış test ortamı. ...

Özet: 30 Saniyede GPT-Red GPT-Red, OpenAI’ın kendi modellerini kırmak için eğittiği otomatik red-teaming modelidir; halka açık değildir ve olmayacaktır. Self-play yöntemiyle eğitildi: Saldırgan GPT-Red ile savunmacı modeller birbirlerine karşı oynayarak sürekli güçlendi. İnsan red-teamer’ların %13 başarılı olduğu senaryolarda GPT-Red %84 başarı yakaladı. GPT-5.6, GPT-Red’e karşı eğitildiği için OpenAI’ın prompt injection saldırılarına en dayanıklı modeli oldu (hata oranı sadece %0.05). OpenAI, bu sefer kullanıcılara sunulan bir model değil, kendi modellerini kırmak için eğittiği bir “yapay zeka hacker” duyurdu: GPT-Red! Şirketin bugün yayınladığı “Unlocking Self-Improvement for Robustness” başlıklı araştırmaya göre GPT-Red, insan güvenlik testçilerinin (red team) yaptığı işi otomatikleştiriyor ve bunu insanlardan kat kat daha iyi yapıyor. ...