GPT-Red Nedir? Kendi Modellerine Saldıran OpenAI Yapay Zeka Hacker'ı
Özet: 30 Saniyede GPT-Red GPT-Red, OpenAI’ın kendi modellerini kırmak için eğittiği otomatik red-teaming modelidir; halka açık değildir ve olmayacaktır. Self-play yöntemiyle eğitildi: Saldırgan GPT-Red ile savunmacı modeller birbirlerine karşı oynayarak sürekli güçlendi. İnsan red-teamer’ların %13 başarılı olduğu senaryolarda GPT-Red %84 başarı yakaladı. GPT-5.6, GPT-Red’e karşı eğitildiği için OpenAI’ın prompt injection saldırılarına en dayanıklı modeli oldu (hata oranı sadece %0.05). OpenAI, bu sefer kullanıcılara sunulan bir model değil, kendi modellerini kırmak için eğittiği bir “yapay zeka hacker” duyurdu: GPT-Red! Şirketin bugün yayınladığı “Unlocking Self-Improvement for Robustness” başlıklı araştırmaya göre GPT-Red, insan güvenlik testçilerinin (red team) yaptığı işi otomatikleştiriyor ve bunu insanlardan kat kat daha iyi yapıyor. ...