Pekiştirmeli Öğrenme

Özet: 30 Saniyede GPT-Red GPT-Red, OpenAI’ın kendi modellerini kırmak için eğittiği otomatik red-teaming modelidir; halka açık değildir ve olmayacaktır. Self-play yöntemiyle eğitildi: Saldırgan GPT-Red ile savunmacı modeller birbirlerine karşı oynayarak sürekli güçlendi. İnsan red-teamer’ların %13 başarılı olduğu senaryolarda GPT-Red %84 başarı yakaladı. GPT-5.6, GPT-Red’e karşı eğitildiği için OpenAI’ın prompt injection saldırılarına en dayanıklı modeli oldu (hata oranı sadece %0.05). OpenAI, bu sefer kullanıcılara sunulan bir model değil, kendi modellerini kırmak için eğittiği bir “yapay zeka hacker” duyurdu: GPT-Red! Şirketin bugün yayınladığı “Unlocking Self-Improvement for Robustness” başlıklı araştırmaya göre GPT-Red, insan güvenlik testçilerinin (red team) yaptığı işi otomatikleştiriyor ve bunu insanlardan kat kat daha iyi yapıyor. ...

Merhaba Qwen3! Yapay Zekada Yeni Dönem 🚀 Qwen ailesinin en son üyesi Qwen3, 4 Mayıs 2025’te duyuruldu. Büyük dil modelleri (LLM) dünyasına iddialı bir giriş yapan Qwen3, hibrit düşünme modları, etkileyici çoklu dil desteği ve geliştirilmiş ajan yetenekleriyle öne çıkıyor. Qwen3 serisi, hem MoE (Uzman Karışımı) hem de yoğun (dense) model seçenekleri sunarak geniş bir kullanıcı kitlesine hitap ediyor. Amiral gemisi modeli Qwen3-235B-A22B, kodlama, matematik ve genel yetenekler gibi alanlarda DeepSeek-R1, o1, o3-mini, Grok-3 ve Gemini-2.5-Pro gibi zirvedeki modellerle rekabet edebilecek düzeyde performans sergiliyor. Daha küçük MoE modeli Qwen3-30B-A3B ise QwQ-32B’yi 10 kat daha az aktif parametreyle geride bırakırken, Qwen3-4B gibi küçük bir model bile Qwen2.5-72B-Instruct performansına rakip olabiliyor. ...