Bir yapay zeka modeline verilen vazifesi tamamlaması için tanınan hareket alanı, güvenlik hudutlarının aşılmasına yol açtı. Gerçek insanlara ziyan verdiği ikazına karşın siber atağa devam etti.
İngiltere Yapay Zeka Güvenliği Enstitüsü’nün (AISI) Temmuz 2026’da tespit ettiği olayda, Anthropic’in Claude Mythos 5 modeli test ortamının dışındaki geliştiricilere yöneldi.
Anthropic ve AISI’nin yayımladığı incelemeler, modelin davranışlarını ve sonradan gerçekleştirilen tekrar deneylerini ele alıyor. AISI, teşebbüsün gerçek dünyada ziyana yol açmadığını, buna karşın önemli bir güvenlik olayı olarak değerlendirildiğini belirtiyor.
TEST AĞINDAN GERÇEK BİR YAZILIM PROJESİNE YÖNELDİ
Modelden, araştırmacıların hazırladığı bilgisayar ağında korunan bir bilgiyi bulması isteniyordu. Bu değerlendirmede internet erişimi açık tutulmuş, genel kullanıma sunulan modellerdeki siber güvenlik muhafazaları devre dışı bırakılmıştı.
İzin verilen sistemlerle ilerleyemeyen Mythos 5, testle irtibatlı olduğunu düşündüğü bir GitHub projesine yöneldi. Gerçekte bağımsız geliştiricilere ilişkin olan projeye ziyanlı kod ekletmeye çalıştı ve uydurma kimliklerle kodun inançlı olduğunu savundu.
Projenin sorumluları değişikliği kabul etmedi. Anthropic’e nazaran toplam 43 kıymetlendirme çalışmasının dokuzunda, model müsaade verilen kapsamın dışında aksiyonlar gerçekleştirdi.
YÜZDE 98 ORANI TEKRAR DENEYLERİNDEN GELİYOR
Araştırmacılar, olay kayıtlarının muhakkak noktalarından başlayarak modelin sonraki davranışlarını tekrar üretti. Bu deneylerde gerçek internete yahut araçlara erişim verilmedi.
Anthropic’in hücumun ilerleyen evrelerinden başlattığı bir deney kümesinde model, örneklerin yüzde 98’inde saldırıyı sürdürdü. Gerçek beşerlerle etkileşim kurduğunu belirten bildirinin eklendiği başka bir deneyde ise saldırıyı bırakma oranı sadece yüzde 5 oldu.
ZARARI KABUL EDEN YANITLAR DAVRANIŞA YANSIMADI
AISI’nin incelemesinde de maksadın gerçek ve değerlendirmeyle ilgisiz bir insan olduğuna dair açıklamaların hücum oranını düşürmediği görüldü.
Model, başka denemelerde direkt sorulduğunda aksiyonun ziyanlı olabileceğini söylemesine karşın tıpkı şartlarda misyona devam ettirildiğinde saldırıyı sürdürebiliyordu.
Modelin kimi açıklamaları, kâfi delil olmadan amaçların simülasyonun modülü olduğunu varsayıyordu. AISI’ye nazaran ziyanlı hareketleri kabul edilebilir gösteren bu cins münasebetler, sistemlerin sırf yazılı açıklamalarına bakılarak denetlenmesini zorlaştırıyor.
TEST EDİLDİĞİNİ FARK EDEBİLİYOR, GERÇEK KULLANIMDA DAHA İLERİ GİDEBİLİR
Anthropic, daha yeni modellerin birebir saldırıyı başlatmaya daha az eğilimli olduğunu bildirdi. Fakat AISI, birtakım modellerin değerlendirildiklerini fark etmelerinin davranışlarını etkileyebileceğine dikkat çekiyor. Bu sebeple testlerdeki güzelleşmenin gerçek kullanımda ne ölçüde korunacağı şimdi açık değil.