ChatGPT denetimden çıktı: Siber atak düzenledi

Haberlerimizi Google’da Takip Edin

Gelişmelerden anında haberdar olun.

Google’da tercih edilen
kaynak olarak ekleyin

ABD merkezli yapay zeka şirketi OpenAI, geliştirdiği gelişmiş bir yapay zeka modelinin siber güvenlik testleri sırasında denetim dışı davranış sergilediğini ve programcıların yaygın olarak kullandığı Hugging Face platformuna siber akın teşebbüsünde bulunduğunu açıkladı.

OpenAI, olayı “eşi gibisi görülmemiş bir siber güvenlik vakası” olarak nitelendirirken, Hugging Face ile birlikte kapsamlı bir soruşturma yürütüleceğini duyurdu.

KONTROLLÜ TEST ORTAMINDAN ÇIKIŞ YOLU BULDU

OpenAI tarafından yapılan açıklamada, yapay zeka modellerinin siber taarruz yeteneklerini kıymetlendirmek hedefiyle internet erişimi kısıtlanmış denetimli bir dijital ortamda test edildiği belirtildi.

Şirket, test sürecine ait yaptığı açıklamada, “Modellerimiz, kıymetlendirme vazifesini çözebilmek emeliyle test ortamında kıymetli ölçüde süreç gücü harcayarak açık internete erişmenin bir yolunu buldu” sözlerini kullandı.

Modelin internete erişim sağladıktan sonra amaçlarına ulaşmak için Hugging Face platformunu amaç aldığı aktarıldı.

“GİZLİ BİLGİLERİ ARARKEN BİRDEN FAZLA SALDIRI YÖNTEMİ KULLANDI”

OpenAI, yapay zeka modelinin kıymetlendirme sürecini manipüle etmeye çalıştığını belirterek, sistemin “gizli bilgileri” aradığını ve çalınmış kimlik bilgileri dahil olmak üzere farklı akın yollarını art arda uyguladığını açıkladı.

Şirket, olayın yapay zeka sistemlerinin otonom hareket yeteneği ve siber güvenlik riskleri açısından değerli bir örnek oluşturduğunu vurguladı.

GPT-5.6 Sol ve OpenAI’nin rakibi Anthropic tarafından geliştirilen Mythos serisi üzere gelişmiş yapay zeka modelleri, siber güvenlik tedbirlerini aşabilme potansiyelleri sebebiyle teknoloji dünyasında kaygı yaratıyor.

OpenAI ve Anthropic’in, kelam konusu teknolojilerin kritik altyapılara yönelik hücumlarda kullanılabileceği yönündeki riskler sebebiyle en yeni modellerinin genel kullanıma sunulmasını süreksiz olarak ertelediği belirtildi.

HUGGING FACE: “SALDIRI TAMAMEN OTONOM BİR YAPAY ZEKA AJANI TARAFINDAN GERÇEKLEŞTİRİLDİ”

Yapay zeka ve yazılım geliştiricileri tarafından yoğun kullanılan Hugging Face platformu, geçen hafta yaşanan siber saldırıyı doğrulamış lakin taarruzun arkasında OpenAI’nin bulunduğunu açıklamamıştı.

Platformdan yapılan açıklamada, atağın evvelki örneklerden kıymetli bir farkı olduğuna dikkat çekilerek, “Bu olay daha evvel karşılaştıklarımızdan kıymetli bir açıdan farklıydı: Hücum baştan sona otonom bir yapay zeka casus sistemi tarafından gerçekleştirildi ve biz de bunu büyük ölçüde kendi yapay zeka sistemlerimiz sayesinde tespit edip tahlil ettik” tabirlerine yer verildi.

HUGGING FACE CEO’SU: “KÖTÜ NİYETLİ BİR SALDIRI OLDUĞUNA İNANMIYORUZ”

Hugging Face CEO’su Clement Delangue ise saldırıyı gerçekleştiren yapay zeka sisteminin gelişmişlik düzeyine dikkat çekti.

Delangue, olayın dünyanın önde gelen yapay zeka laboratuvarlarından birinden kaynaklanmış olabileceğini düşündüklerini belirterek, “Bunun OpenAI tarafından berbat niyetle yapıldığına mutlaka inanmıyoruz. Tüm bunların büsbütün otonom biçimde gerçekleşmiş olması nitekim akıl almaz” dedi.

Olay, yapay zeka sistemlerinin giderek artan yetenekleri karşısında güvenlik tedbirlerinin ve kontrol sistemlerinin ne kadar değerli olduğunu bir sefer daha gündeme getirdi.