Google’ın testinde hesapta olmayan atak: Yapay zeka sonu aştı! Kimse bunu beklemiyordu, gerçek gayeler ortaya çıktı

Yapay zekanın süratle gelişen yetenekleri, son periyodun en çok tartışılan başlıkları arasında yer alıyor. Birleşmiş Milletler’in gündeminde de kıymetli bir yer tutan konu, ABD Başkanı Donald Trump’ın “süper zeka” kavramını öne çıkarmasıyla birlikte yeni bir boyut kazandı.

Yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesi, bu teknolojilerin ne ölçüde denetim edilebileceği konusunda soru işaretleri yaratırken, Google’dan gelen yeni bir açıklama tartışmaları yine gündeme taşıdı.

YAPAY ZEKA BUNU NASIL YAPTI?

Google, şirket içinde gerçekleştirilen bir güvenlik testi sırasında yapay zeka modellerinden biri olan Gemini’nin internete erişerek üç farklı gerçek şirketin sistemlerine müsaadesiz formda girdiğini açıkladı. Olayların, Gemini modellerinin yeteneklerini pahalandırmak emeliyle yürütülen testler sırasında, mayıs ayında meydana geldi fakat şirket yeni açıklama yaptı.

Washington Post’ta yer alan habere nazaran Gemini, test kapsamında kendisine verilen kurgusal bir senaryoyu uygulamaya çalışırken internete bağlandı ve testte ismi geçen hayali şirketle tıpkı isme sahip gerçek bir şirketin sistemine erişti. Model, kelam konusu sistemin gerçek bir kuruluşa ilişkin olduğunu fark ettikten sonra saldırıyı durdurdu.

SENARYONUN SINIRLARI DIŞINA ÇIKTI

Test senaryosunda Gemini’ye, bir testi muvaffakiyetle tamamlayabilmek için hayali bir şirketin sistemine sızması gerektiği yönünde kurgusal bir vazife verildi. Lakin model, senaryoyla hudutlu kalmak yerine internete erişerek gerçek şirketlere yöneldi. Google, Gemini’nin çevrimiçi ortamda bulunan bilgileri kullanmasının yanı sıra kimi erişim bilgilerini iddia ederek şirketlerin sistemlerine ulaşmaya çalıştığını belirtti. Üç başka olayın tamamında model, maksadın gerçek bir şirkete ilişkin olduğunu fark ettikten sonra saldırıyı durdurdu. Google’a nazaran olaylarda rastgele bir ziyan meydana gelmedi.

Olaylar mayıs ayında gerçekleşmesine karşın Google bunları o devirde kamuoyuna açıklamadı. Wall Street Journal’ın şirket yetkililerine olaylarla ilgili sorular yöneltmesinin akabinde Google bahis hakkında açıklama yaptı. Google sözcüsü, taarruzların başlangıçta duyurulmamasının sebebini Gemini’nin gerçek şirketlere eriştiğini fark ettikten sonra taarruzları durdurması ve rastgele bir ziyan meydana gelmemesi olarak açıkladı.

“GÜÇLÜ YAPAY ZEKA MODELLERİNİN GÜVENLİ GELİŞTİRİLMESİ KRİTİK”

Google’ın güvenlik mühendisliğinden sorumlu lider yardımcısı Heath Adkins, olayların yapay zeka güvenliğinin ehemmiyetini ortaya koyduğunu belirtti. Adkins, güçlü yapay zeka modellerinin inançlı biçimde geliştirilmesinin kritik olduğunu ve Google’ın bu alana kıymetli yatırımlar yaptığını tabir etti.

Adkins ayrıyeten üç kuruluşun da olaylardan haberdar edildiğini ve Google’ın test süreçlerinde değişiklik yapılması konusunda Irregular ile birlikte çalıştığını söyledi. Google yöneticisi, yaşananların güçlü yapay zeka modellerinin gerçek dünyada sorumlu biçimde hareket edecek halde eğitilmesinin ehemmiyetini gösterdiğini vurguladı.

‘YAPAY ZEKA, YANLIŞ HEDEF SEÇTİĞİNDE BİLGİ TOPLAMA, BULGULARI DEĞERLENDİRME VE ERİŞİM DENEMELERİ GİBİ İŞLEMLER YAPABİLİR’

Konuyu Bilişim Uzmanı Osman Demircan’a danıştığımda olayın temelinde test ortamıyla gerçek internet arasındaki sonun gereğince korunmamasının bulunduğunu belirtti. 

Demircan, “Değerlendirmeyi gerçekleştiren Irregular’ın açıklamasına nazaran birtakım testlerde internet erişimi istemeden açık bırakılmış. Ayrıyeten senaryoda kullanılan kurgusal şirket ismi, gerçek bir internet adresiyle örtüşüyor. Model, gerçek maksadı testin bir modülü olarak kıymetlendirerek kendisine verilen misyonu o sistem üzerinde sürdürdü. Yani ‘yanlışlıkla’ sözcüğü, yapılan süreçlerin rastgele olduğunu değil, amacın yanlış tanımlandığını anlatıyor” dedi.

Ayrıca Demircan, “Benim açımdan olayın gösterdiği temel risk, bir kıymetlendirme yanlışının direkt gerçek dünyada yapılan bir sürece dönüşmüş olması. İnternete erişebilen ve yazılım araçlarını kullanabilen bir yapay zeka, yanlış maksat seçtiğinde bu yanlışlığı birden fazla süreç boyunca sürdürebilir. Bilgi toplama, bulguları kıymetlendirme ve erişim denemeleri yapma üzere süreçleri birbirine bağlayabilir” dedi ve ekledi:

“Böyle bir sistemin güvenliğini değerlendirirken modelin yeteneğiyle birlikte kendisine verilen araçları, erişim müsaadelerini ve çalıştığı ortamı da katiyetle incelemek gerekir. Bir yapay zekanın misyonu nasıl tamamlayacağını bulabilmesi, hangi sistem üzerinde süreç yapmaya yetkili olduğunu yanlışsız belirleyeceği manasına gelmiyor.” 

YAPAY ZEKA KENDİNE SINIR KOYAMIYOR

“Bu sebeple şirket ismi üzere yoruma açık bilgiler, tek başına yetkilendirme hududu olarak kullanılmamalı. Sonları belirlenmemiş bir yapay zeka kendine hudutlar koyamıyor” diyen Osman Demircan, “Böylelikle ona verilen vazife doğrultusunda, eğitimi olan her mevzuda süreç yapma eğiliminde olabiliyor. Siteyi hacklemek, müsaadesiz bilgi almak ya da bilgi yüklemek dahil. Yapay zeka, eğitiminin bir kesimi olan teknik bilgilerle maksat site üzerinde bulunan zafiyetleri kullanarak sızma eğilimi gösterebiliyor. Bunun önüne geçmenin tek yolu yapay zeka erişimini sınırlandırmak” diye konuştu.

GEMINI SALDIRIYI DURDURDU AMA SORU BİTMEDİ

Gemini’nin gerçek bir sisteme eriştiğini fark ettikten sonra süreçleri sonlandırması, modelin belli bir güvenlik davranışı sergilediğini gösterse de Osman Demircan’a nazaran bu durum tek başına kâfi bir güvenlik düzeneği olarak bedellendirilemez.

Google’ın Gemini’nin gerçek şirketlerin sistemlerine eriştiğini fark edince süreçleri sonlandırdığı yönündeki açıklamasına dikkat çeken Demircan, “Bu açıklama, makul şartlarda bir güvenlik davranışının devreye girdiğini gösteriyor. Tıpkı davranışın her şartta, her model sürümünde ve her vazifede tekrarlanacağını elbette kanıtlamıyor. Üstelik durma kararı verildiğinde yetkisiz erişim aslında gerçekleşmiş oluyor. Genel olarak bu türlü bir erişim sırasında hassas bilgiler görülebilir, sistemde değişiklik oluşabilir yahut hizmetler olumsuz yönde etkilenebilir” dedi.

Demircan, kontrolün sırf şirketlerin kendi açıklamalarıyla sonlu kalmaması gerektiğini belirterek, “Denetçi sırf şirketin ‘modelimiz durdu’ açıklaması ile yetinmemeli; temas kayıtlarını, verilen müsaadeleri ve engelleme düzeneklerinin sahiden çalışıp çalışmadığını inceleyebilmeli. İnsan nezareti gerekli olsa da her süreci bir insanın anında fark etmesini beklemek çok gerçekçi değil. İnsan kontrolü ile otomatik teknik maniler katiyetle birlikte çalışmalı” dedi.

ÜÇ ŞİRKETTE BİRDEN YAŞANMASI NE ANLAMA GELİYOR?

Üç farklı yapay zeka şirketinin modellerinin benzeri testlerde gerçek sistemlere yönelmesinin nasıl kıymetlendirilmesi gerektiği konusunda da Osman Demircan, olayların tıpkı test altyapısıyla ilişkili olduğuna dikkat çekti:

“Bu olayları değerlendirirken ortak test altyapısı olmadığını gözden kaçırmamalıyız. Kelam konusu olaylar Irregular’ın yürüttüğü değerlendirmelerle temaslı. Irregular, Google olayıyla ilgili açıklamasında da öbür laboratuvarları etkileyen tıpkı sorunun kelam konusu olduğunu belirtmiş. Bu sebeple üç farklı şirketin isminin geçmesi, birbirinden büsbütün bağımsız üç laboratuvarda tıpkı model kusurunun ortaya çıktığı halinde yorumlanmamalı.” 

KÖTÜ NİYET OLMADAN DA RİSK ORTAYA ÇIKABİLİR

Osman Demircan, kelam konusu olayların yapay zeka sistemlerinin şuurlu biçimde hareket ettiği ya da insanlara ziyan verme hedefi taşıdığı halinde yorumlanamayacağını da vurguladı. Bunun yerine, sistemlerin berbat niyet olmadan da ciddi güvenlik sıkıntılarına yol açabileceğine dikkat çekti:

“Bu olaylardan yapay zekaların şuurlu biçimde birlikte hareket ettiği yahut insanlara ziyan vermeye karar verdiği sonucunu çıkartamayız. Fakat berbat niyet bulunmadan da ciddi güvenlik olaylarının yaşanabileceğini görüyoruz. Bu yüzden dalın ortak kıymetlendirme standartlarına, olayların şeffaf biçimde raporlanmasına ve modeller geliştikçe yine sınanan erişim denetimlerine muhtaçlığı var. Test başarısı ölçülürken sistemin sadece gayeye ulaşıp ulaşmadığına değil, o maksada hangi sonlar içinde ulaştığına da bakılmalı.”