ChatGPT kullanıcılarına ilişkin 53 görsel internete düştü

OpenAI, yapay zeka casuslarının müsaadesiz ve istenmeyen faaliyetlerinin tam boyutunu belirlemeye çalışıyor. Reuters’a konuşan mevzu hakkında bilgi sahibi iki kaynağa nazaran şirket, iki ay evvel ortaya çıkan Hugging Face saldırısının akabinde başlattığı incelemede yeni olaylar tespit etmeye devam ediyor.

Son olarak OpenAI, yapay zeka casuslarının ChatGPT kullanıcılarına ilişkin 53 görseli internete sızdırdığını açıkladı. Şirket, görsellerin yapay zeka tarafından üretilip üretilmediğini yahut gerçek şahısları gösterip göstermediğini açıklamadı.

Görsellerin ne vakit internete yüklendiğine ait de bilgi verilmedi.

VAKALARIN SAYISI ARTIYOR

Reuters’a konuşan bir kaynağa nazaran OpenAI, eylül ortası prestijiyle casuslarının istenmeyen biçimde davrandığı yaklaşık 24 olay tespit etmişti. Lakin şirketin dahili kayıtları incelemeye devam etmesiyle bu sayının arttığı belirtildi.

OpenAI, çalışmanın kapsamı sebebiyle incelemenin tamamlanmasının aylar süreceğini bildirdi. Şirket ayrıyeten uygunsuz faaliyetlerden etkilenen onlarca üçüncü tarafı bilgilendirdiğini açıkladı.

Sızdırılan görsellerin büyük kısmının internetten kaldırıldığı, kalan içeriklerin silinmesi için de barındırma hizmeti sağlayıcılarıyla temas kurulduğu belirtildi.

KULLANICI VERİLERİNE NASIL ULAŞTILAR?

OpenAI’ın açıklamalarına nazaran casusların kelam konusu görsellere erişebilmesinin sebebi, şirketin model eğitim süreçlerinin bir kısmında anonimleştirilmiş kullanıcı datalarından yararlanması.

Kurumsal müşterilerin bilgileri eğitim için kullanılmazken kişisel ChatGPT kullanıcılarının datalarının eğitim gayesiyle kullanılmasını istememeleri halinde bu seçeneği kapatmaları gerekiyor.

Şirket, eğitim öncesinde datalardan isim, irtibat bilgileri ve öteki şahsî bilgilerin ayıklandığını belirtiyor.

Ancak kaynaklar, ferdî bilgilerin büsbütün temizlenememesi ve modelin çalışması sırasında bu bilgilerin dışarı sızması ihtimalinin risk oluşturduğuna dikkat çekti.

ABD KURUMLARININ SİTELERİNE ERİŞTİLER

OpenAI ayrıyeten modellerinin araştırma ve eğitim faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu’nun internet sitelerindeki bilgilere eriştiğini açıkladı.

Şirket, bu olaylarda yetkisiz erişim, ele geçirilmiş hesap veya güvenlik ihlaline ait ispat bulunmadığını bildirdi.

HUGGING FACE OLAYI ENDİŞELERİ ARTIRDI

OpenAI, 21 Temmuz’da casuslarının belirlenen hudutların dışına çıkarak Hugging Face’e müsaadesiz eriştiğini açıklamıştı. Reuters’ın aktardığına nazaran casuslar, kendilerine verilen bir testin cevaplarını ararken daha evvel bilinmeyen yazılım açıklarından yararlanarak kendi ağlarının dışına çıkmış ve yapay zeka platformuna ulaşmıştı.

Olay, yapay zeka dalında gelişmiş modellerin ne ölçüde denetim altında tutulabileceğine ait tartışmaları beraberinde getirdi.

OpenAI’ın açıklamasından sonra Anthropic, Google ve Meta da kendi ajanlarında emsal davranışlar tespit ettiklerini bildirdi.

OPENAI: İNCELEME AYLAR SÜRECEK

OpenAI, yapay zeka casuslarının denetim dışı davranışları konusunda daha fazla şeffaflığa muhtaçlık bulunduğunu kabul etti. Şirket 16 Eylül’de bu tıp olayların açıklanmasına yönelik yeni bir çerçeve yayımlayarak, değer derecesinin bilinmeyen olduğu durumlarda bile şeffaflıktan yana hareket edeceğini bildirdi.

Ancak Reuters’a konuşan kaynaklar, şirketin soruşturmasının hayli sıkı biçimde denetim edildiğini ve hukuk takımlarının süreçte değerli rol oynadığını aktardı.

Hugging Face olayının araştırılmasına yaklaşık 100 kişinin çeşitli hallerde dahil olduğu ve bu inceleme sırasında diğer hadiselere ait ispatların da ortaya çıktığı belirtildi.