OpenAI’a “kontrolden çıkan yapay zeka” soruşturması

Temmuz ortasında yapılan testler sırasında iki OpenAI modelinin kendileri için oluşturulan kapalı test ortamının dışına çıktığı ve internete erişim sağladığı belirtildi. Modellerin daha sonra yapay zeka geliştiricilerinin model ve data setlerini depolayıp paylaştığı Hugging Face platformuna erişerek sistemlerine saldırdığı bildirildi.

Olay, gelişmiş yapay zeka sistemlerinin insan müdahalesi olmadan hareket ederek kendilerine konulan güvenlik sonlarını aşabilme ihtimaline ait telaşları artırdı.

ABD’nin Alabama eyaletinin başsavcısı Steve Marshall’ın ofisi tarafından yayımlanan 14 sayfalık kararda, OpenAI’dan temmuz ayında yaşanan olayla ilgili şirket içi kayıtların teslim edilmesi istendi.

Başsavcılık ayrıyeten sisteme müsaadesiz erişimde ya da buna yol açan testlerde vazife alan tüm çalışanların kimlik bilgilerinin de aralarında bulunduğu geniş kapsamlı doküman ve kayıt talebinde bulundu.

Soruşturmanın, bir yapay zeka sisteminin öteki bir şirketin altyapısına saldırmasının tüketiciyi müdafaa yasalarının ihlali sayılıp sayılamayacağını inceleyen bilinen birinci eyalet soruşturması olduğu belirtiliyor.

Böyle bir sonuca varılması halinde OpenAI’ın ABD genelinde önemli hukuksal süreçlerle karşı karşıya kalabileceği bedellendiriliyor.

Alabama’nın da aralarında bulunduğu 15 eyalet, 3 Ağustos’ta OpenAI CEO’su Sam Altman’a mektup göndererek olayla ilgili tüm kayıtların korunmasını istemişti.

Eyaletler ayrıyeten OpenAI’dan yapay zeka modelleri üzerinde yürüttüğü şirket içi siber güvenlik değerlendirmelerini durdurmasını talep etmişti.

Alabama Başsavcılığı, OpenAI’ın bu talebe uyup uymadığını ise doğrulamadı.

OpenAI, olayla ilgili dış danışmanların da katıldığı kapsamlı bir inceleme yürüttüğünü açıkladı.

Şirket, inceleme tamamlandıktan sonra ilgili kamu kurumlarıyla teknik bir rapor paylaşacağını ve elde edilen bulguları kamuoyuna açıklayacağını bildirdi.