Trump hükümetinden talimat. Anthropic iki modelini devre dışı bıraktı

Yapay zeka şirketi Anthropic, ABD’nin ulusal güvenlik gerekçeli buyruğuna uymak için iki güçlü yapay zeka modeli Fable 5 ve Mythos 5’e erişimi askıya aldığını duyurdu.

Şirket, cuma günü yayımladığı blog yazısında, Fable 5’in kamuya açılmasından sadece üç gün sonra hükümetten bir talimat aldığını belirtti. Anthropic’e nazaran talimat, şirkette çalışan yabancı uyruklular dahil tüm yabancı uyrukluların Fable 5 ve Mythos 5’e erişimini ulusal güvenlik telaşları nedeniyle yasaklıyor.

Anthropic, “Bu buyruğun net sonucu, ahengi sağlamak için Fable 5 ve Mythos 5’i tüm müşterilerimiz için ansızın devre dışı bırakmak zorunda kalmamızdır.” açıklamasını yaptı.

Şirket, mektubu lokal saatle 17.21’de aldığını bildirdi. Axios, kelam konusu mektubun ABD Ticaret Bakanı Howard Lutnick’ten geldiğini yazdı. Anthropic, mektupta hükümetin tam olarak hangi husustan tasa duyduğunun belirtilmediğini aktardı. Lakin şirket, hükümetin Fable 5 modelinde bilgisayar korsanlığına yardımcı olabilecek bir güvenlik aşma tekniği tespit edildiği kanaatinde olduğunu anladığını belirtti.

Fable 5, salı günü kullanıma sunulmuştu. Model, Anthropic’in kamuya açmadığı daha gelişmiş Mythos 5’in güvenlik tedbirleri artırılmış bir versiyonu olarak tanıtılmıştı. Şirket, Mythos 5’i yazılımlardaki güvenlik açıklarını tespit etme kapasitesi nedeniyle sırf seçili şirketlerin kullanımına açmıştı.

Anthropic, tartışmanın merkezindeki güvenlik aşma yolunu ve bunun ortaya çıkarabileceği siber riskleri incelediğini, lakin Fable 5’in bilgisayar korsanlarına halihazırda kamuya açık başka modellerde bulunmayan yeni kabiliyetler sunduğuna inanmadığını belirtti.

Şirket ayrıyeten güvenlik testlerinde, modelin muhafaza tedbirlerini büsbütün devre dışı bırakabilecek “evrensel” bir prosedür bulunmadığını savundu.

Anthropic açıklamasında, “Dar kapsamlı potansiyel bir güvenlik açığının tespit edilmesinin, yüz milyonlarca bireye sunulan ticari bir modelin geri çağrılması için münasebet sayılmasına katılmıyoruz.” sözlerini kullandı.

Şirket, bu standardın tüm bölüme uygulanması halinde ileri yapay zeka modeli geliştiren şirketlerin yeni model dağıtımlarının fiilen durabileceğini savundu.

DAHA EVVEL DE TRUMP İDARESİYLE TANSİYON YAŞANMIŞTI

Anthropic, teknolojisinin kitlesel nezaret ve otonom silahlar için kullanılmasına müsaade vermeyi reddettiği gerekçesiyle Trump idaresiyle hukuksal bir tansiyon yaşıyordu. Bu süreçte Pentagon’un şirketle olan birtakım mukaveleleri kestiği belirtiliyor.