Anthropic, yapay zeka modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek formda kullanıldığı hadiseleri tespit etti. Şirket, yeni jenerasyon modellerin taşıdığı risklere ait dikkat çeken bulgular paylaştı.
Yapay zeka şirketi Anthropic’in eski çalışan Jacob Coxon, yapay zekanın gelecekte insanüstü sistemlere dönüşebileceği ihtarıyla şirketten istifa etmesinin akabinde şirketten dikkat çeken bir rapor yayınlandı.
Coxon’un açıklamaları gündem olurken yayımlanan raporda, Anthropic’in yapay zeka modellerinin biyolojik silah geliştirilmesine yardımcı olabilecek formda kullanıldığı olayların tespit edildiği tabir edildi.
BİYOLOJİK SİLAH RİSKİ
Anthropic’in yapay zeka modellerinin berbata kullanımına ait yayımladığı raporda, en önemli risklerden birinin “biyolojik berbata kullanım” olduğu vurgulandı. Raporda, gelişmiş yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirebilecek yahut yeni patojenlerin geliştirilmesine yardımcı olabilecek yeteneklere ulaşabileceği yönündeki telaşlara dikkat çekildi.
Şirket, bu yıl Claude dahil yapay zeka modellerini kullanarak biyolojik silah geliştirilmesine yardımcı olabilecek araştırmalar yürüten bilim insanlarının birtakım faaliyetlerini engellediğini bildirdi. Anthropic, kelam konusu araştırmacıların isimlerini, ülkelerini yahut üzerinde çalıştıkları biyolojik casusları açıklamadı.
“SON DERECE İNCELİKLİ BİR DURUM”
Anthropic’in tehdit istihbaratı başkanı Jacob Klein, biyolojik araştırmaların berbat emelli olup olmadığının her vakit açık biçimde anlaşılamadığını söyledi.
Klein, “Çizgi romanlardaki üzere birinin ‘Hey, herkesi öldürecek bir biyolojik silah yapmak istiyorum’ dediğini görmüyorsunuz. Bu son derece incelikli bir durum.” tabirini kullandı.
Şirket, yasal biyolojik araştırmaların da tehlikeli patojenlerin geliştirilmesine katkı sağlayabileceğine dikkat çekti. Aşı geliştirme üzere çalışmaların yararlı sonuçlar doğurabileceği, lakin tıpkı tekniklerin patojenleri daha tehlikeli hale getirmek için de kullanılabileceği belirtildi.
ARAŞTIRMACILARIN FAALİYETLERİ ENGELLENDİ
Raporda, desteklenmeyen bir bölgede çalışan bir araştırmacının Claude’u kuş gribinin memelilere adaptasyonu üzerine deneyler planlamak için kullandığı aktarıldı. Diğer bir olayda ise devlet dayanaklı bir araştırmacının toksinleri bilgisayar ortamında yine tasarlamaya çalıştığı belirtildi.
Anthropic, kullanıcıların erişim kısıtlamalarını aşmaya ve “güvenlik önlemlerimizden kaçınmak için araştırmalarının maksadını gizlemeye” çalıştığını tespit ettiğini açıkladı. Şirket, kelam konusu faaliyetlerle temaslı hesapları yasakladı.
Mayıs ayında yaşanan bir öteki hadisede ise bir bilim beşerinin, aylarca süren şiddetli ağrı ve öbür semptomlara yol açabilen chikungunya virüsü üzerinde deney yapmak için Claude’dan fon başvurusu hazırlamasına yardım istediği belirtildi.
Anthropic, araştırmanın bir kısmının askeri bir araştırma enstitüsünde yapılmasının planlandığını tespit ettiği için hadiseyi telaş verici buldu.
Klein, “Bilmediğimiz şey, bu araştırmanın silah olarak kullanılmak üzere yapılıp yapılmadığıdır. Fakat bir askeri kurumun fonksiyon kazanımı araştırması yapması telaş verici.” dedi.
ANTHROPIC’İN RAPORUNDA BAŞKA TEHDİTLER DE YER ALDI
Anthropic’in son sekiz aya ait raporunda, yapay zekanın biyolojik silahların yanı sıra farklı maksatlarla berbata kullanıldığı hadiselere da yer verildi.
Raporda, Çin ve İran hükümetleriyle kontaklı olduğundan şüphelenilen aktörlerin muhalifleri ve diaspora topluluklarını gözetlemek için yapay zeka modellerinden yararlandığı belirtildi.
Rus devlet medyasının da Claude’u bağımsız habercilik manzarası altında çevrim içi propaganda üretmek için kullandığı öne sürüldü. Bu faaliyetler arasında Moldova’daki seçimlerle ilgili uydurma tezlerin yayılması da gösterildi.
Anthropic ayrıyeten Claude’un ateşli silahlar, füzeler, silahlı insansız hava araçları ve bombalar dahil olmak üzere klâsik silahların tasarım ve geliştirilmesine yönelik yazılım çalışmalarında kullanıldığı hadiseler tespit ettiğini açıkladı. Raporda Çin’den üç, Rusya’dan iki ve Yemen’den bir olay detaylı olarak anlatıldı.
ANTHROPIC ÇALIŞANINDAN DİKKAT ÇEKEN İSTİFA
Anthropic çalışanı Jacob Coxon’un yapay zekanın geleceğine ait açıklamaları da gündem olmuştu.
Coxon, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketten istifa ettiğini duyurmuştu.
Coxon’un paylaşımı milyonlarca defa görüntülenerek geniş yankı uyandırmıştı.
Yapay zeka şirketi Anthropic’ten dikkat çeken rapor: Biyolojik silah alarmı
Prens Selman “Husiler’e saldır” dedi, Trump reddetti
Trump kesenin ağzını açtı: ‘Seçimleri kazanırsak herkese 5 bin dolar’
Mekke Anlaşması devreye girer mi: Pakistan’tan Tahran’a Husiler uyarısı
Berbat muamale, dayak, vefat… İsrail’de Ben Gvir’in azap nizamı
“İran konusunda pişman değilim, tekrar olsa birebirini yapardım”
Kongo’da Ebola salgını. 3.5 ayda 3 bin 267 kişi öldü
Keşfetmeye Devam et