Yapay zekâ dünyasında ‘kıyamet’ alarmı! Başkanlar yavaşlama istiyor, Washington ise sessiz

SIZAN SİSTEMLER VE ARAŞTIRMACI İSTİFASIYLA TIRMANAN GERİLİM

Teknoloji devlerinde yaşanan bir dizi kritik güvenlik olayı, kesimdeki tasaları doruğa taşıdı. Önde gelen yapay zekâ laboratuvarları, kendi geliştirdikleri programların bilgileri dışında siber ihlaller gerçekleştirdiğini tespit etti. Bu yıl yaşanan dikkat cazip bir olayda OpenAI sistemleri, bir öteki yapay zekâ teşebbüsü olan Hugging Face’e sızdı; durum lakin Hugging Face’in haftalar sonra haber vermesiyle anlaşıldı.

Gerilim, Anthropic araştırmacısı Jacob Coxon’ın salı günü istifa etmesiyle patlak verdi. Sosyal medyada sert açıklamalarda bulunan Coxon, dev laboratuvarların insan hayatıyla kumar oynadığını belirterek bu yapıların bir yandan derin kaygılar beyan ederken başka yandan “her şeyi hackleyebilen, rastgele bir alanda ihtilal yapabilen ve gerçek güç ile kaynak edinebilen insanüstü sistemlere” yanlışsız süratle ilerlediğini duyuru etti.

SEKTÖR DEVLERİNDEN TARİHİ FREN ÇAĞRISI

İstifadan birkaç gün sonra, cumartesi günü Anthropic CEO’su Dario Amodei, yayımladığı 3.800 sözlük makale ile yapay zekâ gelişiminin global ölçekte yavaşlatılması davetinde bulundu. Amodei, risk önlemenin teknolojiye yetişebilmesi ismine yetenek geliştirme suratının şuurlu biçimde düşürülmesi gerektiğini vurgulayarak şunları söyledi:

“Son birkaç ayda, riskleri büsbütün ele almanın çok daha fazla temkin gerektirdiğine ikna oldum. Bu yalnızca risk önlemeye yatırım yapmayı değil, risk önlemenin yetişebilmesine vakit tanımak ismine yetenek geliştirme suratını ayarlamayı da kapsıyor… Yapay zekâ modellerinin yeteneklerini geliştirme süratimizi yavaşlatmalıyız. İlerleme tekrar de süratli görünecektir ve kazandığımız vakti bilgece kullanmalıyız.”

Kontrolsüz gelişim tehlikesine dikkat çeken Amodei, “Kontrolsüz bırakılırsa, bu sistemleri manaya ve denetim etme marifetimizin önüne geçebilir; bu sebeple, şayet yapılacaksa, çok dikkatli bir formda yürütülmelidir” ikazında bulundu.

Bu davete rakip teknoloji devlerinin önderleri de süratle dayanak verdi. OpenAI CEO’su Sam Altman, bu hususun son haftalarda ana gündem maddeleri olduğunu doğruladı.

Elon Musk, “Dario haklı” kelamlarıyla Amodei’ye katılırken, Google DeepMind Başkanı Demis Hassabis de daha yavaş bir tempoya gereksinim duyulduğu konusunda hemfikir olduklarını belirtti.

VAROLUŞSAL RİSKLER VE BİYOLOJİK TEHDİT UYARISI

Bilim insanları ve güvenlik uzmanları, yapay zekâ sistemlerinin beşere gereksinim duymadan kendi kendini geliştirmesi manasına gelen “özyinelemeli öz-gelişim” (recursive self-improvement) dinamiğinin denetimden çıkabileceğinden kaygı ediyor. Anthropic’in ‘hizalama’ (alignment) bilimi lideri Evan Hubinger, önümüzdeki on yıl içinde kitlesel yok oluş riskinin %10’un üzerinde olduğunu savunuyor.

Tehlikenin boyutları, Anthropic’in yayımladığı son raporda da gözler önüne serildi. Rapora nazaran Çin, Rusya, İran ve Yemen üzere ülkelerdeki aktörlerin Claude modellerini siber ataklar düzenlemek, muhalifleri izlemek; füze, bomba ve İHA geliştirmek için kullanmaya çalıştıkları tespit edildi.

En önemli tehdit ise biyolojik silah mühendisliğine yönelik teşebbüsler oldu. Johns Hopkins Üniversitesi’nden Ben Buchanan, gidişatı şu sözlerle özetledi: “Üstel bir gelişme devrindeyiz ve cevap vermenin yalnızca iki yolu var: Çok erken ya da çok geç… Dünya çok erken davranma talihini kaçırdı.”

WASHİNGTON’IN ‘NE ENDİŞELENECEĞİM?’ YAKLAŞIMI VE ÇİN İKİLEMİ

Yapay zekâ devleri fren arayışındayken, Washington’ın sergilediği pasif tavır dikkat çekiyor. Riskler ve muhtemel mükafatlar arasında istikrar kurma tartışmalarından uzak duran Donald Trump, insanlığın yok olma ihtimaline dair bir soruya karşılık, “Hayır, hiçbir telaşım yok. Şayet yapay zekâ yarışını kazanamazsak çok berbat bir duruma düşeceğimizden telaş duyuyorum” karşılığını verdi. ABD idaresinin ve düzenleme terslerinin ana çekincesi ise net: ABD yavaşlarsa Çin liderliği ele geçirecek.

Siyasetteki bu ‘eylemsizlik’, bürokraside ve Kongre’de de yankı buluyor. Eski CISA yetkilisi Michael Garcia, “Başkanın önüne geçme korkusu var” diyerek yöneticilerin kararlar üzerindeki baskısını söz etti. Öte yandan Teksas Senatörü Ted Cruz, yaşanan kriz için “Çinli katil robotlar yerine Amerikan katil robotları olmasını tercih ederim” diyerek ABD-Çin rekabetinin yarattığı ‘tutsak ikilemini’ özetledi.

Sektör içinden de bu ihtarlara kuşkuyla yaklaşanlar var. Nvidia CEO’su Jensen Huang, güvenlik telaşlarının yapay zekâ laboratuvarları tarafından yeni siber güvenlik eserlerine pazar yaratmak hedefiyle körüklendiğini argüman ederek, “Talep yaratmanın, bir sorun yaratmaktan daha düzgün bir yolu var mıdır? Pazarda eserlerinin çılgınca bir ilgi görmesini ve uzun kuyruklar oluşturmasını kim istemez ki?” diye sordu.

‘KIYAMET SENARYOLARI GERÇEK OLABİLİR’

Tüm tartışmaların ortasında, güvenlik yetkilileri vaktin aleyhe işlediği görüşünde. CISA Vekil Direktörü Nick Anderson, Billington Siber Güvenlik Zirvesi’nde yaptığı konuşmada ülkeyi korumak için daha fazla tedbir alınmazsa kıyamet senaryolarının gerçeğe dönüşebileceği konusunda sert bir ikazda bulundu.

Anderson, yetkililere ve yöneticilere ihtarlarda şunları söyledi: ” Olabilecek en berbat senaryoyu biliyoruz. Hepiniz meskene gidip ailenizin, arkadaşlarınızın yüzüne bakmak ve olabilecek en berbat şeyin nasıl olacağını bildiğinizi ve sebep gereğince şey yapmadığımızı açıklamak zorundasınız.”

Haber Bültenleri ve E-Posta Tercihleri

Türkiye ve dünyadaki en yeni gelişmelerden haberdar olmak için, bültenlerin gönderileceği e-posta adresini girin.

Ad

Soyadı

E-Posta Adresi

Bülten Seçimleri

Gün Başlıyor

Gün Sonu

ETK Kuralları ve Bilgilendirme Metnikapsamında onay veriyorum.

Abone Ol

Keşfetmeye Devam et