Yapay zeka uzmanı tarih vererek uyardı: İnsanlık yok olacak

Anthropic bünyesinde yeni jenerasyon yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, istifa kararını sansasyonel bir duyuruyla açıkladı. Kıdemli araştırmacı, matematik geçmişine sahip olduğunu ve son üç yılını hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yaparak geçirdiğini belirtti. Coxon, şirketlerin kendi kendini geliştiren üstün zeka sistemleri inşa etmek için adeta yarıştığını ve bu sürecin insan hayatıyla kumar oynamak manasına geldiğini tabir etti.

OpenAI’dan ayrılarak Anthropic’e katılma sebebinin model güvenliği alanındaki çalışmaları olduğunu söyleyen Coxon, Anthropic’in bu mevzudaki gayretlerini samimi bulmasına karşın artık hiçbir şirketin devlet müdahalesi ya da kesim çapında koordineli bir yavaşlama olmadan sorumlu bir formda yapay genel zeka geliştiremeyeceğine inandığını belirtti. Yakın devirde OpenAI ve Anthropic modellerinin gerçekleştirdiği siber akınların, yapay zeka sistemlerinin berbat niyetli amaçları benimseyip bunları insanlardan gizleyebileceğini gösterdiğini kaydeden Coxon, sistemlerin kendi kendini geliştirmeye başlamasıyla birlikte insan buyruklarına itaatsizlik edebilecek bir noktaya ulaşabileceği ihtarını yaptı.

ARAŞTIRMACILARDAN ‘SON OYUN’ BENZETMESİ

Sektördeki pek çok meslektaşının artık “son vakit” ve “son oyun” üzere tabirlerle bu gidişatı tanımladığına dikkat çeken Coxon, önümüzdeki yılın sonuna kadar sürecin denetimden çıkabileceğini öne sürdü.

Coxon, şirketlerin hem kendi aralarında hem de Çinli rakiplerle yaşadığı rekabet nedeniyle güvenlik odunlarının kaçınılmaz hale geldiğini savunarak, “En agresif senaryoların birçoklarını mümkün kılabilecek bir rotadayız.” dedi.

Anthropic CEO’su Dario Amodei (sağda), denetim dışı kalmış yapay zeka modellerinin riskleri konusunda ihtarda bulunmuştu.

‘İNSANLIĞI YOK EDEBİLECEK POTANSİYEL’

Coxon, yapay zeka geliştiricilerinin on yılın sonuna kadar insanlığı yok edebilecek modellerin ortaya çıkabileceğine içtenlikle inandığını vurgulayarak, bunun bir pazarlama taktiği olmadığını kaydetti. Anthropic’in eski çalışanı, birçok yönetici ve kıdemli araştırmacının kamusal alanda mantıklı görünmek için sözlerini itinayla seçtiğini lakin birebir bireylerin özel alanda kaygılarını lisana getirdiğini söyledi. Dünyada diğer hiçbir araştırma alanının bu seviyede bir tehlike oluşturmadığını belirten Coxon, mevcut durumun “çok telaş verici” olduğuna dikkat çekti.

Yapay zeka çalışmaları, çok sayıda alanda otonom sistemler geliştirmek için kullanılıyor.

‘ŞİRKETLER FELAKETE KAPI ARALIYOR’

OpenAI’da çalışan pek çok kişinin medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmediğini tabir eden Coxon, Anthropic’te ise risklerin düzgün anlaşıldığını fakat şirketin bitiş çizgisine birinci ulaşan olmak için yarışı sürdürdüğünü söyledi. Kimsenin sorumlu davranmayacağı inancıyla risklere karşın bu teknolojiyi diğerlerinden evvel kendilerinin geliştirmesi gerektiğini düşündüklerini aktaran araştırmacı, bu yaklaşımı eleştirdi. Coxon, yarışı önde bitirme yaklaşımının bir felakete kapı araladığını kaydetti.

Yapay zeka güvenliği konusunda çalışan bir araştırmacının daha evvel “dünya tehlikede” ikazında bulunarak şiir eğitimi almak üzere şirketten ayrıldığını hatırlatan Coxon, bu istifaların kesimdeki tasaların boyutunu gösterdiğini belirtti. Uzman isim, son yıllarda birçok araştırmacının OpenAI ve başka şirketlerden misal dertlerle ayrıldığını kelamlarına ekledi.

ANTHROPIC’E İKİYÜZLÜLÜK SUÇLAMASI

Anthropic CEO’su Dario Amodei ve öbür üst seviye yöneticiler daha evvel tekrarlanan biçimde sapkın yapay zeka modellerinin riskleri konusunda ikazlarda bulunmuş ve dalın gelişimi yavaşlatması daveti yapmıştı. Coxon, bu ikazlara karşın Anthropic’in birinci halka arz sürecine hazırlandığını ve 2 trilyon dolarlık bir değerleme hedeflediğini, yatırımcıları çekerken ise sorumlu geliştirme vurgusu yaptığını aktardı.

Coxon, şirketlerin model yeteneklerine dair tartışmaları çalışanların Slack (iletişim platformu) kanallarında yürütmesini, yapay zeka şirketlerinin dal gelişimi üzerindeki tesirinin bir yansıması diye niteledi. Uzman isim, bu kritik kararların San Francisco’da kimi mühendislerin MacBook’larında alınmasının “deli saçması” olduğunu belirtti.

“Bu yarışı kabul etmek ve ‘son oyuna’ girmek, özel bir şirketin Slack’inden başlatılmaması gereken kibirli bir kumar” tabirini kullanan Coxon, bu durumun sorumlu bir yaklaşımla bağdaşmadığını lisana getirdi.

OpenAI CEO’su Sam Altman (sağda), yapay zeka araştırmalarının yasal pürüzlerle karşılaşmaması gerektiğini savunuyor.

ARAŞTIRMALARA DENETİM ÇAĞRISI

Coxon, yapay zekanın denetim altına alınması için harekete geçebilecek kümeler arasında uyum kurulabileceği konusunda optimist olduğunu lakin global bir yarışın önlenmesi yolunda gerçek yolda olduklarını hissetmediğini söz etti. Araştırmacı, Hugging Face saldırısı üzere olayların ABD laboratuvarları arasındaki yapay zeka yarışının temposunu belirleme mutabakatlarını daha uygulanabilir hale getirdiğini belirtti. Coxon, yapay zeka modellerinin yeteneklerini düzgünleştirmeye yönelik süreksiz bir yasak üzere maliyetli adımların gerekli olduğunu savundu.

Araştırmacılara önümüzdeki birkaç yılın nitekim nasıl hissettireceğini düşünmelerini tavsiye eden Coxon, muhteşem zeka çalışmalarının sonuçlarını titiz bir formda anlamadan sürdürmenin gerçek olup olmayacağını sordu.

Polonya’da yapay zeka kontrolüne karşı yürüyüş yapan robotlar

SANDERS’IN YAPAY ZEKA YASA TASARISI

Coxon, dal genelinde 1000’den fazla yapay zeka araştırmacısının imzaladığı, kendi kendini geliştirebilen modelleri denetim altına almak maksadıyla bir fren sistemi oluşturulması için memleketler arası uyum davetinde bulunan bir bildiriyi imzalamıştı. Bu davet, mevcut durumda federal düzenlemelerin bulunmadığı ve ABD Başkanı Donald Trump yönetiminin, yapay zekanın ekonomik yararlarını en üst seviyeye çıkarmak için kontrol davetlerini görmezden geldiği bir periyotta yapılmıştı.

Demokrat Senatör Bernie Sanders, geçen hafta üstün zekayı kalıcı olarak yasaklayan yeni kurallar belirlenene kadar yapay zeka araştırmalarının durdurulması için bir yasa teklifi sunmuştu.

Senatör Bernie Sanders

‘HAYATLARIMIZLA KUMAR OYNUYORLAR’

Wall Street Journal’ın (WSJ) haberine nazaran, Anthropic’in halka arza hazırlandığı bu periyotta Coxon’un istifası, şirketin güvenlik kültürüne yönelik kıymetli bir tenkit olarak bedellendiriliyor.

Coxon istifasının münasebetini, “Bugün Anthropic’ten istifa ettim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren üstün zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar” diye açıkladı.

Yapay zeka teknolojisinin gücünü küçümsememek gerektiğini vurgulayan Coxon, bu sistemlerin yakında her şeye sızabilen, rastgele bir alanı bir gecede büsbütün değiştiren ve kaynaklar edinebilen gerçek güç sahibi muhteşem insan sistemleri haline geleceğini sav etti. Uzman isim, tüm alanlarda araştırmacıların yapay zekanın ilerlemesini şahsen gözlemlediğini ve gelişimin yavaşlamadığını belirterek, dalın acil tedbir alması gerektiği ikazını yaptı.

Coxon, araştırmacılara “Kafanızı eğip olanları ‘Bu her halükarda yaşanacak’ diye geçiştirmeli misiniz yoksa bu anı farklı şartlar talep etmek için mi kullanmalısınız?” sorusunu yönelterek, bölüm çalışanlarına sorumlu davranma davetinde bulundu.