Yapay zeka şirketi Anthropic'in kıdemli araştırmacısı Jcob Coxon, insanlığın bir felakete sürüklendiği ihtarını yaparak istifa kararı aldığını duyurdu. Yapay zekanın 2030'a kadar insan denetiminden çıkabileceğini öne süren Coxon, bölümdeki birçok çalışanın teh...
Anthropic bünyesinde yeni jenerasyon yapay zeka modellerinin eğitimi üzerine çalışan Jacob Coxon, istifa kararını sansasyonel bir duyuruyla açıkladı. Kıdemli araştırmacı, matematik geçmişine sahip olduğunu ve son üç yılını hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yaparak geçirdiğini belirtti. Coxon, şirketlerin kendi kendini geliştiren muhteşem zeka sistemleri inşa etmek için adeta yarıştığını ve bu sürecin insan hayatıyla kumar oynamak manasına geldiğini söz etti.
OpenAI’dan ayrılarak Anthropic’e katılma sebebinin model güvenliği alanındaki çalışmaları olduğunu söyleyen Coxon, Anthropic’in bu bahisteki eforlarını samimi bulmasına karşın artık hiçbir şirketin devlet müdahalesi ya da kesim çapında koordineli bir yavaşlama olmadan sorumlu bir formda yapay genel zeka geliştiremeyeceğine inandığını belirtti. Yakın periyotta OpenAI ve Anthropic modellerinin gerçekleştirdiği siber akınların, yapay zeka sistemlerinin berbat niyetli amaçları benimseyip bunları insanlardan gizleyebileceğini gösterdiğini kaydeden Coxon, sistemlerin kendi kendini geliştirmeye başlamasıyla birlikte insan buyruklarına itaatsizlik edebilecek bir noktaya ulaşabileceği ikazını yaptı.
ARAŞTIRMACILARDAN ‘SON OYUN’ BENZETMESİ
Sektördeki pek çok meslektaşının artık “son vakit” ve “son oyun” üzere sözlerle bu gidişatı tanımladığına dikkat çeken Coxon, önümüzdeki yılın sonuna kadar sürecin denetimden çıkabileceğini öne sürdü.
Coxon, şirketlerin hem kendi aralarında hem de Çinli rakiplerle yaşadığı rekabet nedeniyle güvenlik odunlarının kaçınılmaz hale geldiğini savunarak, “En agresif senaryoların birçoklarını mümkün kılabilecek bir rotadayız.” dedi.
Anthropic CEO’su Dario Amodei (sağda), denetim dışı kalmış yapay zeka modellerinin riskleri konusunda ihtarda bulunmuştu.
‘İNSANLIĞI YOK EDEBİLECEK POTANSİYEL’
Coxon, yapay zeka geliştiricilerinin on yılın sonuna kadar insanlığı yok edebilecek modellerin ortaya çıkabileceğine içtenlikle inandığını vurgulayarak, bunun bir pazarlama taktiği olmadığını kaydetti. Anthropic’in eski çalışanı, birçok yönetici ve kıdemli araştırmacının kamusal alanda mantıklı görünmek için tabirlerini ihtimamla seçtiğini fakat tıpkı şahısların özel alanda endişelerini lisana getirdiğini söyledi. Dünyada öteki hiçbir araştırma alanının bu seviyede bir tehlike oluşturmadığını belirten Coxon, mevcut durumun “çok telaş verici” olduğuna dikkat çekti.
Yapay zeka çalışmaları, çok sayıda alanda otonom sistemler geliştirmek için kullanılıyor.
‘ŞİRKETLER FELAKETE KAPI ARALIYOR’
OpenAI’da çalışan pek çok kişinin medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmediğini söz eden Coxon, Anthropic’te ise risklerin uygun anlaşıldığını fakat şirketin bitiş çizgisine birinci ulaşan olmak için yarışı sürdürdüğünü söyledi. Kimsenin sorumlu davranmayacağı inancıyla risklere karşın bu teknolojiyi diğerlerinden evvel kendilerinin geliştirmesi gerektiğini düşündüklerini aktaran araştırmacı, bu yaklaşımı eleştirdi. Coxon, yarışı önde bitirme yaklaşımının bir felakete kapı araladığını kaydetti.
Yapay zeka güvenliği konusunda çalışan bir araştırmacının daha evvel “dünya tehlikede” ihtarında bulunarak şiir eğitimi almak üzere şirketten ayrıldığını hatırlatan Coxon, bu istifaların bölümdeki tasaların boyutunu gösterdiğini belirtti. Uzman isim, son yıllarda birçok araştırmacının OpenAI ve başka şirketlerden benzeri telaşlarla ayrıldığını kelamlarına ekledi.
ANTHROPIC’E İKİYÜZLÜLÜK SUÇLAMASI
Anthropic CEO’su Dario Amodei ve öteki üst seviye yöneticiler daha evvel tekrarlanan halde sapkın yapay zeka modellerinin riskleri konusunda ihtarlarda bulunmuş ve bölümün gelişimi yavaşlatması daveti yapmıştı. Coxon, bu ihtarlara karşın Anthropic’in birinci halka arz sürecine hazırlandığını ve 2 trilyon dolarlık bir değerleme hedeflediğini, yatırımcıları çekerken ise sorumlu geliştirme vurgusu yaptığını aktardı.
Coxon, şirketlerin model yeteneklerine dair tartışmaları çalışanların Slack (iletişim platformu) kanallarında yürütmesini, yapay zeka şirketlerinin kesim gelişimi üzerindeki tesirinin bir yansıması diye niteledi. Uzman isim, bu kritik kararların San Francisco’da birtakım mühendislerin MacBook’larında alınmasının “deli saçması” olduğunu belirtti.
“Bu yarışı kabul etmek ve ‘son oyuna’ girmek, özel bir şirketin Slack’inden başlatılmaması gereken kibirli bir kumar” sözünü kullanan Coxon, bu durumun sorumlu bir yaklaşımla bağdaşmadığını lisana getirdi.
OpenAI CEO’su Sam Altman (sağda), yapay zeka araştırmalarının yasal pürüzlerle karşılaşmaması gerektiğini savunuyor.
ARAŞTIRMALARA DENETİM ÇAĞRISI
Coxon, yapay zekanın denetim altına alınması için harekete geçebilecek kümeler arasında uyum kurulabileceği konusunda optimist olduğunu fakat global bir yarışın önlenmesi yolunda hakikat yolda olduklarını hissetmediğini tabir etti. Araştırmacı, Hugging Face saldırısı üzere olayların ABD laboratuvarları arasındaki yapay zeka yarışının temposunu belirleme mutabakatlarını daha uygulanabilir hale getirdiğini belirtti. Coxon, yapay zeka modellerinin yeteneklerini düzgünleştirmeye yönelik süreksiz bir yasak üzere maliyetli adımların gerekli olduğunu savundu.
Araştırmacılara önümüzdeki birkaç yılın hakikaten nasıl hissettireceğini düşünmelerini tavsiye eden Coxon, muhteşem zeka çalışmalarının sonuçlarını titiz bir biçimde anlamadan sürdürmenin yanlışsız olup olmayacağını sordu.
Polonya’da yapay zeka kontrolüne karşı yürüyüş yapan robotlar
SANDERS’IN YAPAY ZEKA YASA TASARISI
Coxon, bölüm genelinde 1000’den fazla yapay zeka araştırmacısının imzaladığı, kendi kendini geliştirebilen modelleri denetim altına almak emeliyle bir fren düzeneği oluşturulması için milletlerarası uyum davetinde bulunan bir bildiriyi imzalamıştı. Bu davet, mevcut durumda federal düzenlemelerin bulunmadığı ve ABD Başkanı Donald Trump yönetiminin, yapay zekanın ekonomik yararlarını en üst seviyeye çıkarmak için kontrol davetlerini görmezden geldiği bir devirde yapılmıştı.
Demokrat Senatör Bernie Sanders, geçen hafta harika zekayı kalıcı olarak yasaklayan yeni kurallar belirlenene kadar yapay zeka araştırmalarının durdurulması için bir yasa teklifi sunmuştu.
Senatör Bernie Sanders
‘HAYATLARIMIZLA KUMAR OYNUYORLAR’
Wall Street Journal’ın (WSJ) haberine nazaran, Anthropic’in halka arza hazırlandığı bu devirde Coxon’un istifası, şirketin güvenlik kültürüne yönelik değerli bir tenkit olarak bedellendiriliyor.
Coxon istifasının münasebetini, “Bugün Anthropic’ten istifa ettim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren muhteşem zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar” diye açıkladı.
Yapay zeka teknolojisinin gücünü küçümsememek gerektiğini vurgulayan Coxon, bu sistemlerin yakında her şeye sızabilen, rastgele bir alanı bir gecede büsbütün değiştiren ve kaynaklar edinebilen gerçek güç sahibi harika insan sistemleri haline geleceğini sav etti. Uzman isim, tüm alanlarda araştırmacıların yapay zekanın ilerlemesini şahsen gözlemlediğini ve gelişimin yavaşlamadığını belirterek, dalın acil tedbir alması gerektiği ikazını yaptı.
Coxon, araştırmacılara “Kafanızı eğip olanları ‘Bu her halükarda yaşanacak’ diye geçiştirmeli misiniz yoksa bu anı farklı şartlar talep etmek için mi kullanmalısınız?” sorusunu yönelterek, bölüm çalışanlarına sorumlu davranma davetinde bulundu.
Son dakika… Suriye’de patlama
Yapay zeka uzmanı tarih vererek uyardı: İnsanlık yok olacak
NATO’dan ANKA-3 paylaşımı
OpenAI 90 yıllık matematik sorununu çözdü, “Türk araştırmacının ismini silmeye çalıştı”
Yapay zeka uzmanı tarih vererek uyardı: İnsanlık yok olacak
GÜRZ alana çıktı: İsrail basını mercek altına aldı… ‘Türk kalkanı’
İngiltere ile İsrail arasındaki Filistin krizinde yeni perde: Tel Aviv, İngiliz temsilcileri kovdu
