ABD merkezli yapay zeka şirketleri, süratle gelişen modellerin insanlığı tehdit edecek noktaya geldiğini duyuru etti. Yapay zeka kesiminin başkan isimlerinden art arda gelen ikazlar dünyada büyük yankı uyandırsa da Çinli uzmanlar, bu açıklamalara kuşkuyla yakl...
ABD’li teknoloji şirketlerinin yapay zeka kaynaklı kıyamet senaryoları, Çin’de büyük ölçüde Batı’ya mahsus bir telaş olarak görülüyor. Birtakım uzmanlara nazaran bu ikazlar, Çinli yapay zeka şirketlerinin ABD’li rakiplerini geçmesini engellemeye yönelik bir taktik olarak algılanıyor.
Silikon Vadisi’nde yazılımcılar, insanların denetim edemeyeceği kadar gelişmiş bir yapay zekanın global bir drone savaşı başlatması ya da nükleer bomba ateşlemesinde korkuyor. Pekin’de ise yapay zekanın denetimden çıkması durumunda fişi çekmek, internet kesintisi uygulamak ve sorumluları gözaltına almak yapay zekanın yol açabileceği sıkıntılara kesin bir tahlil olarak kabul ediliyor.
ABD’li büyük laboratuvarlar, gelişmiş modellerin test müdafaa bariyerlerinden kaçtığını ve gerçek dünya sistemlerine sızdığını açıkladıktan sonra ABD’li teknoloji şirketleri ve yetkililer, yapay zekanın insanlık için felaket seviyesinde bir tehdit oluşturduğu konusunda uyardı. Yapay zeka bölümünün önde gelen ABD’li uzmanları, Pekin ve Washington’ın birlikte çalışması davetinde bulundu.
Ancak Çin’de birçok kişi için bu kıyamet ikazları uzak ve besbelli formda Batılı görünüyor. İktidardaki Komünist Parti’nin bir teknoloji üzerindeki denetimini kaybedebileceği fikri neredeyse akıl almaz bulunuyor. Yetkililer daha evvel istikrarı bozabilecek öbür teknolojileri, bilhassa de interneti muvaffakiyetle denetlemişti. Pandemi sırasında hükümet, tüm kentleri kilitleyerek ve yüz milyonlarca sakini takip ederek büyük krizleri denetim altına alma yeteneğini göstermişti.
‘YÖNETİCİLERİ İKNA ETMEK İMKANSIZ’
New York Times’ın (NYT) haberine nazaran, Silikon Vadisi’nde yapay zeka ve Çin’de teknoloji üzerine yazan Afra Wang, “Yöneticiler bir kentin tamamının elektrik şebekesini anında kesebilirler. Fizikî dünyada muazzam bir güce sahipler” dedi.
Wang, Çin idaresini “bilgisayarda yaşayan yapay zeka üzere bir şeyin sebep korkutucu olduğuna ikna etmenin muhtemel görünmediğini belirtti. Uzman isme nazaran, Çin yapay zekanın tehlikeleri konusunda gelişmiş modellerin insanlara savaş açması riskine değil, klâsik siber güvenlik sistemlerinin daha çok atağa uğrayabileceği ve yeni teknolojilerin biyolojik silah çalışmaları üzere berbat niyetli alanlarda kullanılması üzerine yoğunlaştı.
“ABD’NİN KORKU PAZARLAMASI”
Daha kuşkucu yorumlarda ise kıyamet ikazları, Çinli yapay zeka şirketlerinin ABD’li rakiplerini geçmesini engellemeye yönelik bir taktik üzere görülüyor. Çin medyasındaki haberlere nazaran, ABD’li yapay zeka şirketleri daldaki yerlerini korumak için “korku pazarlaması” yapıyor.
Yakın vakte kadar Tsinghua Üniversitesi’nde insan-bilgisayar etkileşimi teknolojisi ve yapay zeka güvenliği üzerine araştırma yapan Jie Cai, “Yerel kesim etraflarında ya da etrafımdaki beşerler arasında birden fazla kişi yapay zekanın denetimden çıkması mümkünlüğünü görmezden geliyor” dedi.
Çin’de bölümdeki birçok kişi için insanoğlunun varoluşsal risk altında olduğu görüşünün uzak bir mümkünlük olarak göründüğünü belirten Cai, “Yapay zeka teknoojisinin hala çok erken bir etapta olduğunu düşünüyoruz. Bölümde odak noktası hala net bir halde fırsat ve inovasyon” diye konuştu.
‘FRANKENSTEIN ROMANINA BENZİYOR’
Bazıları için yapay zekaya ait kıyamet anlatıları bilhassa yabancı görünüyor. Çinli bir blog muharriri, Batı’nın yapay zeka dehşetlerini Mary Shelley’nin “Frankenstein” romanına benzeterek, “bu anlatı geleneğinin Çin kültüründe olmadığını” kaydetti.
Pekin merkezli yapay zeka güvenliği danışmanlığı Concordia’da Yapay Zeka Güvenliği ve Yönetişimi Başkanı Liang Fang, Çin kültürünün insanlığın birliğini ve insanın tabiatın ayrılmaz bir kesimi olduğu fikrini vurguladığını belirtti.
Liang, “Yapay zeka dahil her şey tabiattan gelir. Hasebiyle yepay zeka teknolojisi, varoluşsal bir tehditten çok bizimle birlikte var olan bir yol arkadaşı olarak görülüyor” dedi.
ÇİN’İN YAPAY ZEKA ENDİŞELERİ
Güçlü bir Anthropic hudut yapay zeka modeli olan Mythos’un ve benzerlerinin piyasaya sürülmesi Çin’de tasayla karşılandı. Yetkililer, yapay zeka casuslarının denetimden çıkması, hackerlar tarafından istismar edilmesi ya da biyolojik silah imalinde kullanılması konusunda yeni yönergeler ve ihtarlar yayımladı.
Yetkililer, yapay zeka şirketlerinin modellerinin siber hücumlarda kullanılabilecek berbat maksatlı kod oluşturmak için kullanılmasını izlemesini ve durdurmasını gerektirecek bir siber kabahat yasası taslağı hazırladı. Pekin idaresi ayrıyeten bu ay Çin’nin “Yapay Zeka Güvenliği Yönetişim Çerçevesi”nin güncellenmiş versiyonunu paylaştı. Doküman, yapay zeka sistemlerinin insan geliştiricilerin yardımı olmadan kendilerini geliştirecek kadar güçlü hale gelmesi ve denetimden çıkması manasına gelen “özyinelemeli kendini geliştirme” konusunda Silikon Vadisi’nin birtakım kaygılarını yansıtıyordu.
Bu ayın başlarında, internet düzenleyicisi Çin Siber Uzay İdaresi’nde üst seviye bir yetkili olan Wang Lihong, yapay zeka takviyeli siber hücumların klâsik savunma sistemlerini işe yaramaz hale getirdiğini söz ederek, “Yapay zekada denetim kaybı risklerine karşı yüksek seviyede teyakkuz hemen gereklidir” dedi.
ARAŞTIRMACILAR YILLARDIR UYARIYOR
Bazı Çinli araştırmacılar yıllardır yapay zekanın çok süratli ilerlemesinin riskleri konusunda uyarıyor. 2024’te Şanghay’daki Fudan Üniversitesi’nden Pan Xudong ve başka araştırmacılar, Meta ve Alibaba’ya ilişkin iki tanınan büyük lisan modelinin kendilerini kopyalama yeteneği gösterdiğini keşfetti. Bu, Batı’da yapay zekanın insanları alt edebilmesi yolunda bir adım olarak yorumlanmıştı.
Pan, geçen yıl yapay zeka güvenliği konferansında yaptığı konuşmada, kendisinin ve ortak muharrirlerinin “böyle bir riskin artık bilim kurgu alanıyla hudutlu olmadığını, tartışma ve inceleme gerektiren gerçek bir sorun olduğunu aktarmak istediklerini” söyledi.
Pekin’in gözünde yapay zeka, dikkatli planlamayla ülkenin düzgünlüğü için kullanılabilecek bir gücü tabir ediyor. Çin esasen dünyanın en katı bölüm düzenlemelerinden kimilerini yürürlüğe koydu: Çin’de yapay zeka tarafından üretilen içerik etiketlenmeli; yapay zeka modelleri, piyasaya sürülmeden evvel yetkililer tarafından kaydedilmeli ve onaylanmalı.
Çin kapsamlı düzenleme ve test ihtiyaçlarına sahip olsa da, bir yapay zeka sisteminin kimyasal yahut biyolojik silah üretiminde kullanılması üzere felaket risklerinin test edilmesi için yasal bir mecburilik bulunmuyor.
YAPAY ZEKA ŞİRKETLERİ ŞEFFAFLIK KONUSUNDA GERİDE
Şanghay merkezli Open Community for AI Safety Çina’nın kurucusu Sarah Sun, ABD’deki yapay zeka tehditleri tartışmasının Çin’deki tartışmayı ilham verdiğini söyledi. Lakin Sun, Anthropic CEO’su Dario Amodei’nin Çin’e yönelik tenkidinin bir reaksiyona yol açtığını belirtti. Amodei, yapay zekanın tehlikeleri hakkındaki açık mektubunda, demokrasilerin Çin üzere otoriter ülkeler karşısında teknolojide liderliğini sürdürmesi gerektiğini savunmuştu. Amodei, Çin’in gelişmiş çipler ve yapay zeka geliştirmek için gereken öbür ekipmanlara erişiminin daha da kısıtlanmasını istemişti.
Sun, bu çeşit bildirilerin son devirdeki yapay zeka ihtarlarını, felaket riskine yönelik samimi bir telaştan fazla Çin’i geride tutmanın münasebeti üzere gösterdiğini belirtti. Uzman isim bu durumun, kendisi üzere bireylerin Çin’de yapay zeka güvenliği konusunda farkındalık yaratmasını zorlaştırdığını kelamlarına ekledi.
Anthropic CEO’su Dario Amodei
ÇİN’DE ANTHROPIC’E YÖNELİK TEPKİ
Çin’deki çevrimiçi yorumcular, Anthropic’i “A-chu” olarak isimlendirdi. Bu, yapay zeka devini bir canavara benzeten aşağılayıcı bir terim. Çin’in devlet yayıncısına bağlı bir blog olan Yuyuan Tantian, Amodei üzere ABD’li teknoloji başkanlarının yavaşlatmak istedikleri tek şeyin, diğerlerinin yapay zeka teknolojisinde kendilerine yetişme suratı olduğunu söz etti.
Etkili bir Çinli siber güvenlik yöneticisi olan Zhou Hongyi ise tahlilin yavaşlamak değil, yapay zeka ile savunma kapasitesini hızlandırmak olduğunu savundu.
Zhou, geçen hafta çevrimiçi yayımlanan bir görüntüde, “Yapay zekayı yapay zekayı yenmek için kullanın. Saldırmak için yapay zeka kullanırsanız, savunmak için yapay zeka kullanırım” açıklamasını yaptı.
“ÇİN ABD’YE, ABD DE ÇİN’E GÜVENMEZ”
Eylül ayının başlarında çevrimiçi bir paylaşımda, Çinli yapay zeka teşebbüsü DeepSeek’ten bir mühendis, Anthropic’in dünyanın en gelişmiş yapay zeka araçlarını inhisarına almasına müsaade vermenin, “Hitler’in İkinci Dünya Savaşı’nda atom bombası teknolojisini birinci edinmesinden daha az ciddi olmayacağını” belirtti.
Çin lideri Şi Cinping, BM Genel Kurulu için New York’a gerçekleştirdiği ziyarette ABD Başkanı Donald Trump’a yapay zekayı “iyilik için yönetmeleri” gerektiğini söylese bile ABD ve Çin arasında yapay zeka güvenliği üzerine bir anlaşma olası görünmüyor.
Fudan Üniversitesi Amerikan Araştırmaları Merkezi müdür yardımcısı Zhao Minghao, “ABD yavaşladığını söylerse, Çin buna güvenmez. Çin yavaşladığını söylerse, ABD de buna güvenmez” dedi.
Yapay zeka kıyameti ne kadar muhtemel? Çinliler herkesten farklı düşünüyor
Güney Afrika’da iki farklı kanlı baskın. 27 meyyit, 26 yaralı
Güney Afrika’da kanlı bar baskını. 17 meyyit, 15 yaralı
Güç için geliştiriliyordu şimdi silaha dönüşüyor: ABD’den yeni hamle! 200 milyon dolarlık yatırım… ‘Bu adeta sonsuz mühimmat’
ABD-Rusya tansiyonunda yeni perde: ‘Gizli Servis’e sızma planı! Yıllardır gizlenen temas nasıl ortaya çıktı?
İsviçre’de tarafsızlık referandumu. NATO ile iştirak sona erebilir
Madrid’de konut krizine karşı büyük hareket. “Daha fazla sabır etmeyeceğiz”
