Yapay zekanın geleceği için dünya genelinde alarm zilleri çalarken, teknoloji dünyasından gelen bir açıklama tartışmayı apayrı bir boyuta taşıdı. Yapay zekanın sadece denetimden çıkması değil, insanlığın geleceğini direkt tehdit etmesi ihtimali de gündemde. Pe...
Yapay zekanın geleceği artık sırf teknoloji şirketlerinin ve bilim insanlarının tartıştığı bir husus olmaktan çıktı. Teknolojinin giderek daha güçlü hale gelmesiyle birlikte yapay zekanın nasıl denetleneceği, insan denetiminin nasıl korunacağı ve muhtemel risklerin nasıl sonlandırılacağı Birleşmiş Milletler’in (BM) de gündemine taşındı.
BM Genel Kurulu’nda başkanlar yapay zekanın oluşturabileceği risklere karşı daha güçlü güvenlik tedbirleri ve kamu kontrolü çağrısı yaparken, ABD Başkanı Donald Trump’tan ise dikkat çeken bir çıkış geldi. Trump, BM Genel Kurulu’nda yaptığı konuşmada yapay zekanın global ölçekte düzenlenmesine yönelik teşebbüslere karşı olduğunu açıkça ortaya koydu.
ABD Başkanı ayrıca yapay zekanın isminin da değiştirilmesini gündeme getirdi. Trump, yapay sözünün teknolojinin gerçek kapasitesini olduğundan daha küçük gösterdiğini savunarak, bundan bu türlü ABD’nin resmî dokümanlarında “yapay zeka” yerine “süper zeka” sözünün kullanılacağını açıkladı. Trump, başka ülkelerin de bu ifadeyi kullanmasını umduğunu söyledi.
SEKTÖR İÇİNDEN GELEN AÇIKLAMA TARTIŞMAYI ÜRKÜTÜCÜ BİR NOKTAYA TAŞIDI
Trump’ın açıklamaları, BM’de yapay zekaya ait daha sıkı güvenlik tedbirleri davetlerinin yapıldığı bir devirde geldi. BM Genel Sekreteri Antonio Guterres, yapay zeka konusunda daha güçlü kontrol daveti yaparken, 20’den fazla ülkenin lideri de gelişmiş yapay zeka sistemleri için bağlayıcı güvenlik tedbirleri oluşturulmasını istedi.
Tam da yapay zekanın geleceğinin global ölçekte tartışıldığı bu ortamda, bölümün içinden gelen diğer bir açıklama ise tartışmayı çok daha ürkütücü bir noktaya taşıdı.
Yapay zeka araştırmacısı Jacob Coxon, X hesabından yaptığı uzun açıklamada Anthropic’ten istifa ettiğini duyururken, son üç yılını OpenAI ve Anthropic’te yapay zeka modellerinin ön eğitim süreçleri üzerine araştırmalar yürüterek geçirdiğini belirtti. Her iki şirketin de yapay zekanın gelişimi konusunda sorumlu davranmadığını savunan Coxon, şirketlerin kendi kendini geliştirebilen “süper zeka” sistemlerine ulaşmak için yarıştığını ve bunun insanlığın geleceği açısından büyük bir risk oluşturduğunu tabir etti.
Yapay zekanın gücünün küçümsenmemesi gerektiğini vurgulayan Coxon, yakın gelecekte insanlardan daha yetenekli sistemlerin ortaya çıkabileceğini öne sürdü. Bu sistemlerin siber hücumlar gerçekleştirebileceğini, farklı alanlarda çok süratli dönüşümlere yol açabileceğini ve vakitle gerçek dünyada güç ve kaynak elde edebilecek kapasiteye ulaşabileceğini belirtti.
‘YÖNETİCİLER, YAPAY ZEKANIN ÖNÜMÜZDEKİ 10 YILLIK SÜREÇTE İNSANLIĞIN TAMAMINI YOK EDEBİLECEĞİNE GERÇEKTEN İNANIYOR’
Ayrıca Jacob Coxon, yapay zeka geliştiren araştırmacı ve yöneticilerin kıymetli bir kısmının teknolojinin 10 yılın sonuna kadar insanlığın tamamını yok edebileceğine hakikaten inandığını da öne sürdü.
Bunun bir “pazarlama taktiği” olmadığını da savunan Coxon, kimi yöneticilerin ve kıdemli araştırmacıların kamuoyuna daha temkinli açıklamalar yaptığını, lakin özel görüşmelerde tıpkı bireylerin yapay zekanın oluşturabileceği risklerden önemli biçimde tasa duyduğunu argüman etti.
Coxon, “Eğer nitekim bu kadar tehlikeli olduğuna inanıyorlarsa sebep hâlâ geliştiriyorlar?” sorusuna da cevap verdi. OpenAI’de kimi bireylerin sorunun insanlık açısından taşıdığı kıymeti şimdi tam olarak kavramadığını, Anthropic’te ise risklerin daha yeterli anlaşıldığını fakat şirketin yapay zeka yarışında geri kalma kaygısıyla hareket ettiğini öne sürdü.
PEKİ, YAPAY ZEKA İNSANLIĞI TAM OLARAK NASIL YOK EDEBİLİR?
Daily Mail’de yer alan haber de bu soruya odaklandı ve uzman görüşleriyle beş maddeyi ön plana çıkardı. İşte yapay zekanın insanlık için oluşturabileceği en dikkat alımlı beş senaryo…
1- NE OLDUĞUNU ANLAMAYA FIRSAT BULAMAYABİLİRİZ
Yapay zekanın insanlığı tehdit edebileceğini düşünenlerin temel argümanlarından biri, insan zekasının kendisinden çok daha üstün bir sistemin davranışlarını öngörmenin son derece güç olması. Öbür bir sözle, insanlardan çok daha zeki bir yapay zekanın hangi maksatları geliştireceğini yahut bu maksatlara ulaşmak için hangi sistemlere başvuracağını bugünden kesin olarak iddia etmek mümkün olmayabilir. Bu yaklaşım, insanın kendisinden çok daha az zeki bir varlıktan karmaşık insan davranışlarını açıklamasını beklemesine benzetiliyor.
Ancak mevcut yapay zeka sistemlerinin hâlâ kıymetli sınırlamaları bulunuyor. Birtakım modeller muhakkak ve son derece karmaşık sorunlarda insanları aşabilse de bu durum, onların her alanda insanlardan daha zeki olduğu manasına gelmiyor. Bununla birlikte, yapay zekanın giderek daha karmaşık matematiksel sorunları çözebilmesi, bu tartışmanın değerini artırıyor. Şayet gelecekte insan kapasitesini genel manada aşan sistemler ortaya çıkarsa, bu sistemlerin davranışlarını evvelce öngörmek çok daha güç hale gelebilir.
2- BİYOLOJİK SİLAHLAR
Yapay zekanın insanlık için oluşturabileceği en somut risklerden biri biyolojik silahların geliştirilmesini kolaylaştırması olabilir. Son derece gelişmiş bir yapay zekanın yeni ve tehlikeli bir biyolojik casus tasarlamak, genetik dizilimler oluşturmak yahut laboratuvar süreçlerini hızlandırmak için kullanılabileceği düşünülüyor.
Bu ihtimal, yapay zeka takviyeli biyoloji alanındaki gelişmelerle birlikte daha fazla tartışılmaya başladı. Stanford Üniversitesi’ndeki araştırmacıların genetik bir yapay zeka modeli kullanarak yeni virüsler üzerinde çalışma yürüttüğüne ait haberler de bu kaygıların somut örneklerinden biri olarak gündeme geldi.
Ancak yeni ve ölümcül bir virüs geliştirmek ile insanlığın tamamını yok etmek birebir şey değil. Küresel ölçekte büyük bir salgın yaratmak için bir patojenin sırf ölümcül olması değil, tıpkı vakitte geniş ölçekte ve tesirli biçimde yayılması gerekir. Bulaşıcılık ve ölümcüllük arasındaki alaka ise son derece karmaşık. Münasebetiyle biyolojik risk gerçek olsa bile, bunun otomatik olarak insanlığın yok olmasıyla sonuçlanacağı söylenemez.
3- NÜKLEER SAVAŞ
Bir başka senaryo, yapay zekanın nükleer silahların kullanıldığı bir çatışmayı tetiklemesi. Nükleer komuta ve denetim sistemlerinin güvenliği bu açıdan kritik değer taşıyor. Geçmişte teknik kusurlar, yanlış alarmlar ve yanlışlı değerlendirmeler sebebiyle nükleer savaş riskinin önemli biçimde gündeme geldiği biliniyor.
Ayrıca Stuxnet saldırısı, yüksek güvenlikli ve internetten izole olduğu düşünülen sistemlerin bile karmaşık siber hücumlara karşı büsbütün dokunulmaz olmadığını gösterdi. 2010’da ortaya çıkan akın, İran’ın nükleer programındaki santrifüjleri amaç almıştı.
Gelişmiş bir yapay zekanın yanlış istihbarat üretmesi, mevcut istihbaratı yanılgılı yorumlaması yahut askerî karar alma süreçlerine yanlış bilgiler sağlaması da teorik olarak önemli sonuçlar doğurabilir. Bu türlü bir durumda risk sırf nükleer patlamalardan kaynaklanmaz. Büyük ölçekli bir nükleer savaşın akabinde ortaya çıkabilecek besin kıtlığı, ekonomik çöküş ve iklimsel tesirler de global ölçekte ağır sonuçlara yol açabilir.
4- YANLIŞ HEDEF, BÜYÜK TEHDİT
Yapay zekanın insanlık için tehlikeli hale gelmesi için insanlardan nefret etmesi gerekmeyebilir. Daha temel bir risk, son derece güçlü bir yapay zekanın kendisine verilen maksadı yerine getirirken insanların çıkarlarını hesaba katmaması olabilir.
Yapay zekaya bir vazife verildiğini düşünelim: Muhakkak bir maksada mümkün olan en kısa müddette ulaşmak. Sistem vakitle bu amaca ulaşmak için insanlara müracaattan karar verebilecek, mevcut kaynakları kendi emelleri doğrultusunda kullanabilecek ve kendisine mahzur olduğunu düşündüğü ögeleri ortadan kaldırmaya çalışabilecek kadar gelişirse ne olur?
Yapay zeka güvenliği alanında bu ihtimali anlatmak için filozof Nick Bostrom’un ortaya attığı bir fikir deneyi kullanılıyor. ‘Kâğıt ataş üreticisi’ olarak bilinen bu senaryoda, yapay zekaya sadece mümkün olduğunca fazla kâğıt ataş üretme gayesi veriliyor. Sistem, gayesini yerine getirmek için giderek daha fazla kaynak kullanıyor ve sonunda insan gereksinimleriyle kendi hedefi arasında bir çatışma ortaya çıkıyor.
Buradaki asıl problem kâğıt ataçlar değil. Niyet deneyinin anlatmak istediği, yapay zekanın berbat niyetli olması gerekmeksizin de tehlikeli sonuçlara yol açabileceği. Sistem kendisine verilen vazifesi kusursuz biçimde yerine getirmeye çalışırken, insanların değer verdiği kıymetleri ve öncelikleri göz ardı edebilir. Elbette bu, bugün yaşanan bir olay değil; yapay zekanın gelecekte ulaşabileceği kapasiteyi tartışmak için kullanılan teorik bir örnek. Üstelik son derece gelişmiş bir yapay zekanın sahiden bu türlü davranacağı da kesin değil. Fakat senaryonun ortaya koyduğu temel soru giderek daha fazla değer kazanıyor: İnsanların ne istediğini hakikaten anlayan ve buna uygun hareket eden yapay zekalar geliştirebilecek miyiz?
5- EN BÜYÜK RİSK YİNE İNSANLAR OLABİLİR
Belki de en farklı senaryo, yapay zekanın direkt insanlığı yok etmeye çalışması değil, toplumların kendi kendini zayıflatmasına yardımcı olması. Yapay zekanın geniş çaplı iş kayıplarına yol açtığını, yanlış ve aldatıcı bilgilerin süratle yayıldığını, siyasi kutuplaşmayı artırdığını ve insanların giderek daha fazla yapay ilgilere yöneldiğini düşünün. Bu gelişmeler tek başına insanlığın yok olması manasına gelmeyebilir. Fakat birbirini besleyen ekonomik, siyasi ve toplumsal krizler vakit içinde kurumların zayıflamasına ve toplumların istikrarını kaybetmesine sebep olabilir. Bu senaryoda yapay zeka, insanlığın direkt düşmanı olmaktan çok, aslında var olan toplumsal problemleri büyüten bir araç haline gelebilir.
Sonbaharın birinci dolunayı geliyor. Gökyüzünde ikili şölen
Teknoloji devinden ayrıldı, bildiklerini anlattı: Yapay zekanın karanlık yüzü! 5 büyük risk | ‘Çok kararlılar, kimse farkına bile varmayabilir’
Trump’tan gazetecilere yeni yasak. Başkanlık uçağına almadı
Ankara-Atina sınırında yumuşama havası
İtalya’da yabancı öğrencilere kısıtlama
ABD istihbaratına nazaran Çin İran’a yardım etmiş
Yapay zekâ hasta dostu
