BM’de “katil robotlar” doruğu. Otonom silahlara yasal hudut gelebilir

Birleşmiş Milletler (BM), “katil robotlar” olarak da anılan otonom silahlara hudut getirmek için Pazartesi günü Cenevre’de konferansa başlıyor.

Yapay zeka dayanaklı ölümcül otonom silahlar savaşın tabiatını kökten değiştirmeye hazırlanırken, bu teknolojiyi denetleyecek yasal bir çerçeve şimdi yok.

Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamında yapılacak toplantıların, süratle gelişen silah teknolojisine yetişip yetişemeyeceği ise tartışmalı.

Birleşmiş Milletler Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride tehlikeye dikkat çekti.

İki önder, “Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak amaç alması” ikazını yaptı.

Guterres ve Spoljaric, otonom silah sistemlerinin uzak bir geleceğin kesimi olmadığını ve bu alandaki yarışın çoktan başladığını vurguladı.

Cenevre Güvenlik Politikaları Merkezi Küresel ve Yükselen Riskler Bölüm Başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri’ni (LAWS) tanımladı.

Fransız AFP ajansına konuşan Rickli, bu sistemlerin “bir insan operatörün müdahalesi olmadan gayesi belirleyebildiğini, seçebildiğini ve maksada yönelebildiğini” söyledi.

Aslında otonom silahlar uzun süredir var.

Fransa Uluslararası İlişkiler Enstitüsü (IFRI) Teknoloji Jeopolitiği Merkezi’nden Laure de Roucy-Rochegonde, anti-personel mayınlarının da üzerine basıldığında patladığı için bu manada otonom sayıldığını belirtti.

Ancak yapay zeka dayanaklı insansız hava araçlarının (İHA) yaygınlaşması durumu değiştirdi.

Rickli’ye nazaran bu silahlar artık “önceden belirlenmemiş bir gayesi seçip vurabiliyor ve insan müdahalesi olmadan etraflarına ahenk sağlayabiliyor”.

Bu sebeple düzenleyiciler için temel sorun, silahın kullanım kararında insan denetiminin ne seviyede olacağını belirlemek.

ABD, otonom silahların kullanımında “uygun seviyede insan muhakemesi” tabirini kullanıyor.

Fransa ise insanın karar alma döngüsünde kalması gerektiğini savunuyor ve tam otonom sistemleri (LAWS) yasaklarken, “kısmen otonom” sistemlere (PLAWS) müsaade veriyor.

Fransa Savunma Bakanlığı’na bağlı Savunma Yapay Zekası Ajansı (AMIAD) Başkan Yardımcısı Tümamiral Vincent Sebastien, insan rolünün askeri bir komutanın “uygun kontrolü” ile sağlandığını belirtti.

Sebastien, bu kavramın kapsamının “sistemin kritikliğine ve operasyonel bağlama nazaran değiştiğini” tabir etti.

Uzmanlar, Cenevre’deki görüşmelerin değerli olmakla birlikte sorunun sırf bir kısmına dokunacağını düşünüyor.

Bugün insan rolünün azalması, yapay zekanın tahlil ve hedefleme alanlarında giderek daha fazla kullanılmasından kaynaklanıyor.

Rickli, Cenevre’deki gündemin “çok dar” olduğunu ve “savaş alanındaki yapay zekayı çevreleyen tüm problemleri kapsayamadığını” söyledi.

Rickli, bunun bu yıl ABD ve İsrail’in İran’a karşı yürüttüğü savaşta görüldüğünü, “Amerikalıların İran içinde günde bin kadar amacı vurduğunu” aktardı.

De Roucy-Rochegonde ise “hedefleme ve karar dayanak sistemleriyle alakalı bir dizi sorun ve kabul edilemez riskler” olduğunu ekledi.

Fransız uzman, “Bu tartışmanın bir kısmı, halihazırda savaş alanında yaygın olarak kullanılan sistemlerle ilgili” dedi.

De Roucy-Rochegonde şu soruyu sordu: “Operatörün, makinenin tekliflerini yalnızca onaylamak yerine nitekim kendi muhakemesini kullandığından emin olmak için nasıl bir insan kontrolü gerekiyor?”

Cenevre’de tartışılacak otonom silahlar şimdi yaygın kullanımda değil.

Ancak uzmanlar, Rusya’nın Ukrayna’daki askeri müdahalesinde ve ABD’nin İran’daki akınlarında bu sistemleri kullandığına dikkat çekiyor.

Tümamiral Sebastien, “Otonomi çok yakında savaş alanında bir gerçeklik haline gelecek” ihtarında bulundu.

Buna karşın önemli kuşkular ve tehlikeler sürüyor.

Yapay zeka şirketi Anthropic’in başkanı Dario Amodei bu yıl, “Bugün en gelişmiş yapay zeka sistemleri, tam otonom silahları yönetecek kadar emniyetli değil” dedi.

Yine de büyük güçler için bu teknolojinin sunduğu teşvikler çok güçlü.

Rickli, “düşmanı yoğunlukla etkisiz hale getirmeyi amaçlayan” otonom İHA sürülerinin son derece tesirli olacağını ve birtakım devletlerin bunu kritik bir stratejik avantaj olarak gördüğünü söyledi.

Çin Savunma Bakanlığı da Ocak ayında otonom İHA sürülerini “savaşın yeni yüzü” olarak tanımladı.

Cambridge Üniversitesi araştırmacısı Gerald Mako ise Small Wars Journal mecmuasındaki değerlendirmesinde şu uyarıyı yaptı:

“Bu keskin askeri rekabet çağında, tam otonom ölümcül taarruzları olağanlaştıran birinci devlet, herkes için beklentileri sıfırlayacaktır.”