Otonom Silahlar: Makineler Savaşta Kimin Öleceğine Karar Verecek mi?
Birleşmiş Milletler ve Uluslararası Kızılhaç Komitesi, savaş alanlarında insan kontrolü olmaksızın hedef belirleyip saldırı gerçekleştirebilen otonom silah sistemlerinin kontrolsüzce yayılmasının küresel çapta ciddi riskler taşıdığına dair güçlü bir uyarıda bulundu. İki önemli uluslararası kuruluş, makinelerin yaşamsal bir karar olan kimin hedef alınacağına dair nihai kararı vermesini önleyecek, uluslararası düzeyde geçerliliği olan ve hukuki bağlayıcılığı bulunan düzenlemelerin bir an önce oluşturulması için derhal müzakere sürecinin başlatılması gerektiğini vurguladı.
BM Genel Sekreteri António Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric tarafından yapılan ortak açıklamada, bir zamanlar yalnızca bilim kurgu eserlerinde rastlanan bu türden bir teknolojinin gerçeğe dönüşmekte olduğuna dikkat çekildi. Bu teknolojilerin, insan müdahalesine gerek kalmadan kendi sensörleriyle çevreyi analiz ederek, önceden tanımlanmış kriterlere uyan unsurları hedef alıp saldırı başlatabilme potansiyeli taşıdığı belirtildi. Bu durumun, özellikle sivillerin ve silahlı unsurların bir arada bulunduğu kentsel alanlarda ve yoğun nüfuslu bölgelerde büyük bir endişe kaynağı oluşturduğu ifade edildi. Kuruluşlar, makinelerin bir bireye karşı güç kullanıp kullanmayacağına kendi başına karar vermesinin, insanlık adına aşılmaması gereken temel bir ahlaki sınır olduğunu altını çizerek belirtti.
Guterres ve Spoljaric, askeri teknolojinin gelişim hızının, bu türden teknolojileri denetleyebilecek uluslararası hukuk ve düzenlemelerin ilerleyişinin çok ötesine geçtiğine dikkat çekti. Bu nedenle, mümkün olan en kısa süre zarfında, yasal olarak bağlayıcı uluslararası bir anlaşmanın müzakere edilerek hayata geçirilmesi gerektiği çağrısında bulunuldu. Otonom silahların temel ayırt edici özelliği, tamamen insan kontrolünden bağımsız olarak hedef seçme yeteneğidir. Bu, uzaktan kumanda edilen insansız hava araçları veya operatör komutlarına birebir bağlı çalışan robotik sistemlerden daha öte bir durumu ifade etmektedir. Bir sistem, görevlendirildikten sonra çevresini kendi algılayıcılarıyla tarayıp, belirlenmiş özelliklere sahip hedefleri tespit edebildiğinde, insan onayı olmadan o hedefe karşı öldürücü güç kullanabilme yetisine sahip olabilmektedir. Bu, örneğin belirli bir silüeti, hareket biçimini, elektronik sinyali veya bir aracı hedef olarak algılayıp harekete geçmesi anlamına gelebilir. Operatör silah sistemini aktif hale getirmiş olsa bile, hangi hedefin, nerede ve ne zaman vurulacağına dair son kararın bir kısmını makinenin vermesi söz konusu olmaktadır.
Savaş alanındaki karmaşık insan davranışlarını makine algoritmalarının tam olarak kavrayamayacağı endişesi de dile getirildi. Bir kişinin silahını bırakması, teslim olmak için ellerini kaldırması, yaralanmış birine yardım etmeye çalışması gibi durumların, bir algoritma tarafından yalnızca belirli bir hareket paterni olarak algılanabileceği ancak bu hareketlerin hukuki ve insani boyutlarının tam olarak anlaşılamayabileceği belirtildi. Uluslararası insancıl hukuk, savaş esnasında siviller ile savaşanlar arasında ayrım yapılmasını, saldırıların orantılı olmasını ve aşırı risk durumlarında saldırının durdurulmasını gerektirir. Bu tür kritik kararlar, genellikle saniyeler içinde değişen koşullar ve bağlamın derinlemesine değerlendirilmesini zorunlu kılar. Tam da bu nedenle, bir makinenin insan müdahalesi olmaksızın öldürücü güç kullanma yetkisine sahip olması, uluslararası hukuk açısından ciddi bir tartışma konusu haline gelmektedir. Ayrıca, bir hata meydana geldiğinde sorumluluğun kime ait olacağı sorusu da belirsizliğini korumaktadır. Sistemin yanlış bir hedefi tespit ederek sivilleri hedef alması durumunda, suçu işleyen komutan mı, sistemi kullanan ordu mu, yazılımı geliştiren şirket mi, yoksa hedef tanıma sistemini tasarlayan mühendisler mi sorumlu tutulacaktır? Kızılhaç, bu türden sorumluluk belirsizliklerinin büyümeden çözülmesi gerektiğini savunmaktadır. Kuruluşun önerdiği çerçevede, davranışları yeterince öngörülemeyen veya anlaşılamayan silah sistemlerinin kullanımının engellenmesi ve insanları doğrudan hedef almak üzere tasarlanmış otonom silahların tamamen yasaklanması temel prensipler olarak öne çıkmaktadır. Bu kapsamın dışında kalan sistemlerin ise coğrafi ve zamansal sınırlamalar, net biçimde tanımlanmış askeri hedefler, sivillerin bulunmadığı alanlarda kullanım, etkili insan gözetimi ve gerektiğinde silahın derhal durdurulmasını sağlayacak mekanizmalar gibi sıkı kurallara tabi tutulması önerilmektedir.
Mevcut durumda, devletler otonom silah sistemlerini 2014 yılından bu yana Birleşmiş Milletler'in Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) platformunda tartışmaktadır. Ancak, makinelerin insanları kendi başına hedef olarak seçmesini açıkça yasaklayan, bu alana özgü ve yasal olarak bağlayıcı bir uluslararası anlaşma henüz bulunmamaktadır. Güncel uluslararası insancıl hukuk kuralları geçerliliğini korumakla birlikte, bazı devletler mevcut kuralların yeterli olduğunu savunarak yeni ve bağlayıcı yükümlülükler getirilmesine karşı çıkmaktadır. Bu görüş ayrılığı, konuyla ilgili müzakerelerin ilerlemesini yıllardır sekteye uğratmaktadır. Önümüzdeki kritik aşamalardan biri, 2026 yılının Kasım ayında Cenevre'de yapılması planlanan CCW Yedinci Gözden Geçirme Konferansı olacaktır. Kızılhaç, bu konferansın otonom silahlar konusunda somut ve bağlayıcı kurallar oluşturulması için önemli bir fırsat sunduğunu düşünmektedir. Kuruluş, kabul edilemez otonom silahların geliştirilmesini önlemek için gereken yasal çerçevenin büyük ölçüde hazır olduğunu ve müzakereye istekli ülke sayısının arttığını belirtmektedir.
BM ve Kızılhaç'ın bu acil uyarısının temelinde zaman faktörü yatmaktadır. Otonom silahların seri üretime geçmesi, farklı ülkelere ihraç edilmesi ve çok sayıda ordu tarafından kullanılmaya başlanması durumunda, bu teknolojileri sınırlayacak küresel kurallar üzerinde anlaşmaya varmak çok daha zorlu bir hale gelecektir. Bu nedenle, tartışmanın merkezindeki soru artık yalnızca makinelerin savaş alanında kullanılıp kullanılamayacağı ile sınırlı değildir. Asıl kritik soru, bir makinenin kendi değerlendirmesi sonucunda bir insanı hedef olarak belirlemesine ve öldürücü güç kullanmasına izin verilip verilmeyeceğidir. Bir başka ifadeyle, dünya, teknolojinin sunduğu bu bir sonraki adımı atmadan önce nihai bir karar vermek zorundadır: Savaşta son ve geri dönülmez kararı bir insan mı verecek, yoksa kimin öleceğine bir makine mi karar verecek?
