BM'de 'katil robotlar' zirvesi: Otonom silahlara yasal sınır yolda

Birleşmiş Milletler, "katil robotlar" olarak da bilinen otonom silahlara sınır getirmek amacıyla Cenevre'de önemli bir konferans başlıyor. Yapay zeka destekli ölümcül otonom silahlar savaşın doğasını kökten değiştirmeye hazırlanırken, bu teknolojiyi denetleyecek yasal bir çerçeve henüz mevcut değil.

Belirli Konvansiyonel Silahlar Sözleşmesi kapsamında yapılacak toplantıların, hızla gelişen silah teknolojisine yetişip yetişemeyeceği ise uzun süredir tartışılıyor.

Ahlaki kırmızı çizgi uyarısı

Birleşmiş Milletler Genel Sekreteri Antonio Guterres ile Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride tehlikeye dikkat çekti. İki lider, "Makinelerin insanları otonom olarak hedef alması" uyarısında bulunarak ahlaki bir kırmızı çizgiye tehlikeli biçimde yaklaşıldığını vurguladı.

Her iki isim, otonom silah sistemlerinin uzak bir geleceğin parçası olmadığını ve bu alandaki yarışın çoktan başladığının altını çizdi.

İnsan kontrolü nerede başlıyor ve nerede bitiyor?

Cenevre Güvenlik Politikaları Merkezi'nden Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri'ni "bir insan operatörün müdahalesi olmadan hedefi belirleyebildiği, seçebildiği ve hedefe yönelebildiği" olarak tanımladı.

Otonom silahlar aslında uzun süredir var. Ancak Fransız uzmanlar, anti-personel mayınlarının da üzerine basıldığında patladığı için bu anlamda otonom sayıldığını belirtiyor. Asıl değişim, yapay zeka destekli insansız hava araçlarının yaygınlaşmasıyla yaşandı.

Rickli'ye göre bu silahlar artık önceden belirlenmemiş bir hedefi seçip vurabiliyor ve insan müdahalesi olmadan çevrelerine uyum sağlayabiliyor. Bu nedenle düzenleyiciler için temel mesele, silahın kullanım kararında insan kontrolünün ne düzeyde olacağının belirlenmesi.

Farklı ülkelerin yaklaşımları

• ABD: Otonom silahların kullanımında "uygun düzeyde insan muhakemesi" ifadesini kullanıyor.
• Fransa: İnsanın karar alma döngüsünde kalması gerektiğini savunuyor; tam otonom sistemleri yasaklarken kısmen otonom sistemlere izin veriyor.
• Çin: Ocak ayında otonom insansız hava araçlarını "savaşın yeni yüzü" olarak tanımladı.

Fransa Savunma Bakanlığı'na bağlı Savunma Yapay Zekası Ajansı Başkan Yardımcısı Tümamiral Vincent Sebastien, insan rolünün askeri bir komutanın "uygun kontrolü" ile sağlandığını, bu kavramın kapsamının sistemin kritikliğine ve operasyonel bağlama göre değiştiğini ifade etti.

Cenevre'deki gündem sahadaki gerçeğe yetişemiyor

Uzmanlar, Cenevre'deki görüşmelerin önemli olmakla birlikte meselenin yalnızca bir kısmına dokunacağını düşünüyor. Rickli, Cenevre'deki gündemin "çok dar" olduğunu ve savaş alanındaki yapay zekayı çevreleyen tüm sorunları kapsayamadığını söyledi.

De Roucy-Rochegonde ise hedefleme ve karar destek sistemleriyle ilişkili bir dizi kabul edilemez risk olduğunu belirterek şu soruyu sordu: "Operatörün, makinenin önerilerini sadece onaylamak yerine gerçekten kendi muhakemesini kullandığından emin olmak için nasıl bir insan denetimi gerekiyor?"

Büyük güçler silah yarışına çoktan başladı

Cenevre'de tartışılacak otonom silahlar henüz yaygın kullanımda olmasa da uzmanlar, büyük çatışmalarda bu sistemlerin kullanıldığına dikkat çekiyor. Tümamiral Sebastien, "Otonomi çok yakında savaş alanında bir gerçeklik haline gelecek" uyarısında bulundu.

Buna rağmen ciddi şüpheler sürüyor. Yapay zeka şirketi Anthropic'in başkanı Dario Amodei bu yıl, en gelişmiş yapay zeka sistemlerinin tam otonom silahları yönetecek kadar güvenilir olmadığını dile getirdi.

Yine de büyük güçler için bu teknolojinin sunduğu teşvikler son derece güçlü. Otonom insansız hava aracı sürülerinin düşmanı yoğunlukla etkisiz hale getirmeyi amaçladığı ve bazı devletler için kritik bir stratejik avantaj sağlayacağı belirtiliyor.

Cambridge Üniversitesi araştırmacısı Gerald Mako ise otonom silahlar konusunda şu uyarıyı yaptı: "Bu keskin askeri rekabet çağında, tam otonom ölümcül saldırıları normalleştiren ilk devlet, herkes için beklentileri sıfırlayacaktır."