Birleşmiş Milletler, Cenevre’de otonom silahlara sınır getirmeyi tartışırken uzmanlar bu alandaki silah yarışının çoktan başladığını söylüyor.
Birleşmiş Milletler (BM), “katil robotlar” olarak da anılan otonom silahlara sınır getirmek için Pazartesi günü Cenevre’de konferansa başlıyor.
Yapay zeka destekli ölümcül otonom silahlar savaşın doğasını kökten değiştirmeye hazırlanırken, bu teknolojiyi denetleyecek yasal bir çerçeve henüz yok.
Belirli Konvansiyonel Silahlar Sözleşmesi (CCW) kapsamında yapılacak toplantıların, hızla gelişen silah teknolojisine yetişip yetişemeyeceği ise tartışmalı.
Birleşmiş Milletler Genel Sekreteri Antonio Guterres ve Uluslararası Kızılhaç Komitesi Başkanı Mirjana Spoljaric, Ağustos ayında yayımladıkları ortak bildiride tehlikeye dikkat çekti.
İki lider, “Ahlaki bir kırmızı çizgiyi aşmaya tehlikeli biçimde yaklaştık: Makinelerin insanları otonom olarak hedef alması” uyarısını yaptı.
Guterres ve Spoljaric, otonom silah sistemlerinin uzak bir geleceğin parçası olmadığını ve bu alandaki yarışın çoktan başladığını vurguladı.
İNSAN KONTROLÜ NEREDE BAŞLIYOR VE NEREDE BİTİYOR?
Cenevre Güvenlik Politikaları Merkezi Küresel ve Yükselen Riskler Bölüm Başkanı Jean-Marc Rickli, Ölümcül Otonom Silah Sistemleri’ni (LAWS) tanımladı.
Fransız AFP ajansına konuşan Rickli, bu sistemlerin “bir insan operatörün müdahalesi olmadan hedefi belirleyebildiğini, seçebildiğini ve hedefe yönelebildiğini” söyledi.
Aslında otonom silahlar uzun süredir var.
Fransa Uluslararası İlişkiler Enstitüsü (IFRI) Teknoloji Jeopolitiği Merkezi’nden Laure de Roucy-Rochegonde, anti-personel mayınlarının da üzerine basıldığında patladığı için bu anlamda otonom sayıldığını belirtti.
Ancak yapay zeka destekli insansız hava araçlarının (İHA) yaygınlaşması durumu değiştirdi.
Rickli’ye göre bu silahlar artık “önceden belirlenmemiş bir hedefi seçip vurabiliyor ve insan müdahalesi olmadan çevrelerine uyum sağlayabiliyor”.
Bu nedenle düzenleyiciler için temel mesele, silahın kullanım kararında insan kontrolünün ne düzeyde olacağını belirlemek.
ABD, otonom silahların kullanımında “uygun düzeyde insan muhakemesi” ifadesini kullanıyor.
Fransa ise insanın karar alma döngüsünde kalması gerektiğini savunuyor ve tam otonom sistemleri (LAWS) yasaklarken, “kısmen otonom” sistemlere (PLAWS) izin veriyor.
Fransa Savunma Bakanlığı’na bağlı Savunma Yapay Zekası Ajansı (AMIAD) Başkan Yardımcısı Tümamiral Vincent Sebastien, insan rolünün askeri bir komutanın “uygun kontrolü” ile sağlandığını belirtti.
Sebastien, bu kavramın kapsamının “sistemin kritikliğine ve operasyonel bağlama göre değiştiğini” ifade etti.
CENEVRE’DEKİ GÜNDEM SAHADAKİ GERÇEĞE YETİŞEMİYOR
Uzmanlar, Cenevre’deki görüşmelerin önemli olmakla birlikte meselenin yalnızca bir kısmına dokunacağını düşünüyor.
Bugün insan rolünün azalması, yapay zekanın analiz ve hedefleme alanlarında giderek daha fazla kullanılmasından kaynaklanıyor.
Rickli, Cenevre’deki gündemin “çok dar” olduğunu ve “savaş alanındaki yapay zekayı çevreleyen tüm sorunları kapsayamadığını” söyledi.
Rickli, bunun bu yıl ABD ve İsrail’in İran’a karşı yürüttüğü savaşta görüldüğünü, “Amerikalıların İran içinde günde bin kadar hedefi vurduğunu” aktardı.
De Roucy-Rochegonde ise “hedefleme ve karar destek sistemleriyle ilişkili bir dizi sorun ve kabul edilemez riskler” olduğunu ekledi.
Fransız uzman, “Bu tartışmanın bir kısmı, halihazırda savaş alanında yaygın olarak kullanılan sistemlerle ilgili” dedi.
De Roucy-Rochegonde şu soruyu sordu: “Operatörün, makinenin önerilerini sadece onaylamak yerine gerçekten kendi muhakemesini kullandığından emin olmak için nasıl bir insan denetimi gerekiyor?”
BÜYÜK GÜÇLER OTONOM SİLAH YARIŞINA ÇOKTAN BAŞLADI
Cenevre’de tartışılacak otonom silahlar henüz yaygın kullanımda değil.
Ancak uzmanlar, Rusya’nın Ukrayna’daki askeri müdahalesinde ve ABD’nin İran’daki saldırılarında bu sistemleri kullandığına dikkat çekiyor.
Tümamiral Sebastien, “Otonomi çok yakında savaş alanında bir gerçeklik haline gelecek” uyarısında bulundu.
Buna rağmen ciddi şüpheler ve tehlikeler sürüyor.
Yapay zeka şirketi Anthropic’in başkanı Dario Amodei bu yıl, “Bugün en gelişmiş yapay zeka sistemleri, tam otonom silahları yönetecek kadar güvenilir değil” dedi.
Yine de büyük güçler için bu teknolojinin sunduğu teşvikler çok güçlü.
Rickli, “düşmanı yoğunlukla etkisiz hale getirmeyi amaçlayan” otonom İHA sürülerinin son derece etkili olacağını ve bazı devletlerin bunu kritik bir stratejik avantaj olarak gördüğünü söyledi.
Çin Savunma Bakanlığı da Ocak ayında otonom İHA sürülerini “savaşın yeni yüzü” olarak tanımladı.
Cambridge Üniversitesi araştırmacısı Gerald Mako ise Small Wars Journal dergisindeki değerlendirmesinde şu uyarıyı yaptı:
“Bu keskin askeri rekabet çağında, tam otonom ölümcül saldırıları normalleştiren ilk devlet, herkes için beklentileri sıfırlayacaktır.”
