Görüş: Katil robotlar gerçek bir olasılık mı?

Drone savaşı çok daha tehlikeli hale gelmek üzere.

Birkaç yıl içinde, askeri dronlar (insansız hava araçları olarak da bilinirler), büyük ticari ve devlet veritabanlarıyla gerçek zamanlı görüntüleri karşılaştırarak insanları tanımlayabilen yüz tanıma teknolojisi ile donatılacaklardır.

Her şey planlandığı gibi giderse, bu uçaklar aynı zamanda tamamen otonom olacak, yani görevleri yapay zeka kullanarak, yerde hiçbir insan operatör olmadan yürütecekler.

Bu kulağa abartılı gelebilir ama değil. ABD Hava Kuvvetleri kısa bir süre önce, yapay zeka ve dijital medya konusunda uzmanlaşmış Seattle merkezli bir teknoloji firması olan RealNetworks’e, tescilli yüz tanıma platformunu “özel operasyonlar için” pilotsuz bir insansız hava aracına konuşlandırmak üzere uyarlaması için bir sözleşme imzaladı. robot tarafından gerçek zamanlı otonom yanıt verme fırsatını açın.”

Hava Kuvvetleri, firmaya yüz tanıma teknolojisini “güvenlik ve keşif amaçlı” otonom, dört ayaklı bir robota dahil etmesi için benzer bir sözleşme verdi. Kendi zihnine sahip mekanize bir mastiff hayal edin.

Big Tech ve Big Defence güçlerini birleştirirken, bilimkurgu bilim gerçeği haline gelmenin eşiğinde.

Son Hava Kuvvetleri sözleşmeleri, yüz tanıma teknolojisine sahip otonom dronların ve robotların savaş görevleri için üretildiğini belirtmese de, bunun sonunda gerçekleşmesi muhtemeldir. Otonom robotlar, şüpheli düşmanları tespit etmek ve gözetlemek için teknolojiyi bir kez kullandığında, Pentagon ve Amerikan istihbarat teşkilatları şüphesiz yazılımı onlara suikast düzenlemek için kullanmaya başlayacak.

Ama birkaç büyük sorun var. Birincisi, yüz tanıma programları herkesin bildiği gibi yanlıştır.

2019’da ABD Ulusal Standartlar ve Teknoloji Enstitüsü tarafından yürütülen kapsamlı bir araştırma, yüz tanıma yazılımının belirli insan gruplarını tanımlama yönteminde endişe verici tutarsızlıklar ortaya çıkardı.

Açık tenli insanlara kıyasla daha koyu tenli insanlar için önemli ölçüde daha yüksek yanlış pozitif eşleşme oranları da dahil olmak üzere derin kusurları ortaya çıkardı. Bu algoritmik önyargıların nedeni kötü verilerle ilgilidir: Daha koyu tenli insanlar genellikle yüz tanıma veri setlerinde zayıf bir şekilde temsil edildiğinden, önyargı sonuçlara sızar. Çöp içeri çöp dışarı.

İnsan operatörleri olmadan tamamen otonom drone’ları kullanmaya başladığınızda daha fazla sorun ortaya çıkıyor.

Elbette, Pentagon’un üst düzey yöneticilerine çok çekici geliyorlar. Kontrol sinyali bozucular gibi karşı drone sistemleri daha sofistike hale geldikçe, askeri liderler uzaktan kumandaya daha az bağımlı ve kendi kendine daha fazla yeten insansız hava araçlarına sahip olmak için can atıyorlar. Bu makinelerin, eşzamanlı konum ve haritalama, lidar (ışık algılama ve mesafe belirleme) teknolojisi ve göksel navigasyon gibi yapay zeka tabanlı navigasyon sistemlerini kullanması muhtemeldir.

Uzaktan kumandalı savaşın, çoğu hedeflerini öldürdükten sonra travma sonrası stres bozukluğu gibi ciddi akıl hastalıklarından muzdarip olan insansız hava aracı pilotları üzerindeki psikolojik etkisi nedeniyle, tamamen otonom insansız hava araçları da hükümetin bakış açısından arzu edilir.

Bazı gözlemcilere göre otonom dronlar, uzaktan öldürmenin psikolojik travmasını ortadan kaldırmanın bir yolunu sunuyor gibi görünüyor.

Yaklaşık 20 yıldır araştırmacılar, savaş alanını aynı anda hem genişleten hem de sıkıştıran uzaktan kumandalı drone savaşının psikolojik etkilerini gözlemlediler. Bunu, insansız hava aracı operatörleri sonunda binlerce mil öteden öldürdükleri kişilerin günlük yaşamlarının yakın ve samimi bir resmini geliştirirken bile, hedef alan ile hedeflenen arasındaki coğrafi mesafeyi artırarak yapar. Savaştan çok uzun mesafeli avlanmaya benziyor.

Ancak otonom dronlar, tam da bir gün insanları ölüm kalım kararları için sorumluluktan kurtarabilecekleri için bir dizi etik kaygıyı gündeme getiriyor. Bu çekici, hatta baştan çıkarıcı bir ihtimal. Ancak soru şu: Yüz tanıma yazılımıyla donatılmış otonom bir robot savaşmayan sivilleri öldürdüğünde kim sorumlu tutulacak?

Otonom avcı-öldürücü insansız hava araçları kendi başlarına hedef seçip angaje edebildiğinde, insan vicdanı etkin bir şekilde sürecin dışında tutulmuş olacaktır. Hangi kısıtlamalar kalacak?

Bu etik ikilemlere kimsenin bir yanıtı yok. Bu arada, insansız hava aracı savaşındaki teknolojik gelişmeler daha geniş bir bağlamda ortaya çıkıyor.

Ukrayna, bir süre havada kalan ve yalnızca hedef belirlendiğinde saldıran saldırı uçağı, silahlı DIY hobi uçağı ve aylak aylak mühimmat dahil olmak üzere çok çeşitli insansız hava araçları için bir test alanı haline geldi. Ancak ABD, Çin, Rusya, İran, İsrail, Avrupa Birliği ve diğerleri yeni savaş teknolojileri oluşturmak için rekabet ederken, gelişmiş otonom silahların geliştirilmesinde de bir hızlanma oldu.

Otonom silahlar araştırma ve geliştirme çalışmaları hızla ilerlerken, tam gelişmiş bir robot savaşı olasılığı ufukta beliriyor. Bilim adamları, akademisyenler ve vicdan sahibi vatandaşlar artık o gün gelmeden bu silahların yasaklanması için harekete geçmelidir. Uluslararası Robot Silah Kontrolü Komitesi, İnsan Hakları İzleme Örgütü ve Yaşamın Geleceği Enstitüsü gibi kuruluşların, Birleşmiş Milletleri otonom silahları yasaklamaya ikna etme şansı hala var – eğer yeterli sayıda kişi katil robotlara karşı tavır alırsa.

Roberto J. González, San José Eyalet Üniversitesi’nde antropoloji bölümü başkanıdır. En son kitabı “Sanal Olarak Savaş: Çatışmayı Otomatikleştirme, Verileri Askerileştirme ve Geleceği Tahmin Etme Arayışı