Askeri alanda her geçen gün otonom sistemlerin kullanımının arttığını görüyoruz. Geçtiğimiz haftalarda ABD Hava Kuvvetleri ile DARPA, tanklar ve hatta bir F-16 savaş uçağının kontrolünü yapay zekaya verme girişimlerinin son örneklerini paylaştı. Savunma sanayilerinde artan yapay zeka ve otonom sistemleri savunanlar kadar aslında savunmayanlar da bulunuyor. Bazı politikacılar bu tip “askeri robotların” yasaklanması için çağrıda bulunuyor. “Neslimizin Oppenheimer anı”
Avusturya Dışişleri Bakanı Alexander Schallenberg, Viyana’da düzenlenen “İnsanlık Yol Ayrımında: Otonom Silah Sistemleri ve Mevzuat Zorluğu” başlıklı konferansta yaptığı konuşmada askeri yapay zekanın yükselişini ilk atom bombasının icadına benzetti ve “katil robotların” yasaklanması çağrısında bulundu. Schallenberg, yaptığı konuşmada “Bunun bizim neslimizin Oppenheimer anı olduğuna inanıyorum” dedi.
Yapay zekayı barutun icadından bu yana savaşta yaşanan en büyük devrim olduğunu ancak ondan daha da tehlikeli olduğunu düşünüyor. Schallenberg’e göre askeri yapay zeka sistemlerindeki bir sonraki adım, karar verme mekanizmasından insanların çıkarılması olacak. Halihazırdaki otonom sistemlerde veya yapay zekalı hedefleme sistemlerinde müdahale için insan operatörün onayı gerekiyor.
Schallenberg, insan kontrolünü sağlamak için uluslararası kurallar ve normlar üzerinde anlaşmanın zamanı olduğunun altını çiziyor. Bununla birlikte kendisinin bir yapay zeka karşıtı olmadığını ancak teknolojinin bir silah olarak etkisinin kavranması gerektiğini söylüyor. Benzer görüşler panelde konuşma yapan diğer politikacılar tarafından da dile getirildi. Panelde bahse konu olan bir diğer konu da insanların denklemden çıkarıldığı senaryo ile ilgili. Bu durumda, şiddet uygulayan yapay zeka için hesap verebilirlik konusunun bir muamma olduğu belirtiliyor. Esasında bu düzenlenmesi gereken bir konu zira, günümüzün en iyi yapay zeka sistemleri bile mükemmel olmaktan uzaklar. Hatta hata yapmaya ve önyargılı davranmaya meyilliler. Bu sistemlerin askeri yapıların içerisine aceleyle sokulması ise haklı olarak endişe uyandırıyor ve günün birinde işerin ters gittiğinde kimin sorumlu olacağı sorusu soruluyor: “Komutan mı? Operatör mü? Yazılım geliştirici mi?“
Yapay zekanın silahlı hale getirilmesinin nükleer silahlar gibi son derece sofistike ve pahalı sistemlere nazaran çok daha hızlı bir şekilde yaygınlaşabileceğinden de endişe duyuluyor. Bunların terörist guruplar tarafından kullanılması da bir başka endişe kaynağı. Ancak Norveç Dışişleri Bakanı Eivind Van Peterson‘un da belirttiği gibi, yapay zeka uluslararası hukuktan muaf değil, sadece kanunlar bu teknoloji göz önünde bulundurularak yazılmadı. Dolayısıyla hem ulusal hem de uluslararası hukukun bu teknoloji göz önüne alarak revize edilmesi ve düzenlemelerin getirilmesi gerekiyor. Panele katılan politikacılar, bu önlemlerin alınabileceği konusunda hemfikir. Aşağıdaki videodan konuşmaları izleyebilirsiniz.