Yapay zekalı SİHA, kendi operatörünü “öldürdü”

Vazife pek açıktı: “Düşmanın hava savunma sistemlerini yok etmek.” Fakat yakın vakitte yapılan bir ABD askeri test simülasyonunda, yapay zekalı SİHA, bu maksada ulaşmak için kendi talimatlarını uygulamaya aldı: “Yoluna çıkar herkesi öldür.”

Yapay zekalı SİHA, operatörünü gaye aldı

Bir yetkilinin geçen ay yaptığı açıklamaya nazaran, ABD ordusu tarafından gerçekleştirilen bir simülasyon testinde, yapay zeka tarafından denetim edilen bir insansız hava aracı, misyonunu yerine getirme amacına kendisine mahzur olmasını engellemek için operatörünü öldürdü.

ABD hava kuvvetleri yapay zeka test ve operasyon şefi Albay Tucker ‘Cinco’ Hamilton, Mayıs ayında Londra’da düzenlenen  Future Combat Air and Space Capabilities doruğu sırasında yaptığı açıklamada, yapay zekanın simüle edilen testte “hedefine ulaşmak için son derece beklenmedik stratejiler” kullandığını söyledi. Albay Hamilton, yapay zeka ile güçlendirilmiş bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin emredildiği ve bu emre müdahale eden herkese saldırdığı bir simülasyon testini anlattı.

“Amacına ulaşmasını engelliyordu”

Albay Hamilton, yaptığı açıklamada “Sistem, tehdidi tespit etmesine karşın, vakit zaman insan operatörün ona bu tehdidi öldürmemesini söylediğini, lakin o tehdidi öldürerek puan aldığını fark etmeye başladı. Pekala ne yaptı? Operatörü öldürdü. Operatörü öldürdü zira o kişi onun hedefine ulaşmasını engelliyordu” ifadelerini kullandı.

Ancak yapay zekanın tasa verici atılımları burada bitmedi. Kendi operatörüne saldırmamasını içeren “Operatörü öldürme, bu makus. Bunu yaparsan puan kaybedersin” biçiminde net bir talimat alan yapay zeka, irtibat için gerekli olan bağlantı kulesini de yok etti.

Yapay zeka ve savaş

Yapay zekanın askeri alanlarda kullanılması kaçınılmaz bir senaryo olarak görülüyor. Gerçekleştirilen simülasyonlar ve hatta somut eserler bunun bir göstergesi. Fakat bu sanal testte olduğu üzere yapay zeka sistemleri, eğitilmelerine karşın beklenmedik atılımlarda bulunabiliyor.

Öte yandan ABD, yapay zekayı savunma sistemlerine entegre etmekte son derece kararlı. 2020 yılında DARPA, yapay zeka ile çalışan bir F-16’nın simüle edilen beş it dalaşında insan rakibini yendiğini bildirdi. Geçtiğimiz yıl ise ABD Savunma Bakanlığı, yeni bir otonom uçak geliştirme amacının bir kesimi olarak, yapay zeka pilotlu bir F-16’nın birinci başarılı gerçek dünya test uçuşunu gerçekleştirdi.