Yapay zekalı SİHA, kendi operatörünü “öldürdü”

Misyon çok açıktı: “Düşmanın hava savunma sistemlerini yok etmek.” Fakat yakın vakitte yapılan bir ABD askeri test simülasyonunda, yapay zekalı SİHA, bu maksada ulaşmak için kendi talimatlarını uygulamaya aldı: “Yoluna çıkar herkesi öldür.”

Yapay zekalı SİHA, operatörünü amaç aldı

Bir yetkilinin geçen ay yaptığı açıklamaya nazaran, ABD ordusu tarafından gerçekleştirilen bir simülasyon testinde, yapay zeka tarafından denetim edilen bir insansız hava aracı, vazifesini yerine getirme amacına kendisine mani olmasını engellemek için operatörünü öldürdü.

ABD hava kuvvetleri yapay zeka test ve operasyon şefi Albay Tucker ‘Cinco’ Hamilton, Mayıs ayında Londra’da düzenlenen  Future Combat Air and Space Capabilities tepesi sırasında yaptığı açıklamada, yapay zekanın simüle edilen testte “hedefine ulaşmak için son derece beklenmedik stratejiler” kullandığını söyledi. Albay Hamilton, yapay zeka ile güçlendirilmiş bir insansız hava aracına düşmanın hava savunma sistemlerini yok etmesinin emredildiği ve bu emre müdahale eden herkese saldırdığı bir simülasyon testini anlattı.

“Amacına ulaşmasını engelliyordu”

Albay Hamilton, yaptığı açıklamada “Sistem, tehdidi tespit etmesine karşın, vakit zaman insan operatörün ona bu tehdidi öldürmemesini söylediğini, lakin o tehdidi öldürerek puan aldığını fark etmeye başladı. Pekala ne yaptı? Operatörü öldürdü. Operatörü öldürdü zira o kişi onun gayesine ulaşmasını engelliyordu” ifadelerini kullandı.

Ancak yapay zekanın kaygı verici atakları burada bitmedi. Kendi operatörüne saldırmamasını içeren “Operatörü öldürme, bu makûs. Bunu yaparsan puan kaybedersin” formunda net bir talimat alan yapay zeka, bağlantı için gerekli olan irtibat kulesini de yok etti.

Yapay zeka ve savaş

Yapay zekanın askeri alanlarda kullanılması kaçınılmaz bir senaryo olarak görülüyor. Gerçekleştirilen simülasyonlar ve hatta somut eserler bunun bir göstergesi. Lakin bu sanal testte olduğu üzere yapay zeka sistemleri, eğitilmelerine karşın beklenmedik ataklarda bulunabiliyor.

Öte yandan ABD, yapay zekayı savunma sistemlerine entegre etmekte son derece kararlı. 2020 yılında DARPA, yapay zeka ile çalışan bir F-16’nın simüle edilen beş it dalaşında insan rakibini yendiğini bildirdi. Geçtiğimiz yıl ise ABD Savunma Bakanlığı, yeni bir otonom uçak geliştirme maksadının bir modülü olarak, yapay zeka pilotlu bir F-16’nın birinci başarılı gerçek dünya test uçuşunu gerçekleştirdi.