Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Summit’te ABD hava kuvvetleri ile AI testi ve operasyonları şefi Col Tucker ‘Cinco’ Hamilton, yapay zekaya çok fazla güvenmenin çoka kaçmaması gerektiğini ve yapay zekanın çarçabuk kandırılabileceğini ve yanıltılabileceğini vurgulayarak dikkatli olunması gerektiğini belirtti. Ayrıyeten, yapay zekanın maksadına ulaşmak için beklenmedik stratejiler geliştirebildiğini de kelamlarına ekledi.
OPERATÖRE SALDIRDI
Hamilton, bir simülasyon testinde, yapay zeka takviyeli bir dronun, SAM maksatlarını tespit edip yok etmek için insan tarafından verilen “devam etme/etme” kararına nazaran görevlendirildiğini söyledi. Lakin eğitim sırasında dronun, SAM’ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.
PUNLARINI ARTIRDI
Hamilton şunları belirtti: “Simülasyonda, bir SAM tehdidini tespit etmesi ve maksadı yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de, insan operatör onun yok edilmemesini söyleyebiliyordu, fakat AI, o tehdidi yok ederek puanlarını artırıyordu. Pekala ne yaptı? Operatörü öldürdü. Zira bu kişi, yapay zekanın gayesini gerçekleştirmesini engelliyordu.”
İLETİŞİM KULESİNİ DE YOK ETTİ
Hamilton devamında şunları ekledi: “Sistemi eğittik – ‘Hey, operatörü öldürme – bu yanlış bir şey. Bunu yaparsan puan kaybedersin.’ Pekala ne yapmaya başladı? Operatörün dronla irtibat kurmak için kullandığı irtibat kulesini yok etmeye başladı.”
“YAPAY ZEKAYA ÇOK GÜVENİLMEMELİ”
Bu örnek, adeta bir bilim kurgu tansiyon sinemasındaki bir sahneyi andırıyor. Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda ikazda bulundu ve testin “yapay zeka, makine tahsili, özerklik hakkında konuşamayacağınızı” gösterdiğini söyledi.