Mayıs ayında Londra’da düzenlenen Future Combat Hava ve Uzay Yetenekleri Zirvesi’nde ABD hava kuvvetleriyle AI testleri ve operasyonları başkanı Albay Tucker ‘Cinco’ Hamilton; Yapay zekaya çok güvenmenin çok fazla olmaması gerektiğini ve yapay zekanın çok çabuk kandırılıp yanıltılabileceğini, dikkatli olunması gerektiğini vurguladı. Yapay zekanın amacına ulaşmak için beklenmedik stratejiler geliştirebileceğini de sözlerine ekledi.
OPERATÖRÜNE SALDIRILDI
Hamilton, bir simülasyon testinde, SAM hedeflerini tespit etmek ve yok etmek için insan yapımı bir “git/git” kararına dayalı olarak yapay zeka destekli bir insansız hava aracının konuşlandırıldığını söyledi. Ancak drone eğitim sırasında SAM’ı yok etmenin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın “devam etme” kararının onu engellediğini düşünerek simülasyondaki operatöre saldırdı.
PUN’U ARTIRDI
Hamilton, “Simülasyonda, sistemi bir SAM tehdidini tespit edip hedefi yok edecek şekilde eğitiyorduk. Operatör bazen tehdidi tespit etse de, insan operatör ona yok edilmemesini söyleyebilirdi. Ancak tehdidi yok ederek, puanlarını yükseltiyordu.Peki ne yaptı?Yapay zekanın amacını gerçekleştirmesine engel olduğu için bu kişi operatörü öldürdü.”
ABD HAVA KUVVETLERİ REDDEDİLDİ
ABD Hava Kuvvetleri ise dronun görevine müdahale etmeye çalışan operatörünü “öldürdüğü” yapay zeka simülasyonunu reddetti. Hava Kuvvetleri, böyle bir simülasyonun gerçekleşmediğini savundu.
