Yapay Zeka Kaynaklı Hatalı İstihbarat Neredeyse Savaş Çıkarıyordu
Amerika Birleşik Devletleri ordusu, yapay zeka tarafından üretilen yanıltıcı bir istihbarat raporu nedeniyle neredeyse Orta Doğu'da bir Çin gemisine karşı askeri bir operasyon başlatıyordu. Raporda, söz konusu geminin nükleer silah programında kullanılabilecek kritik bileşenler taşıdığı iddia ediliyordu. Bu yanlış bilginin yayılması üzerine, askeri uçaklar havalanmak üzere hazırlanırken, özel kuvvetler mensupları da gemiye çıkış için hazırlıklarını tamamlamak üzereydi. Ancak operasyonun başlatılmasına çok kısa bir süre kala, istihbarat bilgilerinin gerçek dışı olduğu anlaşılınca plan son anda iptal edildi. Bu durum, yapay zekanın askeri istihbarat süreçlerindeki potansiyel tehlikelerini bir kez daha gündeme getirdi.
Olayın detaylarına göre, ABD ordusunun İran'a yönelik operasyonları kapsamında Orta Doğu sularında bulunan bir Çin bandıralı gemi inceleniyordu. CNN'in elde ettiği bilgilere göre, geminin nükleer silahlarla ilişkilendirilebilecek parçalar taşıdığı yönündeki istihbaratın ardından, Amerikan ordusu acil bir operasyon planı hazırladı. Bu plan çerçevesinde, bölgeye askeri hava araçları sevk edildi ve silahlı personelin gemiye sızması için gerekli hazırlıklar yapıldı. Operasyonun start almasına ramak kala yapılan son kontrollerde, raporlanan bilgilerin tamamen asılsız olduğu tespit edildi ve tüm hazırlıklar durduruldu. Olayı yakından takip eden bir kaynağın aktardığına göre, bu yanlış bilginin yol açabileceği sonuçlar "neredeyse bir savaşı tetikleyebilirdi". Geminin gerçekte ne taşıdığına veya seyir rotasına dair ise net bir açıklama yapılmadı.
Yanlış istihbaratın kaynağının yapay zeka olduğu CNN tarafından rapor edildi. Olayın başlangıcında, ABD Özel Harekât Komutanlığı Pasifik (SOCPAC) tarafından hazırlanan başka bir istihbarat raporu bulunuyordu. Bir askeri analist, bu raporla ilgili daha fazla detaya ulaşmak amacıyla bir yapay zeka sohbet robotuna danıştı. Bu sohbet robotunun ticari bir hizmet mi yoksa ABD ordusuna ait özel bir sistem mi olduğu konusunda kesinlik bulunmuyor. Yapay zeka, kendisine sunulan gizli askeri bilgileri internet üzerindeki genel erişime açık verilerle birleştirerek, geminin nükleer silah programıyla ilişkili materyaller taşıdığı yönünde hatalı bir sonuca ulaştı. Analist, yapay zekanın ürettiği bu bilgileri derleyerek yeni bir istihbarat raporu haline getirdi. Bu raporun askeri kanallar aracılığıyla yayılması, gemiye yönelik operasyon hazırlıklarının fitilini ateşledi.
Bu vaka, yapay zekanın askeri istihbarat toplama ve hedef belirleme gibi hassas alanlarda kullanılmasının getirebileceği riskleri gözler önüne seriyor. ABD ordusunun, hedef belirleme operasyonlarında yapay zeka teknolojilerini giderek daha fazla kullandığı belirtiliyor. Ancak bu sistemlerin ürettiği bilgilerin doğruluğunun nasıl teyit edileceği ve özellikle sivil kayıplar veya yanlış hedeflemeler gibi risklerin nasıl bertaraf edileceği konularında halen önemli soru işaretleri bulunuyor. ABD medyasındaki bazı kaynaklar, yapay zekanın karar alma süreçlerine entegrasyonunun arttığını ancak insan denetiminin bu tür hataları ve olası trajedileri önlemedeki rolüne dair net bir protokolün henüz oluşturulamadığını ifade ediyor. Bu durum, savaşın karar mekanizmalarında yapay zekanın rolünün artmasıyla birlikte insan sorumluluğu ve denetiminin kapsamını yeniden tartışmaya açıyor.
Yaşanan bu olay, ABD ordusunun yapay zeka kullanımını hızlandırma çabalarının yoğunlaştığı bir döneme denk geldi. Savunma Bakanlığı'nın Ocak ayında yayımladığı "Yapay Zekâ Hızlandırma Stratejisi" belgesi, bu alandaki deneylerin hızlandırılması, bürokratik engellerin kaldırılması ve askeri yapay zeka yatırımlarının artırılması gerektiğini vurguluyordu. Çin gemisiyle ilgili yaşanan talihsiz hadise, askeri karar alma süreçlerinde yapay zekadan elde edilen bilgilerin doğruluğunun kritik önemini bir kez daha ortaya koydu. Teknoloji dünyasında, yapay zeka modellerinin gerçek dışı veya hatalı bilgiler üretmesi durumu "halüsinasyon" olarak adlandırılıyor ve bu konuda uyarılar giderek artıyor. Bu olayda da yapay zekanın farklı veri kaynaklarını yanlış bir şekilde sentezlemesi sonucunda gerçeğe aykırı bir istihbarat değerlendirmesinin oluştuğu düşünülüyor. Yapay zekanın askeri alandaki kullanımının yaygınlaşması, özellikle yüksek risk taşıyan hedef belirleme ve istihbarat değerlendirme gibi konularda insan denetiminin kapsamı ve sorumluluk sınırları hakkındaki tartışmaları daha da alevlendirecek gibi görünüyor.
