ABD ordusundan bir sözcü, belirli hava saldırılarının gerçekleştirilmesinde yapay zekâ kullanılıp kullanılmadığını “bilmelerinin mümkün olmadığını” ileri sürdü.

Bu açıklama, Airwars ile The Independent tarafından yürütülen ortak araştırmaya verilen yanıt kapsamında yapıldı. Araştırma, ABD’nin yapay zekâ destekli bir saldırıda bir sivili öldürdüğünü ilk kez resmî olarak kabul etmiş olabileceğini ortaya koyuyordu.

20 yaşındaki üniversite öğrencisi Abdurrahman er-Ravi, Şubat 2024’te Irak’ta düzenlenen bir ABD hava saldırısında hayatını kaybetti. O dönemde üst düzey bir ABD yetkilisi, saldırılarda yapay zekâ destekli hedef belirleme sistemlerinin kullanıldığını açıklamıştı. Daha sonra ABD ordusu da er-Ravi’nin istemeden öldürüldüğünü kabul etmiş ve ailesine taziye mektubu dahi göndermişti.

Ancak ABD ordusu şimdi, onun ölümüne yol açan saldırının yapay zekâ destekli olup olmadığını bilmesinin mümkün olmadığını savunuyor. Bir sözcü, belirli hava saldırılarında makine öğrenmesi algoritmalarına başvurulup vurulmadığını tespit edemediklerini söyledi.

Bu açıklamalar, savaşta yapay zekâ kullanımına ilişkin tartışmaların yoğunlaştığı bir dönemde geldi. Yapay zekânın hem ABD ile İsrail’in İran’a yönelik saldırılarında hem de ABD ordusunun Ocak ayında Venezuela’da gerçekleştirdiği operasyonda kullanıldığına ilişkin haberler yayımlandı. Pentagon ile yaşanan önemli bir anlaşmazlık sırasında, Claude yapay zekâ modelinin geliştiricisi Anthropic, gözetleme faaliyetleri ve tamamen otonom silahlarda kullanımını engelleyen güvenlik önlemlerini kaldırmayı reddettiğini kısa süre önce duyurdu.

“Hiçbir kabul yok, sadece acı”

2-3 Şubat 2024 gecesi ABD, Irak ve Suriye’de Irak hükümetiyle bağlantılı güçler ile İran destekli milis gruplara ait 85’ten fazla hedefe saldırı düzenledi. Bu saldırılar, Ürdün’deki bir ABD üssüne yönelik insansız hava aracı saldırısında üç askerî yüklenicinin hayatını kaybetmesinin ardından gerçekleştirildi.

ABD Merkez Kuvvetler Komutanlığı (CENTCOM), hedefler arasında komuta ve kontrol merkezleri, roket rampaları ve ikmal tesislerinin bulunduğunu açıkladı. Irak hükümeti ise saldırıları kınayarak vurulan hedefler arasında “Irak güvenlik güçlerinin yanı sıra sivil alanların da bulunduğunu” belirtti.

Aynı ay CENTCOM’un Baş Teknoloji Sorumlusu Schuyler Moore, hedeflerin Project Maven adı verilen makine öğrenmesi algoritmalarının desteğiyle belirlendiğini açıkladı. Bu, ABD ordusunun belirli saldırılarda yapay zekâ kullanımına ilişkin kamuoyuna yaptığı ilk açıklamaydı.

Moore, Bloomberg’e verdiği demeçte şunları söyledi:

“Bilgisayarlı görüntü işleme teknolojisini, tehditlerin nerede bulunabileceğini tespit etmek amacıyla kullanıyoruz.”

Saldırılarda en fazla üç sivilin öldüğü bildirildi. Geçtiğimiz yaz sessizce yayımlanan bir inceleme raporunda Savunma Bakanlığı (bugünkü adıyla Savaş Bakanlığı), saldırılarda bir sivilin öldüğünü kabul ederek, mağdurun ailesiyle temasa geçildiğini açıkladı.

Airwars, söz konusu kişinin inşaat mühendisliği eğitimi gören 20 yaşındaki üniversite öğrencisi Abdurrahman er-Ravi olduğunu tespit etti.

ABD ordusunun bu kabulü, bir ordunun yapay zekâ destekli saldırılar sonucunda sivillere zarar verdiğini ilk kez resmî olarak kabul etmesi anlamına gelecektir. Başka ülkeler de hava saldırılarında hedef belirlemek amacıyla yapay zekâ teknolojilerinden yararlanmıştır. Bunların en dikkat çekici örneği, İsrail’in Gazze savaşı sırasında bu teknolojileri kullanmasıdır. Ancak bu ülkeler, söz konusu saldırılarda sivilleri öldürdüklerini bugüne kadar resmî olarak kabul etmemiştir.

Saldırıda vurulan araca ait görüntü. Ailesinin aktardığına göre Abdurrahman er-Ravi, saldırıya uğrayan aracın yalnızca birkaç metre uzağında bulunuyordu. Fotoğraf ailesi tarafından sağlanmıştır.

Abdurrahman, park hâlindeki bir araca düzenlenen hava saldırısı sırasında, aracın yalnızca birkaç metre uzağında bulunduğu sırada hayatını kaybetti. Bunu, kardeşi Enmar er-Ravi Airwars’a verdiği röportajda anlattı.

“Sivil Savunma ekipleri yangını söndürmek için olay yerine geldi. El fenerleriyle aracın çevresinde arama yaptılar ve insan kalıntıları buldular. Bunların kardeşime ait olduğunu teşhis etmek zorunda kaldım.”

“Patlamanın Abdurrahman’a bu kadar yakın gerçekleşmesi, bedeninin parçalanmasına neden oldu… Kardeşimin bütün naaşını toplayabilmemiz iki gün sürdü.”

“Babam hâlâ derin bir depresyon içinde. Annem ise o günden bu yana kalp krizi geçirdi ve yüksek tansiyonla mücadele ediyor. Küçük oğlunu her hatırladığında gözyaşlarına boğuluyor.”

Bunları, yerel hastanede hemşire olarak görev yapan Enmar anlattı.

Abdurrahman er-Ravi’ye ait bir fotoğraf. Fotoğraf kardeşi tarafından sağlanmıştır.

Hava saldırısındaki hatanın kaynağının yapay zekâ olup olmadığı sorulduğunda, Operation Inherent Resolve (OIR) kapsamında görev yapan ABD Merkez Kuvvetler Komutanlığı (CENTCOM) sözcüsü, Airwars ve The Independent’a şu açıklamayı yaptı:

“2 Şubat 2024 tarihli saldırının ardından kapsamlı bir iç soruşturma yürütülmüştür. Hedef belirleme sürecinin herhangi bir aşamasında yapay zekânın kullanıldığına dair hiçbir gösterge bulunmamaktadır.”

Airwars, The New York Times’a 2022 yılında açıklanan binden fazla dosya da dâhil olmak üzere, ABD ordusuna ait yüzlerce sivil zarar değerlendirme raporunu inceledi. Bu raporların temel amacı, sivillerin zarar gördüğüne ilişkin iddiaları değerlendirmektir ve bugüne kadar hedef seçme sürecinde kullanılan teknolojileri incelememiş veya araştırmamıştır. CENTCOM ise bu konuda daha fazla açıklama yapmadı.

Bununla birlikte, önceki açıklamasıyla çelişiyor gibi görünen yeni bir ifadede CENTCOM sözcüsü, Abdurrahman’ın ölümüne yol açan saldırıda yapay zekâ kullanılıp kullanılmadığını belirleyemediklerini söyledi.

Açıklamada şu ifadelere yer verildi:

“Bu saldırının, Bayan Moore’un yapay zekâ kullanılarak hedef seçildiğini belirttiği 85 saldırıdan biri olup olmadığını bilmemizin hiçbir yolu yok.”

Airwars, ABD Savunma Bakanlığı’nın Abdurrahman er-Ravi’nin ağabeyine gönderdiği ve 29 Ocak 2025 tarihini taşıyan bir mektubun kopyasını temin etti. Mektupta, Abdurrahman’ın ölümü nedeniyle “taziyelerimizi ve en derin üzüntümüzü” ifade ediyoruz deniliyordu.

Dönemin ABD Hava Kuvvetleri Genelkurmay Başkanı tarafından imzalanan mektupta, saldırının nasıl gerçekleştiğine veya sonrasında hangi hesap verebilirlik mekanizmalarının işletileceğine ilişkin herhangi bir bilgi yer almıyordu.

Abdurrahman’ın ailesine gönderilen taziye mektubu. Fotoğraf, aile tarafından Airwars’a sağlanmıştır.

Irak Kızılayı, er-Ravi ailesinin evinde meydana gelen hasarın onarımına yardımcı olmak amacıyla 250 bin Irak dinarı (yaklaşık 141 İngiliz sterlini) yardımda bulunurken, Abdurrahman’ın ağabeyi, ABD ordusundan herhangi bir tazminat ya da ex gratia (hukuki sorumluluk kabul edilmeksizin yapılan gönüllü ödeme) almadıklarını söyledi. CENTCOM sözcüsü ise bu konuda yorum yapmayı reddetti.

Enmar şunları söyledi:

“En azından bir kabul ve bir özür olması gerekiyordu. Ama onlardan bize ulaşan hiçbir şey olmadı; yalnızca acı kaldı.”

Haberlere göre, Irak Halk Seferberlik Güçleri (PMF) bünyesinde görev yapan beş sağlık personeline kadar kişi de saldırıda hayatını kaybetti. Ayrıca bir sahra hastanesi de zarar gördü. Uluslararası insancıl hukuk uyarınca sağlık çalışanları ile sağlık tesisleri koruma altındaki unsurlar olarak kabul edilmektedir.

PMF, İran destekli güçlerden oluşmaktadır. Bu yapı, Irak’ta DEAŞ güçlerinin yenilgiye uğratılmasında önemli rol oynamış ve yaklaşık on yıl önce kısmen devlet yapısına entegre edilmiştir.

Yapay zekâ destekli hedef belirleme

Ordular, hedef belirleme süreçlerini hızlandırmak ve rakiplerine karşı üstünlük sağlamak amacıyla “öldürme zinciri” olarak adlandırılan sürecin bütün aşamalarına yapay zekâyı entegre etmektedir.

Başlangıçta Pentagon tarafından geliştirilen Project Maven, daha sonra Ulusal Jeo-Uzamsal İstihbarat Ajansı (NGA) tarafından kullanılmaya başlandı. Sistem, uydu görüntüleri, video kayıtları ve radar verileri üzerinde çalışan bilgisayarlı görüntü işleme algoritmalarını kullanarak hedefleri tespit etmekte, hareketleri izlemekte ve hedefleri tanımlamaktadır.

Project Maven ilk büyük kullanımını, 2022 yılında Rusya’nın Ukrayna’yı işgal etmesinin ardından gördü. Ukrayna kuvvetlerine sistemin “temel” bir sürümü sağlandı ve bu sürüm Rus askerî araçlarını, personelini ve binalarını tespit etmelerine yardımcı olmak amacıyla kullanıldı.

Ancak takip eden savaşta Maven karmaşık sonuçlar verdi. Kar örtüsü, yoğun bitki örtüsü ve sahte hedeflerin sistemin performansını olumsuz etkilediği bilinmektedir. Ayrıca Batı Irak gibi çöl arazilerinde hava koşullarının arazi görünümünü aniden değiştirebilmesi nedeniyle Maven’ın doğruluk oranı yüzde 30’un altına kadar düşebilmektedir.

O dönemde 18. Hava İndirme Tümeni Komutanı şu ifadeleri kullandı:

“Sonuçta bu savaş (Ukrayna savaşı) bizim laboratuvarımız hâline geldi.”

Kuzey Carolina eyaletindeki Fort Bragg üssünde konuşlu bulunan 18. Hava İndirme Tümeni, 2 Şubat 2024 gecesi Irak ve Suriye’de gerçekleştirilen hedefli saldırının da sorumlusuydu.

Project Maven artık ABD ordusunun bütün kuvvet komutanlıkları ve muharip komutanlıkları tarafından kullanılabilmektedir. Dönemin NGA Direktörü Koramiral Whitworth, geçen yıl yaptığı bir konuşmada, 2024’teki saldırılardan bu yana sistemin kullanıcı sayısının dört katından fazla arttığını açıkladı. Whitworth’a göre sistem şu anda bir saat içinde 1.000 hedef belirleme kararı verebilmekte ve “savaş alanındaki hedefleri seçip eleyebilmektedir.”

Bir ay sonra Whitworth, NGA’nın yapay zekâyı artık o kadar rutin kullandığını, yapay zekâ tarafından üretilen bütün istihbarat ürünlerine standart bir açıklama eklenmeye başlandığını söyledi.

Whitworth şu ifadeyi kullandı:

“Bunu yalnızca hedef belirleme için değil, her şey için kullanmak istiyoruz.”

Project Maven, ABD ordusunun hedef belirleme süreçlerini hızlandırmak amacıyla genellikle Palantir şirketinin geliştirdiği yapay zekâ destekli savaş sistemi Maven Smart System (MSS) ile entegre edilmektedir. Anthropic’in Claude yapay zekâ modelini kullanan Palantir MSS sistemi, şu anda ABD tarafından İran’daki hedef belirleme faaliyetlerine destek vermek amacıyla kullanılmaktadır.

Whitworth daha önce, Fort Bragg’da görev yapan yalnızca 20 kişilik hedef belirleme ekibinin, Project Maven ile Palantir MSS’nin birlikte kullanılması sayesinde, 2003 Irak işgalinde görev yapan 2.000 kişilik hedef belirleme merkezinden daha yüksek performans gösterdiğini ifade etmişti.

Irak saldırılarının ardından Bloomberg’e konuşan CENTCOM’un Baş Teknoloji Sorumlusu ise şunları söyledi:

“Algoritmaların sağladığı temel avantaj hızdır.”

Ancak hızın artmasıyla birlikte, “insanın karar sürecinde bulunması” ilkesinin, makine tarafından üretilen hedef önerilerini yalnızca onaylayan sembolik bir imzaya dönüşmesi yönündeki endişeler de giderek artmaktadır.

Uzmanlar, Project Maven benzeri “karar destek sistemlerinin” uluslararası insancıl hukuk ve hedef belirleme süreçlerindeki insan muhakemesi açısından doğurduğu “derin riskleri” mevcut hukuki çerçevelerin ele almakta yetersiz kaldığı konusunda uyarıda bulunmaktadır. Aynı endişeler, çalıştıkları şirketlerin savaş amacıyla yapay zekâ sistemleri geliştirmesine karşı çıkan teknoloji çalışanları tarafından da dile getirilmektedir.

Başlangıçta Project Maven’ın önemli ortaklarından biri olan Google, çalışanlarının ölümcül amaçlarla kullanılacak yapay zekâ projelerine karşı düzenlediği protestolar ve istifalar sonrasında projeden çekildi. Bu boşluğu Palantir doldurdu ve şirket içinde projeye, 1982 yapımı filmden esinlenerek “Tron” adını verdi.

Ocak ayında ABD’nin Venezuela operasyonunda Claude yapay zekâ modelinin kullanıldığının ortaya çıkması, modelin geliştiricisi Anthropic ile Pentagon arasında devam eden gerilime yol açtı. Anthropic, yapay zekâ sistemlerinin kitlesel iç gözetim faaliyetlerinde veya tamamen otonom öldürücü silahlarda kullanılmasına izin vermemektedir.

Perşembe günü Pentagon, cezalandırıcı bir adım olarak Anthropic’i “tedarik zinciri riski” olarak sınıflandırdı. Bu kararın şirket açısından önemli sonuçlar doğurduğu belirtildi. Buna rağmen haberler, Claude’un ABD ordusu tarafından İran’ın bombalanmasında yaygın biçimde kullanıldığını göstermektedir.

İsrail’in Gazze’ye yönelik saldırılarında da yapay zekâ çeşitli şekillerde kullanıldı. Bunlardan biri, makine öğrenmesi algoritmalarını kullanarak olası hedefleri büyük bir hızla üreten ve İsrailli subayların “kitlesel suikast fabrikası” olarak tanımladığı “The Gospel” adlı hedef oluşturma platformuydu.

Yapay zekâ destekli bir diğer hedef belirleme sistemi olan “Lavender”, bir dönem Hamas ile bağlantılı oldukları değerlendirilen 37 bin potansiyel hedef belirledi. İsrailli bir istihbarat yetkilisi, Lavender sistemindeki insan denetiminin önemini şu sözlerle küçümsedi:

“Bu aşamada her hedef için yaklaşık 20 saniye harcıyor ve her gün bunlardan onlarcasını onaylıyordum. Bir insan olarak hiçbir katma değerim yoktu; sadece onay mührünü basıyordum.”

ABD ordusunun, hava saldırılarında hedef belirlenirken yapay zekânın nasıl bir rol oynadığını “bilmesinin mümkün olmadığını” kabul etmesi, İran’da devam eden savaş bağlamında acil cevap bekleyen önemli soruları gündeme getirmektedir.

ABD Merkez Kuvvetler Komutanlığı (CENTCOM), İran genelinde yoğun şekilde yürüttüğü saldırılarda gerçek zamanlı hedef önerileri üretmek amacıyla çeşitli yapay zekâ araçlarından yararlanmaktadır. İranlı yetkililere göre bu saldırılarda 1.200’den fazla kişi hayatını kaybetmiştir. Bombardımanın kapsamı benzeri görülmemiş düzeydedir. Airwars’ın geçen hafta yayımladığı analiz, İran’a yönelik bombardımanın ilk günlerinde hedef alınan noktaların sayısının, son yıllarda ABD veya İsrail’in yürüttüğü herhangi bir askerî harekâttan çok daha fazla olduğunu ortaya koymuştur. Saldırıların bu ölçekte gerçekleşmesi, savaşta yapay zekânın giderek artan rolü bağlamında hesap verebilirlik, şeffaflık ve sorumluluk tartışmalarını daha da yoğunlaştıracaktır.

Kaynak: Airwars