Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
Autonomous Weapons and Killer Robots: New Warnings, Old Habits
İnsanlığın kusursuz yıkıcı benlik duygusuna dair bir başka kasvetli uyarı, bir başka Cassandra çağrısı. Bu ay, BM Genel Sekreteri António Guterres ve Uluslararası Kızılhaç ve Kızılay Komitesi (ICRC) Başkanı Mirjana Spoljaric Egger, “Artık ahlaki bir kırmızı çizgiyi aşmaya tehlikeli derecede yakınız: makinelerin insanları otonom olarak hedef alması” şeklinde ortak bir çağrı yayınladılar. Her ikisi de iki tür otonom silahın – öngörülemeyen otonom silahlar ve anti-personel silahlar – yasaklanması gerektiğinde ısrar ediyor.
Fotoğraf: Thierry K
Cenevre'de, BM Cenevre'deki silahsızlanma işlerinden sorumlu yetkili Mélanie Régimbal, kontrol ve muhakeme olmaksızın hedef seçen veya hedef alan ve insan hayatına son veren sistemlerin "siyasi olarak kabul edilemez, ahlaki açıdan iğrençtir ve uluslararası hukuk uyarınca yasaklanmalıdır" şeklindeki BM'nin tutumunu yineleyerek durumu savundu.
Uluslararası Kızılhaç Komitesi'nde (ICRC) Silahlanma ve Çatışmaların Yürütülmesi Bölümü Başkanı Laurent Gisel de Cenevre'den yaptığı konuşmada, çatışmayı "kesinlik, ayrım ve kısıtlamaların öyküsü" değil, "sivillerin öldürüldüğü, ailelerin yerinden edildiği, hastanelerin, okulların ve evlerin giderek artan bir hız ve ölçekte yıkıldığı" bir öykü olarak tanımladı.
Çatışmanın yoğun sisinde birçok değişken devreye girebilir.
"Bir savaşçı teslim olabilir veya yaralanabilir ve bu nedenle saldırıdan korunabilir; siviller otonom silah sistemlerinin operasyon alanına girebilir; silahlar öngörülemeyen bir durumla karşılaşabilir."
Bu tür otonom sistemlerdeki öngörülemezliğin tehlikeleri son derece sorunluydu.
"Eğer tahmin etmek mümkün değilse, nasıl sınırlandırmak mümkün olabilir?"
Bunlar dikkat çekici uyarılar değil. BM ve ICRC, 2023 yılında konuyla ilgili ortak bir çağrı yayınlayarak, devletleri 2026 yılına kadar yasal olarak bağlayıcı bir belge üzerinde müzakere etmeye çağırmıştı.
Sivil toplum düzeyinde ise, Katil Robotları Durdurma koalisyonu Ekim 2012'de kurulmuş ve 2013'te kamuoyuna duyurulmuştur. Grubun açıklamasına göre kampanya, "birbirimizin doğuştan gelen onuruna saygı duyduğumuz" bir dünya yaratmaya; teknoloji ve bunun insanlar arasındaki ilişkileri nasıl değiştirdiği konusunda sorumluluk almaya; barışı, adaleti, insan haklarını, eşitliği ve hukuka saygıyı teşvik edecek teknoloji geliştirmeye; ve insanların "bir toplum inşa etmek ve eşitsizliklerin ve baskı sistemlerinin üstesinden gelmek" için aktivist olarak çalıştığı bir dünya yaratmaya odaklanmaktadır. Bu oldukça havai bir yaklaşım, ancak temel amaç, "savaşta, polislikte, sınır kontrolünde ve diğer durumlarda makine tarafından otonom öldürmeyi reddeden sosyal normlar" geliştirmek ve güçlendirmektir. Kontrol, sorumluluk ve hesap verebilirlik temel özelliklerdir.
Bu kampanya son zamanlarda anlamlı bir ilerleme kaydetmedi. Askeri kurumun ölümcül makinelere duyduğu güven sarsılmaz bir şekilde devam ediyor; karar alma üzerindeki insan kontrolü fikri, eleştirel olmayan insan veri tüketicisi lehine giderek azalıyor. Bu güven, hedefleri belirleme ve vurma söz konusu olduğunda, titiz ve şüpheci karar vericiyi fiilen yerinden etti.
7 Ekim 2023'te başlayan Gazze Savaşı'nın ilk birkaç haftasında, İsrail Savunma Kuvvetleri (IDF), silahlı gruplarla olan bağlantılarına bağlı olarak kaba bir önem derecelendirme ölçeğinde 37.000 ayrı hedef oluşturmak için yapay zeka tabanlı bir karar destek sistemi (DSS) olan Lavender'ı yoğun bir şekilde kullandı.
Savaşta kullanılan diğer sistemler arasında, hedef listeleri oluşturan İncil (Habsora) ve saldırı öncesinde bireylerin konumlarını izleyen bir platform olan "Babam Nerede?" yer alıyordu. Ortaya çıkan katliamın ölçeği hesaplandı. İnsan ve makinenin kusursuz bir entegrasyonunu ima etmekten çok uzak olan IDF'nin davranışı, bir öldürme sisteminin erdemlerine boyun eğmede yersiz bir iyimserliği ve tembelliği göstermektedir.
Yapay zeka firması Anthropic ile ABD Savunma Bakanlığı arasında, savaşta otonom sistemlerin tehlikeli sınırları konusundaki anlaşmazlık da bunun bir başka örneğidir. Ölüm ekonomisindeki bu iki oyuncu arasındaki anlaşmazlık, Pentagon'un firmayı "tedarik zinciri riski" olarak kara listeye alma girişimine kadar varacak kadar ciddiydi. (Bu durum, 27 Ağustos'ta Kaliforniya Kuzey Bölgesi ABD Bölge Mahkemesi tarafından Birinci Değişikliği ihlal eden "yasa dışı misilleme" ve Beşinci Değişiklik tarafından korunan adil yargılama hakkının ihlali olarak değerlendirildi.) Ancak bu anlaşmazlık, katil robotlara veya tamamen otonom askeri platformlara sınırlama getirilmesini savunanlar için mutlaka bir nimet değildir.
Şirketin kurucu ortağı Dario Amodei, Şubat 2026'da yaptığı bir açıklamada, askeri kararları "özel şirketlerin değil" Pentagon'un aldığını kabul etti. "Belirli askeri operasyonlara hiçbir zaman itiraz etmedik veya teknolojimizi keyfi bir şekilde sınırlamaya çalışmadık." Ancak Amodei, kendisini siyasi olarak bilinçli bir varlık olarak görüyor; bu da, özellikle inisiyatifi, çalışkanlığı ve yaratıcılığı ortadan kaldıran Büyük Dil Modellerini (YÖÖ) teşvik ederek, insanlığın karar alma sürecindeki rolünü neden ortadan kaldırmaya çalıştığı sorusunu akla getiriyor. Yapay zekanın demokrasiyi "baltalayabileceğini" iddia ediyor ve bu da kendisinin de peşinde olduğu bir hedef gibi görünüyor.
Kişisel olarak endişe duyduğu konular arasında, şirketin teknolojisinin kitlesel iç gözetim için kullanılması, "temel özgürlüklerimiz için ciddi, yeni riskler" oluşturması ve "insanları tamamen devre dışı bırakan ve hedef seçme ve vurma işlemlerini otomatikleştiren" tamamen otonom silahların kullanımı yer alıyor. Ancak burada bile, tamamen otonom sistemlerin "ulusal savunmamız için kritik önem taşıyabileceği" itirafı göz önüne alındığında, itirazları zayıf kalıyor.
Görünüşe göre endişe, mevcut sistemlerin güvenilirliği ve Amerikan personelini tehlikeye atıp atmayacakları konusundaydı. "Amerikan savaşçılarını ve sivillerini riske atacak bir ürünü bilerek sağlamayacağız."
Amodei'nin açıklamasından iki gün sonra, ABD ve İsrail'in İran'a yönelik önleyici, ortak ve yasadışı saldırısı başladı ve bu da yapay zekâ destekli kararsız gözetlemenin (DSS) bir başka açgözlü kullanımına sahne oldu.
ABD ordusu, Palantir'in Maven Akıllı Sistemi'ne başvurarak hedefleri hızla belirledi; bu sistem, gözetim verilerini değerlendirmek, hedef listeleri oluşturmak ve önceliklendirmek için Anthropic'in Claude yapay zekâsını entegre ediyor. Uluslararası Stratejik Çalışmalar Enstitüsü'nden (IISS) Noor Hammad, "İran'da vurulan hedeflerin çoğu, bir okul, sağlık ve konut tesisleri de dahil olmak üzere sivil yerlerdi ve bu da hızlı hedef belirlemenin risklerini gösteriyor" diye yazıyor. Düşünce kuruluşlarının her zaman aynı ölçüde abartısız ve örtmeceli ifadeler kullanacağına güvenilebilir.
Gisel, gazetecilere mevcut durumda "otonom silahların savaş alanında doğrudan insanları hedef almak için kullanıldığına dair kesin bir kanıt bulunmadığını" söyledi. Bu, İsrail Savunma Kuvvetleri, Pentagon ve diğer ordulardaki teknoloji meraklılarının gösterdiği saygılı tavırlar göz önüne alındığında, pek bir fark oluşturmayan bir ayrımdır. Sistem öyle diyorsa, doğru olmalı. Ayrıca, bu kısıtlama ve yasal bir kontrol sistemi çağrılarının, hiçbir etki üretmeden endişenin enkazını şişirme riski de vardır.
Kasım ayında gerçekleşecek olan Belirli Konvansiyonel Silahlar Sözleşmesi'nin (CCW) yedinci Gözden Geçirme Konferansı öncesinde, insan türünün önce kendini tehlikeye atmadan, kaçan cini geri dönülmez bir şekilde şişeye hapsetmeye çalışmadan bir yol izlemesi olası değildir. Atom silahlarının yaratılmasından iklim değişikliği tehditlerine kadar, her zaman en kötüsü, öne sürülen herhangi bir panzehirden önce gelecektir. Ve bu panzehir, ortaya çıktığında, muhtemelen sadece geçici bir çözüm olacaktır.
Binoy Kampmark, 2 Eylül 2026, CounterPunch
(Binoy Kampmark , Cambridge'deki Selwyn Koleji'nde Commonwealth Bursu sahibiydi. Melbourne'deki RMIT Üniversitesi'nde öğretim görevlisi olarak çalışmaktadır.)
Ahmet Faruk, 08.10.2026, Sonsuz Ark, Çevirmen Yazar, Sonsuz Ark Çevirileri
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.