The dark future of AI in war | Stephanie Hare | TEDxBerlin
TEDx Talks · 2026-09-18
💡 Hızlı Bilgi
1. Ana tez: Teknoloji asla tarafsız değildir; onu tasarlayan, finanse eden, düzenleyen ve kullanan insanların özelliklerini ve kararlarını taşır.
2. Yapay zeka ikilemi: Bir taraf yapay zekanın nükleer savaş düzeyinde varoluşsal riskler yarattığını savunurken, diğer taraf "geride kalmamak için" aceleyle yapay zeka kullanılmasını dayatmaktadır.
3. Yanlış bilinen: Otonom sistemlerin ölümlere yol açması her zaman bir "hata" (kaza) olarak görülürken, ölümcül otonom silah sistemlerinin tasarlanma amacı masum insanları tespit edip seçerek öldürmektir.
4. Tartışmanın odağı: Teknoloji şirketleri sistemlerin yeterince "güvenilir" olup olmadığını tartışırken, liderler yetkinin kimde olacağı gibi politik sorunlara odaklanmaktadır.
5. Döngüdeki insan yanılgısı: "İnsanı döngüden çıkarma" veya otomatik silahlarda insan olmama savı geçersizdir; çünkü bu silahları inşa eden, kodlayan, finanse eden ve kullanan arkasında her zaman insanlar vardır.
6. Çözüm seçenekleri: Ölümcül otonom silahlar için ya tamamen yasaklama (denetim rejimi) ya karşılıklı caydırıcılık (savunma amaçlı bulundurma) ya da hiçbir şey yapmama seçeneği mevcuttur.
7. Uygulanabilir yöntem: Yeni bir kural icat etmeye gerek yoktur; Nuremberg duruşmalarında olduğu gibi "sadece emirleri uyguluyorduk" savunması reddedilmeli ve suç işleyen insanlar hukuk önünde sorumlu tutulmalıdır.
📊 Detaylı Açıklama
Stephanie Hare, konuşmasında teknolojinin doğası gereği tarafsız olmadığını vurgulayarak başlar ve Papa'nın genelgesine atıfta bulunur. Teknolojinin, onu tasarlayanların ve finanse edenlerin iradesini taşıdığını belirtir. ChatGPT ve benzeri büyük dil modellerinin hayatımıza girmesiyle birlikte şirketler ve hükümetler topluma sürekli olarak bir yarışta olunduğu ve geride kalınmaması gerektiği mesajını pompalamaktadır. Buna karşılık, teknolojinin öncüsü olan bazı isimler yapay zekanın nükleer felaketler veya salgınlar kadar büyük bir yok olma riski taşıdığını savunmaktadır. Konuşmacı, bu iki kutuplu korku senaryosunun ötesine geçerek asıl odaklanılması gereken sorunun "Yapay zeka için insanların sorumlu kalmasını nasıl sağlarız?" olduğunu savunmaktadır.
Geliştirilen yapay zeka sistemlerinin önemli bir kısmı, insan müdahalesi gerektirmeyen "ajan yapay zeka" olarak tasarlanmaktadır. Bu teknolojiler tatil planlamak gibi zararsız alanlarda kullanılabilirken, insanları öldürmek amacıyla da kurgulanabilmektedir. Geçmişte yaşanan otonom araç kazaları veya sohbet botlarının intihara teşvik vakaları, yapay zekanın bu sonuçları üretecek şekilde tasarlanmadığı, aksine birer "hata" (bug) olduğu durumlardır. Bu tür hatalarda sistem sağlayıcılar mahkemelerde sorumlu tutulabilmektedir. Ancak konu ölümcül otonom silah sistemlerine geldiğinde durum değişir; çünkü bu silahların varlık gayesi insanları öldürmektir ve bir hata sonucu değil, tam da tasarlandıkları gibi çalıştıklarında bu eylemi gerçekleştirirler.
Günümüzde bu ölümcül otonom silahları çalıştıran yapay zeka altyapısı güvenilir değildir; yani askeri olmayan hedefleri ve masum insanları seçip öldürme potansiyeline sahiptir. Buna rağmen dünya liderleri ve teknoloji şirketleri bu sistemlerin kullanımı konusunda çatışmaktadır. Örneğin, Anthropic CEO'su gibi isimler sorunu teknolojik bir güvenilirlik meselesi olarak görürken, Donald Trump gibi liderler bunu politik bir yetki sorunu olarak ele almaktadır. ABD başkanı, silahlı kuvvetlerin başkomutanı olarak bu kararı verme yetkisinin kendisinde olduğunu savunmaktadır. Hare, bu iki yaklaşımın da hatalı olduğunu, çünkü her iki tarafın da halkın bu silahların kullanımına rıza gösterdiği varsayımı üzerinden hareket ettiğini belirtir.
Birleşik Krallık gibi ülkelerde de insan müdahalesi olmadan ölümcül saldırılara izin verilip verilmeyeceği tartışılmakta ve düşmanların "döngüdeki insanları" umursamayacağı gerekçesiyle gerektiğinde insanı döngüden çıkarma yeteneğine sahip olunması savunulmaktadır. Hare, bu yaklaşıma şiddetle karşı çıkar. İnsanı döngüden çıkarma kararının yine insanlar tarafından alındığını ve ölümcül otonom silahların kendi başlarına kimseyi öldürmediğini vurgular. Bu sistemleri finanse eden, kodlayan, satan, satın alan ve kullanan insanlar mevcuttur ve asıl sorumluluk bu zincirdeki insanlardadır.
Konuşmanın sonunda Hare, ölümcül otonom silahlar karşısında üç temel yol ayrımı bulunduğunu ifade eder: Birincisi, bu silahların tamamen yasaklanması ve sıkı bir denetim rejimine bağlanmasıdır. İkincisi, caydırıcılık ilkesi gereği karşılıklı kesin yıkım riskine karşı sadece savunma amaçlı bulundurulmasıdır. Üçüncüsü ise hiçbir şey yapmayıp durumun kendi kendine düzelmesini beklemektir. Hare, bu seçenekler arasında doğru tercihi yapabilmenin yolunun "insan sorumluluğu" kavramına odaklanmaktan geçtiğini belirtir.
Çözüm için yeni bir mekanizma icat etmeye gerek olmadığını belirten konuşmacı, Almanya'da bulunmanın verdiği tarihsel bağlamla Nuremberg duruşmalarına atıfta bulunur. İkinci Dünya Savaşı sonrasında yargılanan liderler ve yöneticiler "sadece emirleri uyguladıklarını" söyleyerek kendilerini savunmaya çalışmış, ancak mahkeme bu savunmayı reddetmiştir. Sadece emirleri uygulamak yapay zekanın veya makinelerin yapabileceği bir şeydir; ancak yapay zeka savaş suçlarından dolayı mahkemeye çıkarılamaz. Suç işleyen, bu sistemleri üreten ve kullanan insanlar mahkemeye çıkarılmalıdır ve çıkarılacaktır.
🎯 Eğitim Uzmanı Yorumu
Stephanie Hare'in sunumu, teknoloji etiği alanındaki soyut tartışmaları somut ve hukuki bir zemine oturtması bakımından son derece etkindir. Konuşmanın en güçlü yanı, yapay zekanın özerkliğini mistikleştiren "döngüden çıkan insan" söylemini çürütmesi ve sorumluluğu doğrudan kodlayan, finanse eden ve politikasını belirleyen insan aktörlere iade etmesidir. Bu yaklaşım, teknoloji okuryazarlığı eğitimlerinde bireylerin ve mühendislerin kendi eserlerinin etik sonuçlarıyla yüzleşmesi gerektiğini savunan modern pedagojik yaklaşımlarla birebir örtüşmektedir.
Anlatılan yöntemlerin ve tarihsel referansların (Nuremberg duruşmaları) etkinliği, kural koyucular ve yazılımcılar için pratik bir sorumluluk çerçevesi çizer. Eğitim bağlamında, yazılım geliştiricilere ve mühendislik öğrencilerine teknik becerilerin yanı sıra sıkı bir etik ve hukuk bilinci kazandırılması elzemdir. Pratik bir öğrenme yol haritası olarak; teknoloji etiği ders müfredatlarında "algoritmik tarafsızlık" mitinin yıkılması, sistemlerin hata ile tasarım arasındaki farkının net bir şekilde analiz edilmesi ve küresel hukuk normlarının mühendislik süreçlerine entegre edilmesi birer öğrenme çıktısı olarak yer almalıdır.
Bu analizin sunduğu en büyük sınır ve risk, uluslararası hukukun ve ulus-devletlerin otonom silah yarışını frenlemedeki yetersizliğidir. Büyük teknoloji şirketlerinin kâr motivasyonu ve devletlerin ulusal güvenlik kaygıları, etik çağrıların ve Nuremberg benzeri uluslararası mahkeme tehditlerinin somut bir caydırıcılık üretmesini zorlaştırmaktadır. Bu nedenle bu içerik, körü körüne teknolojik ilerlemeyi savunanlar veya sorumluluğu tamamen yapay zekaya yükleyen teknoloji iyimserleri için uygun olmayıp; teknoloji politikaları, uluslararası ilişkiler ve hukuk alanında eleştirel düşünce geliştirmek isteyen profesyoneller, öğrenciler ve karar alıcılar için hayati önem taşımaktadır.
Sonuç olarak; yapay zekanın askeri ve sivil alanlardaki yıkıcı potansiyeline karşı "izle-geç" politikası yerine aktif bir hukuksal denetim rejiminin savunulması şarttır. Eğitimciler ve toplumsal aktörler, yapay zekanın tarafsız olmadığını, onu tasarlayanların niyetlerini yansıttığını her platformda dile getirmelidir. Eyleme geçiş için atılacak ilk adım, yapay zeka ürünleri ve askeri sistemler geliştirilirken "kim sorumlu olacak?" sorusunun en baştan sorulmasını sağlayacak denetim mekanizmalarını talep etmek ve desteklemektir.
Kanal: TEDx Talks