Aşırı uçlar bizi radikalleştirmek için yapay zeka kullanıyor; karşı koyabilir miyiz? | Julia Ebner | TEDxBerlin
TEDx Talks · 2026-10-13
💡 Hızlı Bilgi
1. Ana tez: Aşırılık yanlısı ağlar ve terör grupları, yeni teknolojileri ve insan psikolojisini birleştirerek kitleleri radikalleştirmede girişimler gibi hareket etmektedir.
2. Kritik kavram: Kişisel kimliğin grup kimliğiyle birleştiği "kimlik füzyonu", aşırılık yanlısı gruplara katılımı ve aidiyeti tetikleyen güçlü bir psikolojik bileşendir.
3. Yanlış bilinen: Aşırılık yalnızca teknolojik bir araç eksikliğinden kaynaklanmaz; mesele saf teknolojiden ziyade insan psikolojisi ile teknolojinin derinlemesine etkileşimidir.
4. Tehlikeli eğilim: Üretken yapay zeka, deepfake'ler ve sosyal botlar; dezenformasyonun ölçeğini ve hızını artırarak paylaşılan gerçeklik algısını tehlikeye atmaktadır.
5. Uygulanabilir yöntem: Yapay zeka destekli tehdit tespiti; insan gözetimi ile birlikte kullanılarak riskli dil kalıplarını ve şiddete geçme eğilimlerini önceden belirlemede kullanılabilir.
📊 Detaylı Açıklama
Julia Ebner, 20'li yaşlarında ikili bir hayat sürerek cihadist sohbet grupları, nazi yanlısı trolleme orduları, beyaz milliyetçi hareketler ve kadın düşmanı incel toplulukları gibi dünyanın en tehlikeli aşırılık yanlısı ağlarına sızmıştır. Bir aşırılık araştırmacısı olarak radikalleşme psikolojisini yerinde incelemek amacıyla sahte kimlikler ve avatarlar kullanmıştır. Bu süreçte, aşırılık yanlılarının kalpler ve zihinler pazarından pay kapmak için yeni teknolojileri ilk benimseyenler arasında yer aldığını ve birer girişim gibi hareket ettiğini fark etmiştir. Örneğin, IŞİD üyelerinin siber hilafet kurmak için şifreli kelimeler, otomatik işe alım botları ve şifreli mesajlaşma uygulamaları kullandığını gözlemlemiştir. Beyaz milliyetçilerin ise kışkırtıcı çevrim dışı gösterileri viral çevrim içi kampanyalara dönüştürerek yerel hoşnutsuzluklardan yararlandıklarını tespit etmiştir.
Yıllar süren saha çalışmaları sonucunda, aşırılık yanlılarının teknolojik inovasyondan ziyade insan psikolojisini sömürmede ustalaştığını görmüştür. COVID-19 pandemisi ve 6 Ocak Kongre baskını gibi olaylarda, QAnon gibi komplo mitlerinin devasa küresel ekosistemlere nasıl dönüştüğüne şahit olmuştur. Farklı sosyoekonomik geçmişe sahip aşırılık yanlılarının paylaştığı temel psikolojik bileşenler; sömürülebilir derin bir hoşnutsuzluk, kimlik füzyonu (kişisel kimliğin grup kimliğiyle birleşmesi) ve komplo mitleriyle beslenen dış grup tehdidi algısıdır. Büyük teknoloji platformlarının içerik denetleme politikalarını zayıflatması ve algoritmaların ticarileştirilmesi, bu bölünmeleri ve radikalleşmeyi daha da hızlandırmıştır.
2022 yılından itibaren üretken yapay zekanın aşırılık yanlıları tarafından propagandaları, çok dilli içerikleri ve sohbet botlarını oluşturmak için kullanılmaya başlandığı görülmüştür. 2023'te Rusya yanlısı operasyonlar deepfake'ler ve yapay zeka web siteleriyle kampanyalar yürütmüş, 2024'te ise Southport saldırıları dezenformasyonu Telegram üzerinden yayılarak saatler içinde fiziksel şiddeti tetiklemiştir. Yapay zeka, dezenformasyonu hiper-özelleştirilmiş ve ölçeklenebilir hale getirerek paylaşılan bir gerçeklik üzerinde anlaşmayı imkansız hale getiren otoriterlik ve radikal popülizm ekosistemini beslemektedir.
Ancak teknoloji sadece kötü niyetli aktörler tarafından değil, aynı zamanda güvenlik açıkları ve radikalleşme risklerini tespit etmek için de kullanılabilmektedir. Araştırmacılar, yapay zeka yardımıyla dildeki yinelenen kalıpları (iç grup akrabalık dili, dış grubu insanlıktan çıkarma ve şiddeti haklı çıkarma) analiz ederek ölümcül dil kokteyllerini tespit etmede büyük ilerleme kaydetmiştir. Yapay zeka destekli bu tehdit tespiti, insan gözetimiyle birleştirildiğinde, yalnızca kötü fikirleri paylaşanlar ile sözlerini eyleme dönüştürme potansiyeli yüksek olanları birbirinden ayırmada kritik bir süzgeç işlevi görebilir.
Mevcut algoritmalar etkileşim için optimize edildiğinden, korku, öfke ve şok gibi olumsuz duyguları tetiklemektedir. Ancak Ebner, algoritmaların doğa kanunu değil birer tasarım seçeneği olduğunu vurgulamaktadır. Onaylayan değil karmaşıklaştıran, endişeleri paylaşan fakat farklı sonuçlara varan insanları bağlayan "köprü algoritmaları" günümüzde test edilmektedir. Yapay zekanın bir silah değil, dış grup düşmanlığını azaltan ve insanları ortak bir zeminde buluşturan bir köprü olarak tasarlanması mümkündür ve bu vizyon uğruna mücadele edilmeye değer bir geleceği temsil etmektedir.
🎯 Eğitim Uzmanı Yorumu
Julia Ebner’in sunduğu analiz, modern dijital çağın en karmaşık ve tehlikeli dinamiklerinden biri olan radikalleşme mekanizmalarını içeriden bir gözle gözler önüne sermektedir. Konuşmanın en güçlü yönü, aşırılık yanlısı grupların sadece ideolojik değil, aynı zamanda teknolojik ve psikolojik birer adaptasyon makinesi olarak nasıl çalıştığını somut örneklerle kanıtlamasıdır. Araştırmacının sahada edindiği tecrübeler, teorik yaklaşımların ötesine geçerek dijital manipülasyonun insan zihni üzerindeki gerçek etkilerini gözler önüne sermekte ve güvenlik politikalarının insan-teknoloji etkileşimini merkezine alması gerektiğini net bir şekilde ortaya koymaktadır.
Eğitim ve dijital okuryazarlık bağlamında, yapay zekanın sadece bir tehdit unsuru olarak değil, aynı zamanda bir erken uyarı ve koruma mekanizması olarak konumlandırılması son derece stratejik bir yaklaşımdır. Dildeki insanlıktan çıkarma ve dışlama kalibrelerini yapay zeka ile tespit etme yöntemi, bireylerin zararlı ağlara kapılmadan önce yönlendirilmesi için pratik bir öğrenme ve müdahale haritası sunmaktadır. Ancak bu sistemlerin tam otomasyona bırakılması ciddi sivil özgürlük riskleri barındırdığından, Ebner'in vurguladığı "her zaman insan gözetimi ile desteklenme" şartı akademik ve etik açıdan hayati bir sınırlama olarak dikkate alınmalıdır.
Bu analizin sunduğu en değerli pratik çıkarım, algoritmik tasarımların kaderimiz olmadığı gerçeğidir. Bireyler ve eğitimciler olarak dijital platformlarda maruz kaldığımız kutuplaştırıcı akışa karşı bilinçli bir direnç geliştirmeliyiz. Korku ve öfkeyi tetikleyen içerikler yerine farklı bakış açılarını harmanlayan "köprü" niteliğindeki yaklaşımları benimsemek, bilgi kirliliği ve dezenformasyon çağında bilişsel bağışıklığı artırmanın en temel yoludur. Bu çerçevede, yapay zekayı bir silahlanma aracı olarak değil, ortak aklı ve uzlaşıyı inşa eden bir araç olarak yönlendirmek toplumsal dayanıklılığın anahtarıdır.
Kanal: TEDx Talks