Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
Converging Risks: AI and the Future of Global Security
Yapay zekâ (YZ) artık tek başına bir teknoloji politikası konusu değil. Küresel güvenliğin merkezinde yer alan alanlara entegre edilmiş genel amaçlı bir yetenek haline geliyor. YZ sistemleri biyolojik araştırmalara, siber operasyonlara, nükleer istikrara, askeri karar alma süreçlerine ve diğer güvenlik bağlamlarına girdikçe, küresel risklerin ortaya çıkış, yayılma ve etkileşim biçimlerini değiştiriyor.
Bu rapor, politika yapıcıların, ulusal güvenlik uzmanlarının, teknik uzmanların, fon sağlayıcıların ve sivil toplum liderlerinin yapay zekâ ile küresel risklerin yakınsaması hakkında nasıl düşünmeleri gerektiğine dair kanıta dayalı bir temel sunmaktadır. Amerikan Bilim İnsanları Federasyonu (FAS) ve Geleceğin Yaşamı Enstitüsü (FLI) tarafından yapay zekâ ve biyolojik güvenlik, siber güvenlik, nükleer risk ve askeri entegrasyon konularına odaklanan bir dizi toplantıya dayanmaktadır. Bu görüşmelerde ortak bir tema ortaya çıktı: Yapay zekâ riski tek bir alan veya tehdit aktörüne bağlı değildir. Giderek daha yetenekli hale gelen araçlar ile bunların işlediği kurumlar ve altyapılar arasındaki etkileşimlerden kaynaklanmaktadır.
Bu rapor, yapay zekâ için tek bir gelecek öngörmek yerine, karar vericilerin birden fazla gidişat boyunca belirsizliği yönetmelerine yardımcı olmayı amaçlamaktadır. Belirsizliği azaltabilecek ve olası geleceklerin geniş bir yelpazesinde sağlam kalabilecek politikalar önermektedir.
Bu rapor, genel amaçlı "sınır" yapay zeka sistemlerine odaklanmaktadır: analiz, kodlama, planlama, bilimsel akıl yürütme, araç kullanımı, sentetik medya üretimi ve otonom iş akışları dahil olmak üzere birçok iş türünü destekleyebilen son derece yetenekli sistemler. Mayıs 2026 itibarıyla, önde gelen sınır sistemleri büyük metin kümelerini sentezleyip sorgulayabilir, yazılım yazıp hata ayıklayabilir, teknik ve bilimsel materyalleri analiz edebilir, gerçekçi sentetik medya üretebilir ve kullanıcıların çok adımlı bilimsel veya operasyonel görevleri planlamasına yardımcı olabilir; ancak performansları hala düzensiz ve bağlama bağlıdır. Bu yetenekler çift amaçlıdır. Bir araştırmacının biyolojik bir veri kümesini analiz etmesine yardımcı olan bir sistem, zararlı deneylere yönelik engelleri de azaltabilir. Savunmacıların siber güvenlik açıklarını belirlemesine yardımcı olan bir sistem, saldırganların bunları daha hızlı istismar etmesine de yardımcı olabilir.
Rapor, günümüzdeki politika söylemini şekillendiren yapay zekanın gelecekteki gidişatına dair üç geniş görüşle başlıyor. "Serap" bakış açısı, günümüzdeki yapay zeka söylemini abartılı buluyor ve erken devreye alma, dolandırıcılık, sermaye yanlış tahsisi ve politika yapıcıların dikkat dağınıklığı gibi risklere odaklanıyor. "Normal teknoloji" bakış açısı, yapay zekayı güçlü ancak nihayetinde yönetilebilir, ciddi planlama, yönetim ve kurumsal uyum gerektiren genel amaçlı bir teknoloji olarak ele alıyor. Bu bakış açısına göre, başlıca riskler eşitsiz yayılım, kırılgan devreye alma, otomasyon yanlılığı ve yeteneğin daha geniş bir aktör grubuna yayılmasından kaynaklanıyor. Son olarak, "otonom güç" bakış açısı, mevcut sistemlerdeki hızlı gelişmelerin giderek daha otonom veya insanüstü sistemlere işaret edebileceğini savunuyor. Bu bakış açısından, başlıca riskler arasında güç yoğunlaşması ve insanlardan çok daha güçlü sistemler üzerindeki kontrolün kaybı yer alıyor ve bu durum potansiyel olarak varoluşsal sonuçlar doğurabilir.
Bu rapor, yapay zekanın küresel risk üzerindeki etkisini büyük ölçüde “normal teknoloji” ve “otonom güç” bakış açılarıyla inceliyor. Belirli yapay zeka uygulamalarına yönelik abartılara karşı uyarıda bulunduğu için “serap” görüşü önemli olsa da, bu raporun merkezindeki küresel risk soruları, yapay zekayı şu iki açıdan ele aldığımızda daha belirgin hale geliyor: 1) Hatalı kurumlar aracılığıyla yayılan güçlü, çift kullanımlı bir teknoloji veya; 2) İzlenmesi, sınırlandırılması veya kontrol edilmesi daha zor hale gelebilecek daha otonom ve güçlü sistemlere doğru bir yol. Politika yapıcıların belirsizlik koşulları altında karar vermeleri gerekecek. Yapay zeka yetenekleri jeopolitik gerilim döneminde hızla gelişiyor ve harekete geçmeden önce kesin kanıt beklemek de riskler taşıyabilir.
Bu rapor, analizde bilindik bir ulusal güvenlik çerçevesini kullanmaktadır: Risk = Tehdit × Güvenlik Açığı × Sonuç (TVC). Tehdit, zarara yol açan aktörleri, niyetleri ve yetenekleri ifade eder. Güvenlik açığı, tehditlerin ortaya çıkmasına izin veren teknik sistemlerde, kurumlarda, altyapıda, insan-makine ekiplerinde veya yönetim düzenlemelerinde bulunan zayıflıkları ifade eder. Sonuç ise, tehditlerin güvenlik açıklarından yararlanması sonucu ortaya çıkan zararları ifade eder; bunlar arasında can kayıpları, tırmanma, sistemik aksama, güven kaybı veya uzun vadeli kurumsal hasar yer alır.
Yapay zekâ, bu üç bileşeni aynı anda etkileyebilir. Yapay zekâ, kötü niyetli devlet ve devlet dışı aktörlerin yapabileceklerini artırabilir. Ayrıca, şeffaf olmayan sistemlere karmaşıklık getirerek, bir şeylerin gözden kaçmasına karşı savunmasızlığı artırır. Yanıt sürelerini kısaltabilir ve arızaların giderilmesini zorlaştırarak sonuçları artırabilir. Otonom güç senaryolarında, tehdit ve savunmasızlık arasındaki sınır bulanıklaşabilir: güçlü yapay zekâ sistemlerinin gözetimindeki güvenlik açıkları, kontrol kaybına yol açarak, yapay zekâ sistemlerinin kendilerinin bir tehdit oluşturmasına neden olabilir.
Politika Yapıcılar Bu Raporu Nasıl Kullanmalı? – Beş Soru, Sağlam Bir Temel ve Beş Temel İlke
Politika yapıcılar belirsiz geleceklerle ve hızla gelişen yeteneklerle boğuşurken, belirsizliği azaltmak ve varsayımları ortaya çıkarmak için şu yol gösterici soruları öneriyoruz:
- İlk olarak, bu öneride ilgili aktör olarak kim veya ne ele alınıyor: insanlar, insan-yapay zeka sistemleri mi yoksa yapay zeka sistemlerinin kendileri mi?
- İkinci olarak, bu öneri (örtülü veya açık bir şekilde) hangi argümanlara, kanıtlara ve tarihsel referans sınıflarına dayanmaktadır?
- Üçüncüsü, bu teklif özellikle hangi tür risk veya fırsata odaklanmaktadır?
- Dördüncüsü, bu risklerin veya fırsatların varlığını sorgulayacak veya destekleyecek hangi kanıtlar vardır?
Beşinci olarak, ilgili riskler veya faydalar kesinleşmeden önce politika yapıcıların rotayı güncellemesi için bu kanıtların zamanında ulaşması mümkün müdür ve kanıt toplama süreci hızlandırılabilir mi?
Politika yapıcılar ayrıca tehditleri, kırılganlıkları ve sonuçları azaltmak için katmanlı savunmalar oluşturan politikalar geliştirmelidir. Politika seçeneklerini bir temel ve beş sütun etrafında şekillendiriyoruz:
- Temel. Hükümet kapasitesi, koordinasyon ve çeviri altyapısı. Kurumların teknik uzmanlığa, araçlara erişime, yapay zeka geliştiricileriyle güvenilir kanallara, alanlar arası koordinasyona ve yapay zeka yetenekleri hakkındaki iddiaları tamamen özel sektör güvencelerine dayanmadan değerlendirme yeteneğine ihtiyacı vardır.
- 1.Temel İlke. Daha güçlü test, değerlendirme, doğrulama ve geçerlilik (TEVV). Bu, daha iyi değerlendirmeler, yapısal olarak geçerli kıyaslama ölçütleri, dağıtım sonrası izleme ve yapay zekanın gidişatındaki değişikliklere ilişkin göstergeler gerektirir; buna yapay zeka destekli Ar-Ge otomasyonu da dahildir.
- 2. Temel İlke. Sağlam teknik katman yönetimi. Bu, model güvenliği, erişim kontrolleri, şeffaflık yükümlülükleri, olay raporlaması ve orantısız riskler yaratan azaltıcı yetenekleri içerir.
- 3. Temel İlke: Kurumlarda ve yüksek riskli sistemlerde yapay zekanın dikkatli bir şekilde uygulanması. Askeri karar destek sistemleri, siber operasyonlar, biyolojik tasarım iş akışları ve nükleer sistemlerle bağlantılı sistemler gibi yüksek riskli kullanımlar, anlamlı insan kontrolünü sağlamak için risk kademesine göre onay, bağımsız inceleme, denetim kayıtları, insan faktörü testleri ve diğer müdahaleleri gerektirir.
- 4. Temel İlke: Yeni yeteneklerin saldırı-savunma dengesini değiştirmek. Bu, saldırganlara avantaj sağlayan yeteneklere geniş erişimi geciktirmeyi ve kısıtlamayı, aynı zamanda siber savunma ve diğer savunma ortamlarında yapay zeka kullanımını güçlendirmeyi içerir.
- 5. Temel İlke: Dayanıklılık Oluşturma. Dayanıklılık, önlenebilir yukarı yönlü riskleri mazur göstermemeli olsa da, hükümetler ve kurumlar bu alanlardaki gelecekteki tehditleri yönetmek için daha güçlü siber dayanıklılığa, halk sağlığı planlarına ve kriz iletişim protokollerine ihtiyaç duyacaktır.
Yapay zekâ şimdiden önemli sonuçlar doğuruyor, ancak gelecekteki gidişatı hala tartışmalı. Politika yapıcılar varsayımlarını açıkça belirtmeli, mükemmel bir şekilde tahmin edilebilecek şeylerden ziyade şekillendirilebilecek şeylere odaklanmalı ve kanıtlar değiştikçe öğrenip yanıt verebilen kurumlar oluşturmalıdır.
Not: Raporun tamamını buradan okuyabilirsiniz.
Yong-Bee Lim, Oliver Stephenson, Andrew W. Reddie, 20 Mayıs 2026, The Federation of American Scientists- FAS
(Yong-Bee Lim, Küresel Risk ekibinde Yardımcı Direktör olarak görev yapmaktadır. Dr. Oliver Stephenson, Amerikan Bilim İnsanları Federasyonu'nda Yapay Zeka ve Gelişen Teknolojiler Politikası Direktör Yardımcısı olarak görev yapmaktadır. Dr. Andrew W. Reddie, Amerikan Bilim İnsanları Federasyonu Küresel Risk ve Yapay Zeka Kıdemli Danışmanıdır. Kaliforniya Üniversitesi, Berkeley'deki Goldman Kamu Politikası Okulu'nda öğretim üyesi olarak görev yapmaktadır ve teknoloji ile uluslararası güvenlik kesişiminde ders verdiği ve araştırma yaptığı Berkeley Risk ve Güvenlik Laboratuvarı'nın Kurucusu ve Fakülte Direktörüdür.)
Eyüp Kaan, 29.06.2026, Sonsuz Ark, Çevirmen Yazar, Sonsuz Ark Çevirileri
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.