14 Ocak 2021 Perşembe

SA9028/SD1930: Facebook Bir Kıyamet Makinesi'dir

 Sonsuz Ark/ Evrensel Çerçeveye Yolculuk

Sonsuz Ark'ın Notu:
Çevirisini yayınladığımız analiz, The Atlantic'in yönetici editörü Adrienne LaFrance'a aittir ve 'Soğuk Savaş' döneminin nükleer bombası olarak bilinen Kıyamet Makinesi'ne benzetilen sosyal medya şirketi Facebook'un ürettiği devasa sorunlara ve tehditlere odaklanmaktadır. Twitter, Google ve Facebook tarafından ABD Başkanı Donald Trump'a uygulanan sansür, analistin, "Facebook, neredeyse Çin ve Hindistan'ın toplamı kadar büyük bir kullanıcı nüfusuna sahip, sınırsız bir ulus devlettir ve büyük ölçüde gizli algoritmalarla yönetilir. Hillary Clinton, bu yılın başlarında bana Zuckerberg ile konuşmanın yabancı bir devletin otoriter başkanıyla müzakere etmek gibi hissettirdiğini söyledi. "Bu, daha yeni anlamaya başladığımız şekillerde muazzam etkiye sahip küresel bir şirket" dedi." anlatısı ve "Facebook bir devlet propagandası, hedefli taciz, teröristleri işe alma, duygusal manipülasyon ve soykırım ajanıdır; yeraltında değil, Kaliforniya Menlo Park'taki Disneyland'den ilham alan bir kampüste yaşayan dünya çapında bir silahtır." şeklindeki tespiti, tasarlanmış bir küresel tehditten bahsetmesine temel oluşturmuştur: "Bugünün sosyal ağları, aralarında en önemlisi Facebook, kendilerini bu kadar zararlı yapan şeyleri teşvik etmek için oluşturuldu. Bu onların mimarisinde var." The Atlantic gibi, Clinton-Demokratlar destekçisi, neocon ve satanist perspektife sahip ve kendi çıkarlarına hizmet eden sosyal medya mimarîsini tasarlayan, onu inşa eden bir yapının bu türden bir analizi yayınlayabilmesi mantık dışı gibi görünse de, son dönemlerde ABD'de özellikle sol-demokrat faşizm inşâcılarının Sosyal Medya devlerini kontrol altında tutma girişimlerinin bir parçası olarak değerlendirildiğinde, Adrienne LaFrance'in yaptığı şeyi anlamlandırmak mümkün olabilir. Bütünüyle savunma psikolojisi ile kurgulanmış olan bu analiz, Facebook ve Sosyal Medya gerçeğini ifşa etmeyi göze alırken, politik alanın kontrolünün elde tutulması kaygısını bariz bir şekilde yansıtmaktadır. İçeriğini çok detaylı olarak değerlendirebileceğimiz analizin gelecek zamanlar için önemli sonuçlar içerdiğini düşünüyoruz. Türkiye, bu süreçten gerekli olan dersleri çıkarmış olarak 21. yüzyılda milli ve yerli Sosyal Medya platformları inşâ etmeye kararlı görünmektedir. 13 Ocak 2021'de, "İnsanımızın hak ve hukukunu gözetmede kendilerini hukukun üzerinde gören sosyal medya şirketlerinin baskılarına boyun eğmeyeceğiz." diyen Cumhurbaşkanı Erdoğan, sözlerine devam etmiş, "Bu yapılara karşı vatandaşımızı ve demokrasimizi savunduğumuz için başta muhalefet partileri olmak üzere acımasızca eleştirildik. Ancak geldiğimiz noktada dijital diktatörlüğe ve siber zorbalığa karşı verdiğimiz hukuk mücadelesinin önemini daha iyi anlıyoruz. 'İyi ki bu meseleyi çok erkenden gündemimize almışız' diyoruz." ve  "İnşallah önümüzdeki dönemde bu alanda yerli ve milli altyapımızın gücünü arzu ettiğimiz seviyeye çıkartacağımıza inanıyorum. İnşallah yerlisini, millisini biz de kuracağız, zaman yakın." cümleleriyle Türkiye'nin kararlılığını somutlaştırmıştır.
Seçkin Deniz, 14.01.2021


Facebook Is a Doomsday Machine

"Modern web'in mimarisi, insanlık için ciddi tehditler oluşturmaktadır. Kendimizi kurtarmak için çok geç değil."

Kıyamet makinesinin asla var olmaması gerekiyordu. Örnekteki gibi bir düşünce deneyi olması gerekiyordu: Tüm insan yaşamını yok etmek için yapılmış bir cihaz hayal edelim. Şimdi, makinenin yeraltının derinliklerine gömüldüğünü, ancak daha sonra Amerika Birleşik Devletleri'ndeki şehir ve kasabalardaki sensörlere bağlı olan bir bilgisayara bağlı olduğunu varsayalım.

Algılayıcılar, yaklaşan kıyametin işaretlerini algılamak için tasarlanmıştır; dünyanın sonunu engellemek için değil, onu tamamlamak için. Radyasyon seviyeleri, örneğin üç Amerikan şehrinde aynı anda nükleer patlamalar olduğunu gösteriyorsa, sensörler, yanıt olarak birkaç nükleer savaş başlığını patlatmak üzere programlanmış olan Doomsday Machine-Kıyamet Makinesi'ne bildirimde bulunurlar. O noktada geri dönüş yoktur. Atomik bir patlama üreten fisyon zinciri reaksiyonu, Dünya'daki tüm yaşamı söndürmeye yetecek kadar başlatılır. Korkunç bir ışık parlaması, müthiş bir patlama sesi ve ardından sürekli bir kükreme ortaya çıkar. Kıyamet Günü Makinesinin ortaya çıkaracağı yıkımı yansıtacak bir sözümüz var: Megadeath- Mega Ölüm.

Kimse megadeat için can atmıyor Ancak Doomsday Machine'i taşlaştıran tek şey megadeath değil. Gerçek terör bu makinenin kendi özerkliğindedir, bu fikir, bir dizi çevresel girdiyi tespit etmek, sonra da insan müdahalesi olmadan harekete geçmek için programlanacaktır. Askeri stratejist Herman Kahn, bir Doomsday Machine varsayımını ortaya koyan 1960 tarihli Termonükleer Savaş Üzerine kitabında “İnsan müdahalesi, kontrolü ve nihai karar şansı yok” diye yazmıştı. Kavramın amacı nükleer savaşı kazanılamaz ve dolayısıyla düşünülemez hale getirmekti.

Kahn, dünyadaki tüm yaşamın yok oluşunun otomatikleştirilmesinin ahlaksız olacağı sonucuna vardı. Sonsuz küçük bir hata riski bile, Kıyamet Günü Makinesinin varlığını haklı çıkarmak için çok büyüktür. Kahn, "Bilgisayardan vazgeçip Kıyamet Makinesi'ni karar vericiler tarafından güvenilir bir şekilde kontrol edilebilir hale getirsek bile," diye yazdı Kahn, "yine de yeterince kontrol edilebilir değil." Hiçbir makine kendi başına bu kadar güçlü olmamalıdır; ama kimse de olmamalı.

Sovyetler, Soğuk Savaş sırasında gerçekten Kıyamet Makinesi'nin bir versiyonunu yaptılar. Ona "Ölü El" adını verdiler. Ama şimdiye kadar, biraz da mucizevi bir şekilde, bombalarla nasıl yaşayacağımızı öğrendik. Şimdi de sosyal ağda nasıl hayatta kalacağımızı öğrenmemiz gerekiyor.

İnsanlar Facebook'tan yakın zamanda bir şeyler değişmiş gibi şikayet etme eğilimindeler. Sosyal ağın bir zamanlar yararlı olduğuna ya da en azından birkaç kolu çekmiş olsaydık en azından iyi olabileceğine dair bir düşünce vardı: burada biraz ılımlılık ve gerçekleri kontrol etme, orada biraz düzenleme, belki de federal bir antitröst davası. Ama bu çok güneşli ve dar görüşlü bir manzara. Bugünün sosyal ağları, aralarında en önemlisi Facebook, kendilerini bu kadar zararlı yapan şeyleri teşvik etmek için oluşturuldu. Bu onların mimarisinde var.

Yıllardır sosyal web'i tüm doğru şekillerde büyülü hale getirmek için neyin gerekli olduğunu düşünüyordum - daha az aşırı, daha az toksik, daha doğru - ve son zamanlarda bu sorun hakkında çok dar düşündüğümü fark ettim. Uzun zamandır Mark Zuckerberg'in Facebook'un bir medya şirketi olduğunu kabul etmesini ve bir derginin editörünün yapacağı gibi yarattığı bilgi ortamının sorumluluğunu almasını istiyordum. (Ona bir kez baskı yaptım ve güldü.) Son yıllarda, Facebook'un hataları ağırlaştıkça ve yöntemleri sertleştikçe, ihmalin sorunun sadece bir parçası olduğu ortaya çıktı. Yaptığı ürünü Mark Zuckerberg bile kontrol edemez durumdaydı. Facebook'un bir medya şirketi olmadığını fark ettim. Bu bir Kıyamet Makinesi'ydi.

Sosyal ağ, tam olarak ne için inşa edildi ise onu yapıyor. Facebook, gerçeği aramak ve onu bildirmek, yurttaşlık sağlığını iyileştirmek, gücü hesaba katmak veya kullanıcılarının çıkarlarını temsil etmek için mevcut değildir, ancak bu fenomenler varoluşunun ara sıra ortaya çıkan yan ürünleri olabilir. Şirketin ilk misyonu "insanlara paylaşma ve dünyayı daha açık ve bağlantılı hale getirme gücü vermek" idi. Bunun yerine, “topluluk” kavramını aldı ve onu tüm ahlaki anlamından mahrum etti. 

Örneğin QAnon'un yükselişi, sosyal ağın mantıksal sonuçlarından biridir. Bunun nedeni, Facebook'un (Google ve YouTube ile birlikte) dezenformasyonu ışık hızıyla küresel kitlelere yaymak ve iletmek için mükemmel olmasıdır. Facebook bir devlet propagandası, hedefli taciz, teröristleri işe alma, duygusal manipülasyon ve soykırım ajanıdır; yeraltında değil, Kaliforniya Menlo Park'taki Disneyland'den ilham alan bir kampüste yaşayan dünya çapında bir silahtır.

Sosyal ağın devleri - Facebook ve onun yan kuruluşu Instagram; Google ve yan kuruluşu YouTube; ve daha az bir ölçüde, Twitter - mega ölçek olarak adlandıracağım şeyin peşinde dogmatik olarak değerden bağımsız olarak başarıya ulaştılar. Yol boyunca bir yerlerde, Facebook sadece çok büyük bir kullanıcı tabanına değil, aynı zamanda benzeri görülmemiş büyüklükte bir kullanıcı tabanına ihtiyaç duyduğuna karar verdi. Bu karar, Facebook'u hızdan kaçmak için bir yola, sadece var olmakla topluma zarar verebileceği bir dönüm noktasına getirdi.

Kıyamet Günü Makinesi karşılaştırmasının sınırlamaları açıktır: Facebook bir şehre bir nükleer bombanın anında mahvedebileceği bir şekilde bir darbe indiremez. Kıyamet Günü Makinesi, dünyanın sonunu engellemek için dünyadaki hayatı sona erdirecek bir araç olarak düşünülürken, Facebook, bir gece yarı sarhoş bir Harvard öğrencisi sıkıldığı için ortaya çıktı. Ancak riskler hala ölüm kalım meselesi düzeyindedir.. Mega ölçek, neredeyse mega ölümün olduğu varoluşsal tehdittir. Dünya nüfusunun kaderini tek bir makine kontrol edememelidir; hem Doomsday Machine- Kıyamet Makinesi hem de Facebook bunu yapmak için üretilmiştir.

Facebook’un her ne pahasına olursa olsun ölçeklendirilen iş modelinin sürdürdüğü zarar döngüsü açıkça görülüyor. Ölçek ve katılım Facebook için değerlidir çünkü bunlar reklamverenler için değerlidir. Bu teşvikler, kullanıcıları kolayca ve sık sık etkileşim kurmaya teşvik eden tepki düğmeleri gibi tasarım seçimlerine yol açarlar ve bu da kullanıcıları güçlü bir tepkiye neden olacak fikirleri paylaşmaya teşvik ederler. 

Facebook'ta bir tepki düğmesine her tıkladığınızda, bir algoritma onu kaydeder ve kim olduğunuza dair portreyi keskinleştirir. Kullanıcıların kişisel verilerinin yığınlarıyla mümkün olan hiper hedeflemesi, manipülasyon için mükemmel bir ortam yaratır; reklamverenler, politik kampanyalar, dezenformasyon temsilcileri ve tabii ki Facebook'un kendisi tarafından, bu da nihayetinde sitede ne gördüğünüzü ve ne görmediğinizi kontrol eder. 

Facebook, yaklaşık 15.000 moderatörden oluşan bir birlik oluşturdu, insanlar ağza bile alınmayan şeyleri izlemek için para ödediler; cinayetler, toplu tecavüzler ve platforma düşen sansürlenmemiş şiddet tasvirleri. Facebook, kullanıcılarının yayınlamayı seçtiği materyal için değerden bağımsız bir araç olduğu konusunda ısrar etse de, ılımlılık, şirketin tekrar tekrar çekmeye çalıştığı bir kaldıraçtır. Ancak Facebook'un dünyaya yaydığı Kutsal Kitabındaki b.k selini durdurmak için yeteri sayıda dil bilen, yeterince saat çalışan yeterli moderatör yok, çünkü algoritma yüzde yüz bir kişiden daha hızlı ve daha güçlü. Mega ölçekte, bu algoritmik olarak çarpıtılmış kişiselleştirilmiş bilgi ortamının anlamlı bir şekilde denetlenmesi olağanüstü derecede zordur ve sonuç olarak olağanüstü derecede tehlikelidir.

Bu tehlikeler teorik değildir ve mega ölçekle daha da şiddetlenirler, bu da platformu insanlar üzerinde deney yapmak için kışkırtıcı bir yer haline getirir. Facebook, kullanıcılarına söylemeden sosyal bulaşma deneyleri yaptı. Facebook, tüm dünyadaki insanlar için internetin fiili (ve tek) deneyimi olmaya çalışan dijital sömürgecilik için bir güç olarak hareket etti. Facebook, seçimlerin sonucunu etkileme kabiliyetiyle övündü. Yasadışı militan gruplar örgütlenmek için Facebook'u kullanıyor. Devlet yetkilileri Facebook'u kendi vatandaşlarını yanıltmak ve seçimleri tahrif etmek için kullanıyor. Askeri yetkililer, Facebook'un soykırımı gerçekleştirme konusundaki rahatlığını istismar ettiler. Facebook, IŞİD-DAEŞ için anti-Semitik mesajlar ve yanan Amerikan bayrakları içeren yanlışlıkla otomatik olarak oluşturulmuş gösterişli işe alım videoları yayınladı.

ABD istihbarat kurumları, Facebook'u 2016 seçimlerinde bilgi savaşı ve yabancı müdahalesi için ana savaş alanı olarak tanımladıktan sonra bile, şirket kendi sitesinde aşırılık, nefret söylemi, propaganda, dezenformasyon ve komplo teorilerinin yayılmasını durduramadı. Neo-Naziler, resmi olarak yasaklandıktan sonra bile Facebook'ta reklam yayınlayarak aktif kaldılar. Ve örneğin bu yılın Ekim ayına kadar Facebook, QAnon'a ayrılmış grupları, sayfaları ve Instragram hesaplarını ve ayrıca Holokost'u reddeden tüm yayınları kaldıracağını duyurdu. (Daha önce Zuckerberg, Facebook'un Holokost hakkındaki dezenformasyonu kaldırmama kararını savunmuştu ve Holokost inkarcıları hakkında “Bilerek yanlış anladıklarını düşünmüyorum.” dedi. Daha sonra Holokost inkarcılarını savunmak istemediğini açıkladı.) Öyle olsa bile, Facebook kullanıcılara düzenli olarak en yeni QAnon gruplarını öneren  e-postalar gönderiyor. Beyaz üstünlükçüler ve yerinden edilmiş MAGA trolleri, Gab ve Parler gibi daha küçük sosyal platformlara akın edebilirler, ancak bu platformlar, mega ölçeğin olmadığı bir kahramanlık anlatısından çok az şey sunabilirler.

2020 başkanlık seçimlerinden sonraki günlerde Zuckerberg, NPR gibi yüksek doğruluklu haber kaynaklarının insanların akışlarında öncelikli görünürlük elde etmesi için Facebook algoritmasında bir değişiklik yapılmasına izin verdi. The New York Times, Breitbart News ve Occupy Democrats gibi aşırı partizan sayfalar kapatılmasına ve Facebook'un eğer isterse dezenformasyonu azaltmak için kadranı çevirebileceğine dair kanıt sunuyor ve Facebook'un bir düğmeyi çevirme ve milyarlarca insanın çevrimiçi olarak gördüklerini değiştirme gücüne sahip olduğunu hatırlatıyordu.

Kadrana dokunma kararı Facebook için oldukça sıra dışı. Şöyle düşünün: Doomsday Machine'in sensörleri çevrede zararlı bir şey tespit etti ve algoritmalarının her zamanki gibi onu otomatik olarak web'de patlatmasına izin vermemeyi seçti. Bu sefer bir insan, zararı azaltmak için müdahale etti. Tek sorun, Facebook'un "dünya için kötü" olarak nitelendirdiği içeriğin yaygınlığını azaltması, aynı zamanda insanların siteyle etkileşimini de azaltmasıdır. Times, insan müdahalesiyle ilgili deneylerinde, Facebook'un kadranı kalibre ettiğini, böylece kullanıcıların haber beslemelerinde daha fazlası için geri gelmelerini sağlayacak kadar zararlı içerik kaldığını bildirdi.

Facebook’un belirtilen misyonu - dünyayı daha açık ve bağlantılı hale getirmek - bana her zaman en iyi ihtimalle sahte ve en kötü ihtimalle emperyalist göründü. Sonuçta, bugünün imparatorlukları internette doğuyor. Facebook, neredeyse Çin ve Hindistan'ın toplamı kadar büyük bir kullanıcı nüfusuna sahip, sınırsız bir ulus devlettir ve büyük ölçüde gizli algoritmalarla yönetilir. Hillary Clinton, bu yılın başlarında bana Zuckerberg ile konuşmanın yabancı bir devletin otoriter başkanıyla müzakere etmek gibi hissettirdiğini söyledi. "Bu, daha yeni anlamaya başladığımız şekillerde muazzam etkiye sahip küresel bir şirket" dedi.

Birkaç hafta önce, Zuckerberg, iki üst düzey ABD yetkilisinin, bulaşıcı hastalıklar doktoru Anthony Fauci ve FBI Direktörü Christopher Wray'in başının kesilmesi gerektiğini söyleyen Steve Bannon'u Facebook'tan uzaklaştırmama kararını savunduğu zaman Clinton'ın uyarısını hatırladım. Bu olay, cevaplanamayan ama yine de insanlara sorup durduğum bir soru hakkında düşünmemi sağladı: Facebook olmasaydı gerçek dünyada şiddetin ne kadarı asla olmazdı? Sorduğum kişilerden biri, eski bir Beyaz Saray terörle mücadele yetkilisi olan ve şu anda Georgetown Hukuk Fakültesinde öğretim üyeliği yapan Joshua Geltzer. Bana, terörle mücadele çevrelerinde insanların 11 Eylül'den bu yana Amerika Birleşik Devletleri'nin teröristleri dışarıda tutma konusunda ne kadar başarılı olduğuna işaret etmekten hoşlandığını söyledi. "Bu yanlış," dedi. Aslında Facebook üzerinden “teröristler her gün, her saat, her dakika giriyorlar”.

Belki de kitlesel şiddeti teşvik etmesiyle ünlü web sitesi, 4chan resim panosu; Bunu 8chan takip etti ve 8kun oldu. Bu panolar, çok sayıda toplu cinayet zanlısının cinayet çılgınlıklarından önce manifesto paylaştıkları siteler oldukları için kötü üne sahipler. Bu siteleri kayıtsız şartsız savunmaya istekli olan az sayıda insan, bunu ifade özgürlüğü mutlakiyetçiliği çerçevesinde yapıyor. Bu argüman dikkate alınmaya değer. Ancak sitede dikkat edilmesi gereken mimari bir şey de var: 8kun'da algoritma yok, sadece istediklerini gönderen bir kullanıcı topluluğu var. İnsanlar tiksindirici fikirleri yayınlamak için 8kun'u kullanıyor, ancak en azından topluluk öyle olmayan bir şeymiş gibi davranmıyor. En büyük sosyal platformlar, aslında iki kişi aynı haber kaynağını görmese de, benzer şekilde tarafsız ve özgürce konuşma iddiasındadırlar. Algoritmik olarak ayarlanan ortamlar, kullanıcı verilerini beslerler ve kullanıcı deneyimini manipüle ederler ve sonuçta kullanıcıya hizmet etme amacı taşımazlar. Gerçek dünyadaki şiddetin kanıtları, hem Facebook hem de 8kun'a kadar kolayca takip edilebilir. Ancak 8kun, kullanıcılarını veya içinde bulundukları bilgi ortamını manipüle etmiyor. Her iki site de zararlıdır. Ancak Facebook aslında insanlık için daha kötü olabilir.

Bu soruyu başka bir sohbette ona sorduğumda Geltzer, “Bunu bu şekilde tanımladığınızda ne kadar korkunç bir seçim seti” demişti. "Herkes için ücretsiz olma fikri, sözde yönetilen ve küratörlüğü yapılan platformların ne getirdiğini görene kadar kulağa çok kötü geliyor... Ekrandaki kan olmayabilir, ancak gerçekten çok fazla zarar verebilir."

Önceki dönemlerde, ABD yetkilileri, mesela II.Dünya Savaşı sırasında Nazi propagandası üzerinde çalışabiliyor ve Nazilerin insanların inanmasını istedikleri şeyi tam olarak kavrayabiliyorlardı. Bugün, "bu bir filtre balonu değil; o bir filtre örtüsü," diyor Geltzer. "Kişiselleştirilmiş deneyimleri olan başkalarının ne gördüğünü bile bilmiyorum." Bu alandaki bir başka uzman, Georgetown Hukuk Fakültesi Anayasa Savunuculuğu ve Koruma Enstitüsü hukuk direktörü Mary McCord, bana 8kun'un şiddeti teşvik etme konusunda daha bariz olabileceğini düşündüğünü, ancak erişilebilirliği nedeniyle Facebook'un "bazı açılardan daha kötü" olduğunu söyledi. "Facebook'a girişte hiçbir engel yok," dedi. "İncelediğimiz her aşırı şiddet durumunda, Facebook gönderileri bulduk. Ve bu tonlarca insana ulaşıyor. Geniş erişim, insanları devreye sokan, aşırılığı normalleştiren ve ana akım yapan şeydir." Başka bir deyişle, Facebook'u bu kadar tehlikeli kılan şey mega ölçek.

Geriye dönüp bakıldığında, Zuckerberg’in dünya hakimiyetine giden yolu kaçınılmazmış gibi görünebilir. Dokuzuncu sınıfta kodladığı Risk'in bilgisayarlı versiyonu var; Roma imparatorluğuna uzun süredir devam eden ilgisi; bilgi akışı ve insan psikolojisi takıntısı. Harvard dizinine girip öğrencilerin fotoğraflarını onlardan izinsiz popüler veya stil olmayan web sitesi FaceMash'i yapmak için kullandığı ilk gerçek internet skandalının hikayesi var. (Zuckerberg daha sonra Harvard sistemine girmenin kendisi için çok kolay olduğunu söylemiş ve bunu "Çocuk oyunu" olarak tanımlamıştı) Facebook'un Mahremiyete olan vurgusuyla gerçekte çalışma şekli arasında bir kopukluk var. (İşte Zuckerberg, yıllar önce bir arkadaşıyla Facebook’un ilk kullanıcılarından elde ettiği veri dağında özel bir sohbette söylediği cümleler: "4.000'den fazla e-postam, resmim, adresim var… İnsanlar az önce gönderdiler. Neden bilmiyorum, 'Bana güveniyorlar.' Aptal herifler.") Yıllar boyunca çeşitli noktalarda, Facebook profilinde aşağıdaki ilgi alanlarını listeledi: Arzuları Ortadan Kaldırmak, Minimalizm, Bir Şeyler Yapmak, Kırıcı Şeyler, Devrimler, Açıklık, Üstel Büyüme, Sosyal Dinamikler, Hakimiyet.

Facebook’un mega ölçeği, Zuckerberg’e küresel nüfus üzerinde benzeri görülmemiş bir etki derecesi sağlıyor. Gezegendeki en güçlü kişi değilse bile zirveye çok yakın. Geltzer, "İnternetteki herhangi bir şeyin viralliğini belirleyen algoritmaların nihai sahibi olmaktan bahsetmiyorum bile, bu kadar çok konuşma, susturma ve izin verme gücüne sahip olmak delilik," dedi. "Denetlediği şeyin, insanların bilişleri ve inançları üzerinde öyle bir etkisi var ki, nükleer silahlarla veya dolarlarla yapılanları değiştirebilir."

Platforma karşı tepkilere yanıt olarak oluşturulan ve ılımlılık ve ifade özgürlüğü ile ilgili kararlar almakla görevlendirilen Facebook’un yeni gözetim kurulu, bu gücün bir uzantısıdır. Geltzer, "Verecekleri ilk 10 karar, ABD Yüksek Mahkemesinin vereceği sonraki 10 karardan daha fazla ülkede ve dünyadaki iletişim üzerinde etkili olacak" diyor. "Bu güçtür. Bu gerçek güçtür. "

Facebook'a katıldığım yıl olan 2005'te, site hala kendisini “Okulunuzdaki insanları arayın. İnsanların birbirini nasıl tanıdığını görün. Sınıflarınızdaki ve gruplarınızdaki kişileri bulun. " O yaz, Zuckerberg, Palo Alto'da daha sonra yaptığı röportajı YouTube'da yayınlayan genç bir film yapımcısına röportaj verdi. Röportajda, Zuckerberg'in hala Facebook'un geleceğinde ne olacağını aradığını görebilirsiniz. Bu sohbet, Zuckerberg’in gençliğinin Facebook’u başlattığında yaşadığı olasılıksızlığı hatırlatıyor. ("Birayı bırakayım mı?" Diye sorarak başlıyor. Kırmızı bir Solo bardak tutuyor.) Yine de, Zuckerberg 21 yaşındayken şirketi hakkında tehlikeli bir etkiye sahip olan bir şeyi açıklamıştı: Facebook bir web'de yalnız bir yer değil, daha çok "çok farklı bireysel topluluklar".

Bugün bunlara QAnon ve diğer aşırılık yanlısı gruplar dahildir. O zamanlar, "Bir Devlet Okuluna Gittim... Kaltak" ve Harvard'da neoklasik ana kütüphaneye atıfta bulunan "Mezun Olmadan Önce Genişletici İçinde Seks Yapmamız Gerekiyor" gibi gruplarda çoğunlukla çocukça kimlik ifadeleri anlamına geliyordu. 2005 röportajında Zuckerberg'e Facebook'un geleceği sorulmuştu;cevabı geçmişe bakıldığında bir trajedi gibi geliyor: "Demek istediğim, daha fazlasının olması gerekmiyor. Mesela, birçok insan dünyayı ele geçirmeye veya en büyük şeyi yapmaya, en fazla kullanıcıyı elde etmeye odaklanıyor. Sanırım, fark yaratmanın ve havalı bir şey yapmanın bir başka yönü de yoğun bir şekilde odaklanmak... Demek istediğim, gerçekten herkesin üniversiteye odaklandığını görmek ve tıpkı öğrencilerin çok ilgi duyduğu ve insanların kolejdeyken ilgilendiği pek çok bilgi içeren gerçekten harika bir üniversite rehberi ürünü yaratmak istiyorum."

İşin komik yanı şu: Bu yerelleştirilmiş yaklaşım, mega ölçeği mümkün kılan şeyin bir parçası. Üyelikle ilgili ilk kısıtlamalar (kullanıcıların önce Harvard'a gitmesi, ardından herhangi bir Ivy League okuluna gitme ve sonra .edu ile biten bir e-posta adresinin olması şartı) bir bağlılık ve topluluk hissi veriyordu. İnsanların daha fazla paylaşım yaparken daha rahat hissetmelerini sağlıyordu. Ve açıkça tanımlanmış demografik bilgiler arasında daha fazla paylaşım, işletmeler için iyiydi. 2004'te Zuckerberg, Facebook'un yalnızca sunucu maliyetlerini karşılamak için reklam yayınladığını söyledi. Ancak sonraki iki yıl içinde Facebook tamamen altüst oldu ve tüm reklamcılık endüstrisini yeniden tanımladı. Sosyal öncesi web'in sınıflandırılmış reklamlarını yok etti, ancak Facebook ve Google'ın bir iki yumruğu yerel haberleri ve dergi endüstrisinin çoğunu yok etti; Yayınlar, basılı dolarların yerini alan dijital kuruşlara karşı ciddiyetle savaştı ve sosyal devler yine de hepsini etkisiz hale getirdi. Hiçbir haber kuruluşu sosyal ağın mega ölçeğiyle rekabet edecek durumda değildi. O çok büyüktü.

Facebook yöneticisi Chris Cox bir keresinde yeni kurulan işletmeler için "sihirli sayı" dan ve bir şirkette çalışan kişilerin sayısı 150'yi geçtikten sonra işlerin ters gittiğinden bahsetmişti. 2016'daki bir konferansta "O kadar çok start-up CEO'suyla konuştum ki, bu sayıyı geçtikten sonra tuhaf şeyler olmaya başlıyor". Bu fikir, 148'in bir kişinin sürdürebileceği maksimum istikrarlı sosyal bağlantı sayısı olduğunu savunan antropolog Robin Dunbar'dan geliyor. Aynı mantığı bir sosyal platformun istikrarına da uygulasaydık, hangi sayıyı bulurduk?

Yetişkin yaşamının çoğunu daha iyi bir ağın nasıl kurulacağını düşünerek geçiren yazar ve internet uzmanı Ethan Zuckerman, bana "Bence en iyi nokta 20 ila 20.000 kişi" dedi. "Bundan sonra herhangi bir düzeyde gerçek bağlantıya sahip olmak zor."

Başka bir deyişle, bir şirketi yönetmek veya uyumlu bir sosyal hayatı sürdürmek için Dunbar sayısı 150 kişi ise; işlevsel bir sosyal platform için sihirli sayı belki 20.000 kişidir. Facebook şu anda 2,7 milyar aylık kullanıcıya sahip.

2007'de Facebook'un katlanarak büyümesinin eşiğinde Zuckerberg, Los Angeles Times'a verdiği röportajda şu anda çok daha karanlık bir anlam kazanan bir şey söylemişti: "En güçlü şeyler, insanların Facebook'ta yapmamış olsalar da yapacakları şeyler değildir. Daha çok, başka türlü asla olamayacak olan şeylerdir."

İnsanlar geleceği görmek beceriksizliği, daha birçok şey arasında listenin en üstüne yakın bir yerdedir. Bu kusur, Herman Kahn ve onun ekonomist arkadaşları, matematikçiler ve 1960'larda Rand Corporation'daki eski askeri subaylar gibi Megadeath- Mega Ölüm Entelektüelleri arasında bir endişe haline gelmişti.

Kahn ve meslektaşları, bombanın ortaya çıkardığı varoluşsal korkudan doğan modern fütürizmin icat edilmesine yardım ettiler ve çoğu yeniliğin doğada yatay olduğu anlayışını netleştirdiler; bu tamamen yeni değildi, zaten var olanın bir kopyasıydı. Gerçek icat olağanüstü derecede nadirdir ve çok daha yıkıcıdır.

Rand'da Kahn'la eşzamanlı olarak bulunan ve daha sonra Gelecek Enstitüsü'nü kuran mantıkçı ve filozof Olaf Helmer-Hirschberg, Nazilerden kaçtıktan sonra Kaliforniya'ya geldi, bu, geleceğe özel bir aciliyet sağlama arzusunu veren bir deneyimdi. O teknolojik değişimin hızlanmasının mühendislik, tıp, sosyal bilimler gibi alanlara yeni bir epistemolojik yaklaşım ihtiyacını ortaya çıkardığını savundu. "Artık yeni bir yaşam koşulları modelinin gelişmesi nesiller boyunca sürmüyor," diye yazmıştı, "Ama hayatımız süresince birçok büyük değişiklikten geçiyoruz ve çocuklarımız bir yaşam biçimi olarak sürekli adaptasyonu benimsemek zorunda kalacaklar." 1965'te, geleceği tahmin etmek için bilimsel bir metodoloji oluşturmayı amaçlayan Sosyal Teknoloji adlı bir kitap yazmıştı.

Aynı yıllarda Kahn, insanlığın karşılaştığı yeni tehditler için felsefi bir çerçeve sağlamak amacıyla kendi varsayım makinesini hayal ediyordu. Ona Kıyamet Günü Makinesi (Doomsday Machine) ve ayrıca Hızlı Kıyamet Makinesi (The Doomsday-in-a-Hurry Machine) ve ayrıca Cinayet Paktı Makinesi (The Homicide Pact Machine) adını verdi. Stanley Kubrick, 1964 yapımı Dr. Strangelove filminin konseptini, nükleer imha için alarm tetikleriyle yaşamanın getirdiği kaderciliğin sinematik özünü ondan ödünç aldı.

İnternetin kırılganlığıyla bugünün kaderciliği benzer hissettiriyor. Hala bu yüzyılın internet, akıllı telefonlar ve sosyal ağın oluşturduğu üçlü dijital devriminin emekleme aşamasındayız ve kendimizi tehlikeli ve istikrarsız bir bilgi ortamında buluyoruz, bize uygulandığını bildiğimiz manipülasyon ve sömürü güçlerine direnmek için güçsüz hissediyoruz, ama çoğunlukla görünmez-sessiz kalıyoruz. Kıyamet Makinesi bir ders veriyor: Bu mevcut düzenlemeyi kabul etmemeliyiz. Tek bir makine bu kadar çok insanı kontrol edememelidir.

Akıl çağı kısmen matbaanın varlığına bir tepki ise ve 1960'ların fütürizmi atom bombasına bir tepki ise, sosyal ağ ile yaşamak için, bilgi çağı için yeni bir Aydınlanmaya ve bizi paylaşılan gerçekliğe ve deneyciliğe geri götürecek yeni bir felsefi ve ahlaki çerçeveye ihtiyacımız var.

Facebook'un uzun süreli yöneticilerinden biri olan Andrew Bosworth, Facebook'u şekerle karşılaştırmıştı; bu "lezzetli" ama en iyisi ölçülü olarak tüketmek. Geçtiğimiz yıl Facebook’un dahili ağında yayınlanan bir notta, kişisel sorumluluk felsefesini savunmuştu. Bosworth, "Büyükbabam pastırmaya karşı böyle bir duruş sergiledi ve ben de ona hayran kaldım" diye yazdı. "Ve sosyal medya muhtemelen pastırmadan çok daha az ölümcül." Ancak Facebook'u yalnızca bireysel tüketim için bir araç olarak görmek, onun ağ olduğu gerçeğini görmezden gelmek demek. Facebook aynı zamanda bir işletme ve insanların birbirleriyle vakit geçirdiği bir yerdir. Şöyle sorunuz: Bir mağazanız varsa ve birisi içeri girip Nazi propagandası yapmaya veya yazar kasanın yanında teröristleri askere almaya başlasa, dükkan sahibi olarak diğer tüm müşterilere bu olaya müdahale edemeyeceğinizi söyler miydiniz?

Sosyal ağın insanlığa verdiği zararı hafifletme konusunda ciddi olan herkes, elbette Facebook, Instagram ve Twitter'ı ve insanları manipüle eden diğer algoritmik olarak çarpıtılmış bilgi ortamlarını bırakmayı düşünmelidir. Ancak sosyal ağın kırılganlığını düzeltmek için nelerin gerekli olduğuna dair daha geniş bir bakış açısına sahip olmalıyız. Bu, günümüz platformlarının mantığına meydan okumayı gerektirecektir; ve her şeyden önce, insanların bir araya gelme şekli olarak mega ölçek kavramına meydan okumak. Facebook'a gücünü veren ve onu tehlikeli yapan şey mega ölçek ise, bugün olduğu gibi web'e karşı toplu eylem, değişim için gereklidir. Web'in mevcut mantığı bize sosyal platformların kullanıcı verisi ziyafeti karşılığında ücretsiz olduğunu, ana ağların zorunlu olarak küresel ve merkezi olduğunu ve moderatörlerin kuralları koyduğunu söylüyor. Bunların hiçbirine gerek yok. Alternatifler inşa ederek bu fikirleri ortadan kaldıran insanlara ihtiyacımız var. Ve mega ölçeği besleyen ve şu anda olduğu gibi web hakkında kadercilik yaratan risk sermayesi ve kitlesel ilginin büyüsünü kırmak için bu diğer alternatifleri önemsemeye yetecek kadar insana ihtiyacımız var.

Hala internetin insanlık için iyi olduğuna inanıyorum, ancak bu sosyal ağa rağmen, onun yüzünden değil. Ayrıca, toplumumuzun ve kültürümüzün sosyal ağın çok zarar verdiği yönlerini onarmanın yollarını bulmalıyız. Bu, entelektüel bağımsızlık, saygılı tartışmalar ve yüzyıllar önce Aydınlanma değerlerinin oluşturulmasına yardımcı olan aynı isyankâr çizgiyi gerektirecek.

Geleceği tahmin edemeyebiliriz, ancak bunun nasıl yapıldığını biliyoruz: insanların zamanı ve ilgisiyle sürdürülen nadir ve gerçek icatların parıltısıyla. Şu anda çok fazla insan algoritmaların ve teknoloji devlerinin onları manipüle etmesine izin veriyor ve sonuç olarak gerçeklik elimizden kaçıyor. Bu yüzyılın Kıyamet Günü Makinesi burada ve uğultu devam ediyor.

Bu şekilde olmak zorunda değil.

Adrienne LaFrance, 15 Aralık 2020, The Atlantic

(Adrienne LaFrance The Atlantic'in yönetici editörüdür. Daha önce The Atlantic'te kıdemli bir editörü, kadrolu yazarı ve TheAtlantic.com'un editörüydü.)


Seçkin Deniz, 14.01.2021, Sonsuz Ark, Çeviri, Çeviri ve Yansımalar



Sonsuz Ark'tan
  1. Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur. 
  2. Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
  3. Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
  4. Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.

ir Kıyamet Makinesi

Seçkin Deniz Twitter Akışı