23 Nisan 2019 Salı

SA7609/SD1360: Big Tech İzliyor ve İzleniyor

Sonsuz Ark'ın Notu:
 Aşağıda çevirisini yayınladığımız analiz Cambridge Üniversitesi ekonomi ana bilimdalı öğretim görevlisi (Özel sermaye şirketi Warburg Pincus'un genel müdürü ve kıdemli danışmanı) William H. Janeway'e aittir ve dijital iletişim ve dijital teknoloji alanındaki, kayıp mahremiyet, sosyal parçalanma ve demokratik siyasi süreçlere yönelik yeni tehditler şeklindeki sorunları işleyen iki kitabı kritize etmektedir; Roger McNamee'ye ait 'Zucked: Facebook Felaketine Uyanmak' ve Shoshana Zuboff 'a ait, 'Sürveyans Kapitalizmi Çağı: Yeni Güç Sınırında İnsan Geleceği için Mücadele'. Türkiye'de henüz zemini oluşmamış bu tartışmaların bir an önce başlatılması ve kitlesel olarak bilinçlenmenin arttırılması gerekiyor... Yazarın şu cümlesi verileri dev tröstlerce kullanılan ve satılan kullanıcılar-tüketiciler için yeni gelir kaynakları anlamına da gelmektedir: "Hiç şüphe yok ki, bireylere verilerinin mülkiyetini vermek ve bu verileri kullananlardan ödeme yapmalarını istemeleri dijital ekonominin dinamiklerini dönüştürecektir." Türkiye çok geç kalmadan teknoloji devlerinin özgürce at koşturduğu bir kişisel veriler cenneti olmaktan çıkarılmalıdır. Ufuk açıcı olduğuna inandığımız bu analizin keyifle okunacağını düşünüyoruz.
Seçkin Deniz, 23.04.2019

Big Tech Is Watching – and Being Watched

"Günümüzdeki Silikon Vadisi devlerinin hızlı yükselişi ve sosyal ve politik yaşam üzerinde sahip oldukları görünür güç, yeni bir ekonomik tarih çağına girdiğimizi gösteriyor. Öyleyse, dijital devrim nereye gidiyor ve kamu yararı için nasıl kullanılabiliyor?"

Dijital devrimin olgunlaşması, yirmi birinci yüzyılın ilk yirmi yılını tanımladı. Bu dönemin merkezi ekonomik felaketleri - 2008 küresel mali krizi ve buna bağlı “Büyük Durgunluk” - dijital menkul kıymetlerin çoğalması ve dijital programların ilgili risklerini ölçüp yönetebileceği yanılsaması tarafından yönlendirildi. Bireylerin bilgi tükettiği ve işlem yaptığı sosyal çevre Amazon, Apple, Google ve Facebook tarafından belirlenen şartlara göre yeniden yapılandırıldı.


Bu dört Büyük Teknoloji firmasından Google ve Facebook en çekişmeli iş modellerini geliştirdi. Bu platformlarda bilgi arayan ve başkalarıyla bağlantı kuranlar, daha sonra hedeflenen reklamların satılması yoluyla para kazanılan, zengin ayrıntılı kullanıcı profillerinden beslenen veriler üretir. Reklamcılığa olan bu yoğun güven, dijital devrimin belki de en az devrimci yönüdür. Sonuçta, 1922’de reklam yayınlamaya başladığında, ABD Ticaret Bakanı Herbert Hoover'ın yaşadığı dehşete rağmen, radyo yayın endüstrisi aynı modelde çalışmıştı.

Yine de, dijital reklamcılık, belirli izleyicileri hedefleme, kullanıcıların yanıtlarını ve katılımlarını kaydetme ve ürettikleri mikro ve meta verileri kullanma konusunda öncekilerden çok daha verimlidir. Aslında o kadar verimli ki,  Alphabet- Alfabe (Google'ın ana şirketi) ve Facebook, kapitalizm tarihindeki en değerli şirketler haline geldiler. Ancak, elbette, reklamverenler izleyicilerinin gittiği yerlere giderler ve insanlar sağladıkları belirgin faydalar için büyük dijital platformlara akın ederler.


Örneğin, en azından potansiyel kaynaklar ve arşivler için bir Google araması yapmadan araştırma yapmayı ya da burslu bir çalışma üretmeyi hayal etmek zaten çok zor. Aynı şekilde, Facebook'un, kamuya açık veya özel amaçlar için benzer insanları bir araya getirme konusundaki engelleri ne kadar azalttığını unutmak kolaydır. Pittsburgh Üniversitesi'nden Lara Putnam ve Theda Skocpol ile Harvard Üniversitesi'nden Leah Gose’in çalışmalarında gösterdiği gibi, özel Facebook toplulukları ABD Başkanı Donald Trump’a karşı çıkan yerel “direniş” gruplarının ülke çapında mobilizasyonu için kilit araç haline geldiler. Bu Başkan Barack Obama'ya verilen Çay Partisi tepkisini çoktan aşan bir harekettir.


TECHLASH-Teknik Kamçı Ucu- Teknoloji'ye Karşı Yasal Tedbirler


Yine de birçok insan, dijital teknolojilerin bariz yararlarının, kayıp mahremiyet, sosyal parçalanma ve demokratik siyasi süreçlere yönelik yeni tehditler şeklindeki maliyetlerinin ağır olup olmadığını sorgulamaya başladı. Bu sorgulama, Yeni Zelanda'nın Christchurch kentindeki camilerde yapılan katliamın Facebook üzerinden gerçek zamanlı yayınını takiben yoğunlaşacaktır.


Finansal krizden sonra finansal kurumların derhal yeniden düzenlenmesi gibi, bugünün techlash'ı, 1980’lerin başlarında “Reagan Devrimi” ile 2008’de George W. Bush’un başkanlığının sona ermesi arasındaki politika yapımına egemen olan pazar köktenciliğinden bir adım daha attı.


Halen devam etmekte olan “Techlash” sürpriz olmamalıdır. Piyasa gücünün kullanılmasından kurtulmak için kurumsal ve düzenleyici kanalları olan politik bir ekonomide geniş bir kamu tepkisi beklenmektedir. Finansal krizden sonra finansal kurumların derhal yeniden düzenlenmesi gibi, bugünün techlash'ı, 1980’lerin başlarında “Reagan Devrimi” ile 2008’de George W. Bush’un başkanlığının sona erdiği dönem arasındaki politika yapımına egemen olan pazar köktenciliğinden bir adım önde. Bu yeni bir şey değildi: egemen piyasa güçlerinin ortaya çıkması sürekli olarak orantılı yasal ve politik tepkilere yol açtı. Amerika Birleşik Devletleri'nde bu, on dokuzuncu yüzyılda kıtalara yayılan demiryolları, fin de siécle (Seçkin Deniz'in notu: Bir devrin sonu yeni bir devrin başlangıcı) döneminin devasa tekelleri (“tröstler”) ve Yeni Anlaşma-New Deal (Yeni Dünya Düzeni) dev şirketleri açısından doğruydu.


Eğer tarih herhangi bir rehber ise, bugünün techlash'ı hala ilk aşamalarını yaşamaktadır. Avrupa Komisyonu'nun açtığı yol sonrası, California gibi ilerici ABD eyalet devletlerinin mevcut iş uygulamalarına yönelik yasal ve düzenleyici araştırmalara yoğunlaştığı görülmektedir. Bir endüstri haber bültenine göreAlphabet ve Facebook aracılığıyla, AT&T ve Verizon'dan Uber ve Airbnb'ye kadar ABD ve Avrupa'da Big Tech-Büyük Teknoloji şirketlerine yönelik  halen devam etmekte olan 32 soruşturma var.





İncelenmekte olan kitaplar, toplumun Big Tech'e verdiği yanıtta bir başka cepheyi temsil ediyor, ancak stil ve erişilebilirlik açısından daha farklı olamazlardı. Zucked, girişim kapitalisti Roger McNamee tarafından, yazarın Facebook’a erken yatırım yapma ve  kurucusu Mark Zuckerberg’e danışmanlık yapmaktan, şirketin önde gelen eleştirmenlerinden biri olarak ortaya çıkmasına kadar yolculuğunun kişisel bir anlatımını sunar. Buna karşılık, Harvard Üniversitesi'nden emekli olan profesör Shoshana Zuboff'un Sürveyans Kapitalizmi, dijital teknolojilerin tamamen yeni bir kapitalizm varyantını kullandığını iddia ederken oldukça soyut bir analitik çerçeve kullanmaktadır.


“HIZLI HAREKET ET VE ŞEYLERİ KIR”


Hem McNamee hem de Zuboff aynı görevi yapıyorlar: “Search” (Google'da) ve “Connect” (Facebook'ta)'ın değerli işlevlerinin “Target” ve “Manipulate” olarak nasıl dönüştüğünü ortaya koymak; Kullanıcıların eylemlerini verileri kontrol edenlerin hedefleriyle (yasal veya başka şekilde) aynı hizaya getirmek için yapılan davranış manipülasyonlarında olduğu gibi. Bunun ötesinde, her iki kitap da Google ve Facebook’u kontrol eden kurucularının, platformlarında olanlar için sorumluluk almayı reddettiklerini gösteren kanıtlar sunmaktadır (Google’da bu çoğunlukla YouTube’la ilgilidir).




Zucked Facebook felaketine kadar uyanmadı


Örneğin, çevrimiçi platformları, başkaları tarafından sağlanan içerik için yasal bir sorumluluktan mahrum eden 1996 tarihli ABD İletişim Karar Yasası’nın 230. Maddesi ile serbest bırakılan her iki şirket de, engellenmemiş konuşma özgürlüğünün değerlerini ortaya koymuş ve kullanıcılarının paylaştığı hesapların sorumluluğunu almamıştır. Zuboff’un belirttiği gibi, ABD Anayasası’ndaki İlk Değişikliği “silahlandırdılar”. McNamee, platformlarında meydana gelen suiistimallerde sorumlulukla suçlandıklarında, standart yanıtlarının, “reddetmek, geciktirmek, saptırmak, sökmek”, sonunda “kabul etmek ve özür dilemek” ve ardından döngüyü tekrarlamak olduğunu söylüyor.


Zucked, Facebook'un ortaya çıktığı kültürel bağlamı derinlemesine anlayan içeriden bir tanığın eseridir. Sonunda yer alan bibliyografik bir makalede, McNamee, sonuncusunu kişisel olarak yaşadığı Silikon Vadisi'nin üç dönemini yansıtıyor. Birincisi, ABD Savunma Bakanlığı, birçok girişimcinin ve girişimci kapitalistin dans edeceği sahneyi kurduğundaki dönem Apollo Dönemi idi. Sonra, bilgisayar kişisel bilgisayar ve İnternetin ortaya çıkışıyla (ilk dönemin bir ürünü) demokratikleşince Hippie Dönemi geldi.


Fakat daha sonra “PayPal Mafyası” (Facebook'ta ilk girişimci olan PayPal'ın kurucusu Peter Thiel o kadar değil) ve sosyal medyanın dijital çağın “katil uygulaması” olduğu süreci şekillendiren diğerleri tarafından örneklenen Liberter Dönemi geldi. Silikon Vadisi'ndeki Liberter Çağının, politik ekonominin neoliberal dönemine denk gelmesi tesadüf değildir. Google ve Facebook’un çok önemli ilk yıllarında, şirketlerinin kontrolünü pekiştirdiklerinde ve kendi oluşturdukları pazarlara hakim olmaları için kurucularına - hissedarlar ve benzer düzenleyiciler tarafından- serbest geçiş izni verildi.


İHANETE SAYGI GÖSTER

Facebook’un çarpıcı bir şekilde büyümesi ve kârlılığı, McNamee'nin şaşkınlıkla ve hayranlıkla karşıladığı bir şey değil. Aksine, şirketin “Hedef”ten “Manipüle”ye geçmesiydi. McNamee’nin bu değişikliğin adım adım hesaplaması çok etkili; çünkü kişisel bir ihanet hikayesi olarak anlatılıyor.


McNamee, öncelikle, kullanıcılarının açığa çıkan tercihlerini beslemeye ve pekiştirmeye yönelik olarak çalışan Facebook'un iş modelinin sosyal ve politik sonuçları ile ilgilenmektedir. Bu nedenle, 2017 yılında, 2013 yılında kurulan Humane Teknoloji Merkezi’nin lansmanına yardımcı olan Google “tasarım etiği uzmanı” Tristan Harris ile güçbirliği yaptı. Stanford Üniversitesi eski davranış bilimleri öğrencisi B. J. Fogg, Harris, Google ve Facebook’un davranışları etkilemek için uyguladığı teknikleri yakından tanıdığından, genellikle Fogg’un öngördüğünün çok ötesine geçebiliyordu.


Örneğin McNamee, Harris'in, dijital platformların bireysel tercihleri, sadece Fox News izlemekten çok daha güçlü olan “filtre baloncukları” olarak şekillendirdiği süreci nasıl fark ettiğini kendisine anlattığını yazıyor.


Online (Çevrimiçi) olarak, kullanıcılar aktif bir şekilde -istemeyerek de olsa- bilgi yalıtımı sağlayan algoritmaları geliştirerek süreci diğer medya etki alanlarından çok daha verimli hale getiriyor. Daha da kötüsü, bu sürecin kendisi dış dünyadan izole edilmiyor ve Cambridge Analytica ve Rus İnternet Araştırma Ajansı'nın zevklerine göre kolayca manipüle edilebiliyor. Ve, geçen yıl öğrendiğimiz gibi, Facebook’un bir kısmı, bu tür üçüncü taraflara, kullanıcı verilerine açık erişim izin vererek  gelirini en üst düzeye çıkardı.


McNamee, başlangıçta Facebook hakkında halkı uyarmak için yola çıkmadı. Aslında, endişelerini 2016 sonbaharında Zuckerberg ve Facebook'un baş işletme görevlisi Sheryl Sandberg ile özel olarak paylaştı. Ancak, aylar geçtikçe, Facebook’un platformun ve kullanıcıların yaygın bir şekilde tacizine yapıcı bir yanıt vermeyeceği açıkça ortaya çıktı. O zaman McNamee “halka açılmaya” karar verdi. 6 Mart'ta, Zucked’in piyasaya sürülmesinden sadece bir ay sonra, Zuckerberg Facebook için yeni bir “gizlilik odaklı vizyon” açıkladı. Herhangi biri bu iki olayın birbiriyle ilişkili olup olmadığı hakkında tahminde bulunabilir. Ancak Zuckerberg'in duruş değişikliği ve (belki de) politikası gerçek, yapıcı değişime yol açarsa, McNamee bir galibiyet elde etmiş olabilir.


AYNI ESKİ KAPİTALİZM


Zucked’in güçlü yanlarından biri, McNamee’nin analizden eyleme olan kendi yolculuğuna odaklanması. Zuboff ayrıca, yaklaşık 40 yıl önce ilk kitabı olan Akıllı Makine Çağı: İşin ve Gücün Geleceği için yaptığı saha çalışmasını anlatan kişisel bir fıkra ile de başlar. Fakat Sürveyans Kapitalizminin ilk beş sayfasında, gözlemlenen insan deneyimiyle neredeyse hiç bağlantısı olmayan soyut bir “sürveyans kapitalizmi” tanımı sunan yüksek teoriye giriyor.




sürveyans kapitalizmi çağı


Zuboff, 500'den fazla sayfa boyunca, okurun, karar verdiği kötülüklerin dijital teknolojinin kaçınılmaz bir sonucu olmadığını, aksine kâr amacıyla yapılan bilinçli seçimlerin bir sonucu olduğunu bilmesini istiyor. Gözetim kapitalistleri teknolojinin kullanıcısıdır; Onlar önceden belirlenmiş ajanlar değiller. Bu noktada, modern öncesi kapitalizmin büyük Fransız tarihçisini Fernand Braudel’in, “Kapitalizm… piyasayı, üretimi veya tüketimi icat etmiyor, sadece onları kullanıyor.” gözlemini ister istemez hatırlıyor.


Benzer bir anlayışla, Karl Polanyi'nin Büyük Dönüşüm ruhu çerçevesinde, Zuboff, Google ve Facebook’un pazar dışında zaten var olan meta aktivitelerine sahip olduğunu gözlemlemektedir. Polanyi, toprak ve emeğin “hayali ürünleri”ne odaklanırken, Zuboff, “davranışsal artı” dediği şeye, yani, kullanıcıların çevrimiçi olarak “Ara” ve “Bağlan” durumlarında üretilen “dijital egzoz”a odaklanıyor.


Ne yazık ki, Zuboff dikkatli gözlemlerini çok sık sık böyle jargonlarla boğuyor. Dijital çağda büyük bir kapitalizm teorisi ve kar arayışı sunmaya itiliyor. Bu nedenle, sadece gözlemlediği fenomeni açıklamak yerine, Zuboff, kendi teorik özlemleri ile eşleşen MIT’in Media Lab’den Alex Pentland’ından ödünç aldığı bir kavram olan “üçüncü modernite” ve “enstrümantalizm” konularını tartışmasının ardındaki argümanlarını gizliyor. 


Zuboff, Pentland'ın, eski sosyal Başbakan Margaret Thatcher'ın  kötü şöhretli “toplum diye bir şey olmadığını” iddiasını da aşan “Toplumsal fenomenler (sosyal olgular), sadece bireyler arasında milyarlarca küçük işlemin bir araya gelmesidir” iddiasını onaylıyor.  En azından Thatcher, "bireysel erkek ve kadınlara" ek olarak "aileler" için de yer açtı. Zuboff, yerel olarak konuşlandırılmış dijital geri bildirimler sayesinde, takım tezgahlarının gelişmiş hassasiyetinin, seri üretim üzerinde yukarıdan aşağıya, hiyerarşik kontrolden “üçüncü modernite” nin dağıtılmış “kovan aklına” geçişi temsil ettiğini söylerken iddialı bir adım atıyor.

GÜVEN TUZAKLARI

Elbette, Zuboff, totaliter devletlerin takip ettiği davranışsal kontrol türü ile “araçsal” satıcıları ve davranışsal veri alıcılarını motive eden öngörücü kesinlik arasında önemli bir ayrım yapıyor. Ancak, Cambridge Üniversitesi'nden Diane Coyle kitaba yönelik eleştiriye dikkat çektiği için, Jeremy Bentham'dan Michel Foucault'a kadar süren sosyal bir fenomen olarak sürveyansın tarihsel bir açıklaması tamamen eksiktir. Sürveyans kapitalizminin “benzersiz”, “benzeri görülmemiş” doğasına atıfta bulunmak, her tekrarlanan referansla daha belirgin hale gelen bir boşluktur.


Daha da kötüsü, Zuboff, Frank Knight, John Maynard Keynes ve Friedrich Hayek gibi çeşitli ekonomistler tarafından keşfedilen merkezi bir tema olmasına rağmen, insan eylemlerini çevreleyen temel belirsizliklerden ve gelecekteki ekonomik ve sosyal etkilerinden hiçbir şey anlamadığını gösteriyor.

George Soros'un uzun süredir finansal piyasalarla olan ilişkisinde gözlemlediği gibi, sabit bir belirsizlik biçimi, insan eylemlerinin başkaları tarafından alınan kararlarda değişken girdiler olması durumunda ima edilen “yansıma” dır. Tabii ki, ironik olarak, Zuboff, Google ve Facebook’un zaferinin kaçınılmazlığını reddettiği halde, insanların gelecekteki davranışlarına ilişkin olarak mükemmel bir öngörü kestirimi elde edeceğini varsayıyor.




Zuboff’un argümanı daha spekülatif hale geldikçe, gelecekteki olayları algoritmik olarak hesaplayabilen, Isaac Asimov’un Foundation serisinde kurgusal bir karakter olan Hari Seldon’ın “psiko-tarihçisine” paralel olacak şekilde daha iddialı hale geliyor. Seldon, Zuboff'un “üçüncü modernitesinin” merkezindeki “enstrümantalist” köylülere atfettiği kesinliği değil, yalnızca olasılıklı öngörüler teklif ediyor.

Gerçekten de, Zuboff'un mevcut ve gelecekteki teknolojik gelişmeler hakkındaki kesin tutumu, kendi argümanını baltalamaktadır. Halen 'makine öğrenmesi'ne yatırım yapan kurumların pazarlama iddialarını ve yapay zeka (AI) üzerinden yürüyen üçüncü yutturmaca dalgasını şimdi sorgulamadan kabul ediyor gibi görünüyor. Birincisi, BM’in, sağlık hizmetlerinde oldukça yaygın olarak kullanılan uygulamalarının dünyadaki en prestijli tıbbi kurumların bazılarında klinik ortamlarda defalarca başarısız olan Watson programı ile ilgili haberleri okumadan asla bilgi sahibi olamazsınız.


Şair George Meredith bir asırdan daha fazla bir süre önce yazdı:Ah, hayatımızdaki kesinliklere can atan ruhumuz, ne de muğlak bir cevap alır!” Ve yine de, insan davranışındaki tek kesinliğin onun belirsizliği olduğu kabul edilse bile, bugünün dijital devlerinin yarattığı gerçek dünya kötülüklerine cevap vermek gerekiyor. Ve burada, McNamee ve Zuboff’un sunduğu şeyler büyük ölçüde farklılık gösteriyor.




ANTİTRÖST GERİ YÜKLEME


Zuboff, Avrupa Komisyonunun Genel Veri Koruma Yönetmeliğinin (GDPR) halkın gizlilik konusundaki endişelerinin bir kısmına hitap edeceğini umuyor. Ancak asıl çekiciliği, bireylerin karar verdikleri dijital güçlerin tümü için opak etiketi (George Orwell'in Büyük Ağabeyi'nde bir oyun) olan “Büyük Öteki"ye karşı “sürtünme” halinde olmalarıdır. Ama onun terk ettiği yer burası.


Ayrıca, McNamee, Facebook'ta reform başlatmak için ilk ve en iyi seçenek olarak “kullanıcı baskısı” çağrısında bulunuyor, ancak “GDPR’yi benimsemedikleri” için Google ve Facebook’u destekleme konusunda Zuboff’tan daha ileri gidiyor. Ve Zuboff’un aksine, bir çözüm arayışı içinde düzenleyici yabani otların derinliklerine dalıyor ve antitröst yasasının yeniden canlandırılmasının gerekli olduğu sonucuna varıyor.


McNamee, okuyucuyu ABD Adalet Bakanlığı Antitröst Bölümü' (DOJ)nün AT & T şirketi ile yaptığı anlaşmayla bilgi teknolojisi oyun alanını düzenlediği 1956 yılına götürüyor. Şirketin yerel hizmetlerde baskın konumu olan uzak mesafeli telefonda franchiseini korumasına ve (dikey olarak entegre edilmiş) üretim kolunun, Western Electric'te kalmasına izin verildi. Ancak, yeni gelişen ticari bilgisayar pazarına girmesi engellendi ve artık Bell Labs'in patent portföyünü tüm gelenlere ücretsiz olarak lisanslaması gerekiyordu. 

Her şey yapılıp bittiğinde DOJ, kamuoyunu muazzam bir bağışla donatmış ve şu anda AT & T'nin baskınlığı tehdidinden kurtulmuş olan bilgi teknolojisi sektöründe eğer önem verilirse, hızlı bir büyüme için zemin hazırlamıştı. Dijital çağla ilgili tartışmalarda antitröst yasası şimdiden önemli bir konu haline gelmiş durumda, ancak McNamee harareti artırdı. Birçok geçmiş nesil boyunca, antitröst yasası, Chicago Okulu pazar köktenciliğinden türetilen ve “antitröst hukukunun tek meşru amacının tüketicileri suistimalden korumak olduğunu” iddia eden “Hukuk ve Ekonomi” olarak bilinen doktrin tarafından dönüştürülmüştür.

Bu mantığa göre, rekabetçi arz tarafının koşulları, bu tür istismardan doğrudan sorumlu olmadıkça göz ardı edilmelidir. Tüketiciler, reklam destekli dijital hizmetlere ücretsiz olarak erişebildiklerinden, potansiyel rekabeti önleyen teknoloji devlerinin (Google’ın YouTube’u satın alması, Facebook’un Instagram’ı satın alması ve WhatsApp’ı) stratejik satın almaları incelenmedi.


Açık Piyasalar Enstitüsü'nden Barry Lynn'e atıfta bulunan McNamee, dijital platformlarda para kazanılan kullanıcı verilerinin değerini vurguladığında antitröst tartışmasına yaratıcı bir boyut katıyor. Bu veriler reklam gelirleri kaynağı olarak kazançlı olduğu için, tüketiciler aynı eski arama ve bağlantı işlevleri karşılığında giderek daha fazla değer teslim ediyorlar. McNamee'nin Federal Ticaret Komisyonu'dna işaret ettiği gibi, günümüzün dijital platformlarında alınan değere verilen çarpık değer oranı, müşteri istismarı olarak nitelendirilebilir.

DÜNYA BİRLİĞİNİN VERİLERİ

Veri sorunu, dijital devlerin yükselişinde merkezi bir öneme sahiptir ve hem McNamee hem de Zuboff, kimin sahip olması gerektiği, kimin erişimi olması ve hangi amaçla olacağı konusundaki soruları dikkate alıyor. Veriler, ağ etkilerinden ve ölçek ve kapsam ekonomilerinden ayrı ve farklı olan dördüncü bir pazar gücü kaynağını oluşturuyor. 


Şebeke etkileri telefon çağındaki pazar yoğunluğunu artırdı, ancak istihbarat veya güvenlik hizmetlerinden başka hiç kimse karşılıklı olarak iletilen mesajların içeriğini umursamadı. Şimdi, hepsi içerikle ilgileniyor, çünkü içerikler yalnızca karşılıklı olarak iletilen bilginin özü değil, bilginin üretildiği bağlamı tanımlayan meta verilerdir. Dijital platformlar ne kadar çok veriye sahip olursa, algoritmaları o kadar iyi olur; algoritmalar ne kadar iyi olursa, kullanıcılara ve gerçek müşterilere (reklam verenlere) verilen hizmet o kadar iyidir; hizmet ne kadar iyi olursa, pazar payı da o kadar büyük olur; pazar payı arttıkça, daha fazla veri elde edilir. Bu, pazardaki yoğunlaşmayı artıran yeni geribildirim döngüsüdür.

Bu sorunu ele almak için gerçekten yaratıcı bir yaklaşım, Eric A. Şikago Üniversitesi Hukuk Fakültesi'nden Posner ve ekonomist E. Glen Weyl'in birlikte yazdığı Radikal Piyasalar: Adaletli Bir Toplum İçin Kapitalizmi ve Demokrasiyi Canlandırmak kitabında bulunabilir. Verileri, sermaye ve emek ilişkisinde düşündüğümüz gibi düşünmemizi öneriyorlar; kiralamak için verimli bir kaynak. 

Hiç şüphe yok ki, bireylere verilerinin mülkiyetini vermek ve bu verileri kullananlardan ödeme yapmalarını istemeleri dijital ekonominin dinamiklerini dönüştürecektir. McNamee ve Zuboff, çok farklı şekillerde, bu tür radikal müdahalelerin neden politika gündemine girdiklerini gösteriyor.

İncelenen Kitaplar

Roger McNamee, Zucked: Facebook Felaketine Uyanmak, Penguin Press, 2019.

Shoshana Zuboff , Sürveyans Kapitalizmi Çağı: Yeni Güç Sınırında İnsan Geleceği için Mücadele , Halkla İlişkiler, 2019.


William H. Janeway, Cambridge, 22.03.2019, Project Syndicate


(Özel özsermaye şirketi Warburg Pincus'un genel müdürü ve kıdemli danışmanı William H. Janeway, Cambridge Üniversitesi'nde ekonomi konusunda bağlı bir öğretim görevlisidir.)



Seçkin Deniz, 23
.04.2019, Sonsuz Ark, Çeviri, Çeviri ve Yansımalar
Takip et: @Seckin_Deniz


Not: Çeviri programları kullanılarak İngilizce'den çevrilmiştir.





Sonsuz Ark'tan
  1. Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur. 
  2. Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
  3. Sonsuz Ark yayınları Sonsuz Ark Manifestosu'na aykırı yayın yapan sitelerde yayınlanamaz.


Original Texte


Big Tech Is Watching – and Being Watched

Mar 22, 2019 WILLIAM H. JANEWAY

The rapid rise of today’s Silicon Valley giants, and the apparent power they wield over social and political life, suggest that we have entered a new epoch of economic history. If so, where is the digital revolution heading, and how might it be harnessed for the public good?


Roger McNamee, Zucked: Waking Up to the Facebook Catastrophe, Penguin Press, 2019.

Shoshana Zuboff, The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Public Affairs, 2019.

CAMBRIDGE – The maturation of the digital revolution has defined the first two decades of the twenty-first century. The central economic disasters of this period – the 2008 global financial crisis and consequent “Great Recession” – were driven by the proliferation of digital securities and the illusion that digital programs could measure and manage their attendant risks. And the social environment in which individuals consume information and execute transactions has been reconstructed according to the terms set by Amazon, Apple, Google, and Facebook.


Of these four Big Tech firms, Google and Facebook have pursued the most contentious business models. Those who search for information and connect with others on these platforms generate data that are fed into richly detailed user profiles, which are then monetized through the sale of targeted advertising. This heavy reliance on advertising is perhaps the least revolutionary aspect of the digital revolution. After all, the broadcast radio industry settled on the same model when it started running advertisements in 1922, much to the dismay of then-US Secretary of Commerce Herbert Hoover.


And yet, digital advertising is radically more efficient than its predecessors when it comes to targeting specified audiences, recording users’ responses and engagement, and leveraging the micro- and metadata they produce. It’s so efficient, in fact, that Alphabet (Google’s parent company) and Facebook have become two of the most valuable companies in the history of capitalism. But, of course, advertisers go where their audiences go, and people have flocked to the major digital platforms for the obvious benefits they provide.


For example, it is already hard to imagine conducting research or producing a work of scholarship without at least running a Google search for potential sources and archives. By the same token, it is easy to forget how much Facebook has reduced the hurdles to bringing likeminded people together, be it for public or private purposes. As Lara Putnam of the University of Pittsburgh and Theda Skocpol and Leah Gose of Harvard University have shown, private Facebook communities have become key vehicles for a nationwide mobilization of local “resistance” groups opposing US President Donald Trump – a movement that has far surpassed the scale of the Tea Party response to President Barack Obama.


THE TECHLASH


Still, many have come to question whether the obvious benefits of digital technologies outweigh their costs in the form of lost privacy, social fragmentation, and new threats to democratic political processes. This scrutiny is sure to intensify, following the real-time broadcast on Facebook of the massacre in the mosques in Christchurch, New Zealand.


The “techlash” that is now underway should not come as a surprise. A broad public response is to be expected in a political economy with institutional and regulatory channels for relief from the exercise of market power. Like the immediate re-regulation of financial institutions after the financial crisis, today’s techlash represents another step away from the market fundamentalism that dominated policymaking between the “Reagan Revolution” of the early 1980s and the end of George W. Bush’s presidency in 2008. This is nothing new: the emergence of dominant market forces has repeatedly induced a concerted legal and political response. In the United States, this was true with respect to the continent-spanning railroads in the nineteenth century, the massive monopolies (“trusts”) of the fin de siècle era, and the giant corporations of the New Deal era.


If history is any guide, today’s techlash is likely still in its early stages. Legal and regulatory scrutiny of current business practices is intensifying, with the European Commission leading the way, followed by progressive-leaning US states such as California. According to one industry newsletter, there are already 32 ongoing investigations in the US and Europe of Big Tech companies, from AT&T and Verizon to Uber and Airbnb, by way of Alphabet and Facebook.


The books under review represent another front in society’s response to Big Tech, though they could not be more different in terms of style and accessibility. Zucked, by the venture capitalist Roger McNamee, offers a personal narrative of the author’s journey from investing early in Facebook and mentoring its founder, Mark Zuckerberg, to coming out as one of the company’s leading critics. By contrast, Surveillance Capitalism by Shoshana Zuboff, a professor emeritus at Harvard University, deploys a highly abstract analytical framework to argue that digital technologies have ushered in an altogether novel variant of capitalism itself.


“MOVE FAST AND BREAK THINGS”


Both McNamee and Zuboff are on the same mission: to expose how the valued functions of “Search” (on Google) and “Connect” (on Facebook) turned into “Target” and “Manipulate” – as in behavioral manipulation to bring users’ actions into line with the goals of those who control the data (legitimately or otherwise). Beyond that, both books provide ample evidence of Google and Facebook’s controlling founders refusing to accept responsibility for what happens on their platforms (in Google’s case, this mostly concerns YouTube).


Zucked Waking up to the Facebook catastrophe


For example, liberated by Section 230 of the US Communications Decency Act of 1996, which immunized online platforms from legal liability for content provided by others, both companies have asserted the values of untrammeled free speech and avoided accountability for what their users share. As Zuboff puts it, they have “weaponized” the First Amendment of the US Constitution. When they are accused of complicity in the abuses that occur on their platforms, their standard response, McNamee writes, is to “deny, delay, deflect, dissemble,” eventually “admit and apologize,” and then repeat the cycle.


Zucked is the work of an insider witness with a deep understanding of the cultural context from which Facebook emerged. In a bibliographical essay at the end, McNamee reflects on the three eras of Silicon Valley, the last two of which he lived through personally. The first was the Apollo Era, when the US Department of Defense constructed the stage on which many an entrepreneur and venture capitalist would dance. Then came the Hippie Era, when computing was democratized by the personal computer and the advent of the Internet (itself a product of the first era).


But then came the Libertarian Era, exemplified by the “PayPal Mafia” (not least PayPal co-founder Peter Thiel, the first venture investor in Facebook) and others who shaped the process by which social media became the “killer app” of the digital age. It is not an accident that the Libertarian Era in Silicon Valley coincided with the neoliberal era of political economy. In the crucial early years of Google and Facebook, their founders were given a free pass – by stockholders and regulators alike – as they consolidated control of their companies and grew to dominate markets they themselves had created.


RESPECT BETRAYED


Facebook’s stunning growth in scale and profitability is not what turned McNamee’s admiration into staunch opposition. Rather, it was the company’s move from “Target” to “Manipulate.” McNamee’s step-by-step account of this shift is so effective, because it is delivered as a personal story of betrayal.


McNamee is primarily concerned with the social and political consequences of Facebook’s business model, which is geared toward feeding and reinforcing the revealed preferences of its users. Hence, in 2017, he joined forces with Tristan Harris, an erstwhile “design ethicist” at Google, who had helped launch the Center for Humane Technology in 2013. A former student of the Stanford University behaviorist B. J. Fogg, Harris is closely acquainted with the techniques Google and Facebook have deployed to influence behavior, often going to extremes far beyond what Fogg himself anticipated.


For example, McNamee recounts how Harris acquainted him to the process by which digital platforms shape individual preferences into “filter bubbles” that are far more powerful than those implied by, say, watching only Fox News. Online, users participate actively – yet unwittingly – in refining the algorithms that drive their informational isolation, rendering the process far more efficient than in other media domains. Worse, this process itself is not isolated from the outside world, and can easily be manipulated by the likes of Cambridge Analytica and the Russian Internet Research Agency. And, as we’ve learned over the past year, part of Facebook’s push to maximize revenue entailed granting such third parties near-open access to users’ data.


McNamee did not originally set out to issue a public warning about Facebook. In fact, he raised his concerns privately with Zuckerberg and Facebook’s chief operating officer, Sheryl Sandberg, in the fall of 2016. But as the months passed, it became clear that they were not going to offer a constructive response to Facebook’s rampant abuse of its platform and users. That’s when McNamee decided to “go public.” On March 6, just a month after the release of Zucked, Zuckerberg unveiled a new “privacy-focused vision” for Facebook? One can only speculate about whether the two events were related. But if Zuckerberg’s change of posture and (perhaps) policy leads to real, constructive change, McNamee may well feel entitled to take a victory lap.


SAME OLD CAPITALISM


One of the strengths of Zucked is its tight focus on McNamee’s own journey from analysis to action. Zuboff also begins with a personal anecdote, recounting fieldwork that she conducted almost 40 years ago for her first book, In the Age of the Smart Machine: The Future of Work and Power. But within the first five pages of The Age of Surveillance Capitalism, she shifts into high theory, offering a definition of “surveillance capitalism” that is so abstract as to have almost no connection to observed human experience.


the age of surveillance capitalism


Over the course of more than 500 pages, Zuboff wants the reader to know that the evils she decries are not the inevitable result of digital technology, but rather a consequence of deliberate choices made in pursuit of profit. Her surveillance capitalists are users of technology; they are not its predetermined agents. On this sound point, she unwittingly echoes the great French historian of pre-modern capitalism Fernand Braudel, who observed that, “Capitalism does not … invent the market or production or consumption, it merely uses them.”


With similar insight, in the spirit of Karl Polanyi’s The Great Transformation, Zuboff observes that Google and Facebook have both commodified activities that already existed outside the market. Whereas Polanyi’s focus was on the “fictitious commodities” of land and labor, Zuboff’s is on what she calls “behavioral surplus” – that is, the “digital exhaust” generated whenever users “Search” and “Connect” online.


Unfortunately, Zuboff too often smothers such thoughtful observations with jargon. She is driven to offer a grand theory of capitalism and the pursuit of profit in the digital age. So, rather than simply explaining the phenomena she observes, she obscures her arguments behind portentous talk of “the third modernity” and “instrumentarianism,” a concept that she borrows from Alex Pentland of MIT’s Media Lab, whose own theoretical aspirations are a match for Zuboff’s own.


Zuboff endorses Pentland’s assertion that “social phenomena are really just aggregations of billions of small transactions between individuals,” which surpasses even former British Prime Minister Margaret Thatcher’s notorious claim that “there is no such thing as society.” At least Thatcher made room for “families” in addition to “individual men and women.” Zuboff takes as pretentious a leap when arguing that the improved precision of machine tools, thanks to locally deployed digital feedback, represents a transition from the era of top-down, hierarchical control over mass production to the distributed “hive mind” of her “third modernity.”


CONFIDENCE TRAPS


To be sure, Zuboff makes an important distinction between the type of behavioral control pursued by totalitarian states and the predictive certainty that motivates the “instrumentarian” purveyors and purchasers of behavioral data. But, as Diane Coyle of Cambridge University notes in her own critique of the book, a historical account of surveillance as a persistent social phenomenon from Jeremy Bentham through Michel Foucault is missing entirely. It is a lacuna that becomes more obvious with each repeated reference to the “unique,” “unprecedented” nature of surveillance capitalism.


Worse still, Zuboff shows no appreciation of the fundamental uncertainty surrounding human actions and their future economic and social implications, even though that has been a central theme explored by economists as varied as Frank Knight, John Maynard Keynes, and Friedrich Hayek. As George Soros has observed from his long engagement with financial markets, one constant form of uncertainty is the “reflexivity” implied when human actions become variable inputs in decisions made by others. The irony, of course, is that while Zuboff denies the inevitability of Google and Facebook’s triumph, she simply assumes that they will achieve near-perfect predictive certainty with respect to people’s future behavior.


As Zuboff’s argument becomes more speculative, she becomes more assertive, in ways that seem to parallel the “psychohistory” of Hari Seldon, a fictional character from Isaac Asimov’s Foundation series who could calculate future events algorithmically. Seldon offered only probabilistic predictions, not the certainty that Zuboff ascribes to the “instrumentarian” villains at the center of her “third modernity.”


Indeed, Zuboff’s own certainty about current and future technological developments undermines her own argument. She seems to accept without question the marketing claims made by corporations currently invested in machine learning and what is now the third wave of hype over artificial intelligence (AI). One would never know from reading her account of IBM’s Watson program that its highly publicized applications in health care have failed repeatedly in clinical settings at some of the most prestigious medical institutions in the world.


“Ah,” the poet George Meredith wrote more than a century ago, “what a dusty answer gets the soul, when hot for certainties in this our life!” And yet, even if one accepts that the only certainty in human behavior is its uncertainty, one still needs to respond to the real-world evils spawned by today’s digital giants. And here, what McNamee and Zuboff offer differs substantially.


RESTORING ANTITRUST


Zuboff is hopeful that the European Commission’s General Data Protection Regulation (GDPR) will address some of the public’s concerns about privacy. But her principal appeal is for individuals “to be the friction” against the “Big Other,” which is her opaque label (a play on George Orwell’s Big Brother) for all of the digital forces she decries. But that is where she leaves it.


For his part, McNamee also calls for “user pressure” as a first, best choice for inducing reform at Facebook, but he goes further than Zuboff in upbraiding Google and Facebook for not “embracing GDPR” themselves. And, in contrast to Zuboff, he dives deep into the regulatory weeds in search of a solution, concluding that a reinvigoration of antitrust law is necessary.


McNamee takes the reader back to 1956, when the US Department of Justice’s Antitrust Division leveled the playing field of information technology through its settlement with AT&T. The company was allowed to keep its franchise in long-distance telephony, its dominant position in local services, and its (vertically integrated) manufacturing arm, Western Electric. But it was denied entry into the nascent commercial computing market, and it was required to license Bell Labs’ portfolio of patents for free to all comers. When all was said and done, the DOJ had furnished the public with an endowment of enormous, if unquantifiable, value, and set the stage for rapid growth in the information-technology sector, which was now free from the threat of AT&T’s dominance.


Antitrust law was already becoming a hot topic in discussions about the digital age, but McNamee has turned up the heat. Over a long generation, antitrust law has been transformed by the doctrine known as “Law and Economics,” derived from Chicago School market fundamentalism, which holds that the only legitimate purpose of antitrust law is to protect consumers from abuse.


According to this logic, competitive supply-side conditions should be ignored unless they are directly responsible for such abuse. Because consumers gain access to advertising-funded digital services for free, strategic acquisitions by the tech giants that pre-empt potential competition – Google’s purchase of YouTube, Facebook’s purchase of Instagram and WhatsApp – have gone unexamined.


McNamee, citing Barry Lynn of the Open Markets Institute, adds an imaginative dimension to the discussion of antitrust when he highlights the value of the user data that is being monetized on digital platforms. Insofar as that data is lucrative as a source of advertising revenues, consumers have been surrendering more and more value in exchange for the same old search and connect functions. And as McNamee has pointed out to the Federal Trade Commission, the skewed ratio of value surrendered to value received on today’s digital platforms may well qualify as customer abuse.


DATA OF THE WORLD UNITE


The issue of data is central to the rise of the digital giants, and both McNamee and Zuboff pay due attention to the questions of who should own it, who should have access to it, and to what end. Data constitute a fourth source of market power that is separate and distinct from network effects and economies of scale and scope. Network effects drove market concentration in the age of telephony, but no one other than intelligence or security services really cared about the content of the messages exchanged.


Now, it is all about content, and not just the substance of exchanged information, but the metadata that defines the context in which information is generated. The more data digital platforms have, the better their algorithms will be; the better the algorithms, the better the service to users and the real customers (advertisers); the better the service, the larger the market share; the larger the market share, the more data. That is the new feedback loop driving market concentration.


One genuinely creative approach to addressing this problem can be found in Radical Markets: Uprooting Capitalism and Democracy for a Just Society, by Eric A. Posner of the University of Chicago Law School and economist E. Glen Weyl. They suggest that we think about data in the same way that we think of capital and labor: as a productive resource for hire. No doubt, granting individuals ownership of their data and requiring those who capture it to pay for its use would transform the dynamics of the digital economy. In their very different ways, McNamee and Zuboff both show why such radical interventions are now entering the policy agenda.



William H. Janeway, a managing director and senior adviser at the private-equity firm Warburg Pincus, is an affiliated lecturer in economics at Cambridge University

Hiç yorum yok :

Seçkin Deniz Twitter Akışı