Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
Sonsuz Ark'ın Notu:
Çevirisini yayınladığımız, bazıları BM Yapay Zeka Üst Düzey Danışma Kurulu Yürütme Komitesi üyeleri olan on iki yazarın altı analizinden oluşan set, 2019 itibariyle 156 ülkede 506 medya kuruluşundan oluşan bir ağa sahip olan, çeşitli küresel konularda yorum ve analiz yayınlayan ve sendikasyon yapan, New York merkezli uluslararası medya kuruluşu olan Project Syndicate'e aittir ve Yapay Zeka'nın önlenmesine odaklanmaktadır.
Seçkin Deniz, 01.02.2024, Sonsuz Ark
Preventing Big AI
Üretken yapay zeka hızla artan sayıda sektöre uygulanırken, yakın zamanda gerçekleşen bir dizi dava, zirve, mevzuat ve düzenleyici eylem, teknoloji için korkuluklar oluşturma çabalarını destekledi. Yapay zekanın ortaya çıkardığı bazı zorlukların çözümü nispeten kolay olsa da, diğerleri yaratıcı düşünmeyi ve güçlü bir siyasi iradeyi gerektirecektir.
Son zamanlarda oldukça dikkat çeken bir soru, bir yapay zeka modelinin telif hakkıyla korunan materyaller üzerinde eğitilmesinin telif hakkı ihlali anlamına gelip gelmediğidir. Neyse ki, O'Reilly Media, Inc. şirketinden Mike Loukides ve Tim O'Reilly'e göre, bu konu göründüğü kadar zor değil. Geri getirme ile güçlendirilmiş üretim sayesinde, "üretken yapay zeka modellerinin telif haklarına saygı göstermesini ve uygun olduğunda yazarlara tazminat ödemesini sağlamak tamamen mümkündür."
Chicago Üniversitesi'nden Eric Posner'a göre daha geniş bir risk, yapay zekanın "Büyük Teknoloji'nin ekonomi üzerindeki hakimiyetini pekiştirme olasılığıdır." Aslında, "bir avuç oyuncu arasındaki gizli anlaşma ve koordinasyon" göz önüne alındığında, "daha önce gelen her şeyi gölgede bırakan bir ekonomik yoğunlaşma ve kurumsal siyasi güç geleceği" "neredeyse kaçınılmaz".
Cambridge Üniversitesi'nden Diane Coyle, Big Tech'in "baskın oyuncularının" "konumlarını güçlendirmek için [YZ] modellerini kullandıklarını" belirtiyor. Bu arada, çoğu politika yapıcı ve diğer karar vericiler herhangi bir YZ uzmanlığından yoksundur, bu nedenle "belirli konulara yönelik politika yanıtlarının yetersiz kalması, lobicilikten büyük ölçüde etkilenmesi veya oldukça tartışmalı olması muhtemeldir." Bu bağlamda, güçlü yeni YZ teknolojilerinin "herkese hizmet etmesini" sağlamak, birlikte çalışabilirlik gibi ilkelere dayalı bir politika yaklaşımı gerektirecektir.
Yale'den Ian Ayres, Berkeley'deki California Üniversitesi'nden Aaron Edlin ve Nobel ödüllü Robert J. Shiller ilgili bir sorunun altını çiziyor: YZ devrimi "neredeyse kesin olarak gelir eşitsizliklerinde bir artışa yol açacak", çünkü "icatları yapanlar ve bunlara sahip olanlar" büyük ölçüde "işgücü maliyetlerinden tasarruf ederek" "muazzam bir servet" biriktirecek. Düzenleme, "üretkenlikte dramatik artışlar" da dahil olmak üzere "YZ'nin potansiyel faydalarını engellemeden... bu riskleri ortadan kaldıramayacağından", eşitsizlik sigortası şarttır.
Avrupa-Akdeniz İklim Değişikliği Merkezi'nden Giulio Boccaletti, ekonominin ötesinde, birkaç özel aktörün yapay zeka geliştirme ve uygulamaları üzerindeki gücünün, iklim bilimi de dahil olmak üzere bilimsel araştırmalar için önemli etkileri olduğunu açıklıyor. Hesaplama altyapısı gibi "araştırma araçlarının" sıkıca özel ellerde olmasıyla, politika yapıcıların bu yeni araçların sadece özel faydalar değil, kamu malları sağlamasını temin etmek için uyanık olmaları gerekecektir."
Ancak, BM Yapay Zeka Üst Düzey Danışma Kurulu Yürütme Komitesi üyeleri Carme Artigas, James Manyika, Ian Bremmer ve Marietje Schaake'ye göre ulusal düzeydeki çabalar yeterli olmayacaktır. "Yapay zekanın ortaya çıkardığı benzersiz zorluklar, yönetişim için koordineli bir küresel yaklaşım gerektirmektedir" ve yalnızca Birleşmiş Milletler "böyle bir yanıtı organize etmek için gereken kapsayıcı meşruiyete sahiptir."
19 Ocak 2024, Project Syndicate
Bu Büyük Resimde Öne Çıkanlar:
***
I- Yapay Zekanın Telif Hakkı Sorunu Çözülebilir- AI’s Copyright Problem Is Fixable
"Önde gelen teknoloji şirketlerinin iddia ettiğinin aksine, üretici yapay zeka modellerinin telif haklarına saygı göstermesini ve uygun olduğunda yazarlara tazminat ödemesini sağlamak tamamen mümkündür. Şimdi, düzenleyicilerin endüstriyi bunu yapmadığı için sorumlu tutmak için adım atması gerekiyor."
Üretken yapay zeka, mevcut telif hakkı yasasını öngörülemeyen ve rahatsız edici şekillerde esnetiyor. ABD Telif Hakkı Ofisi kısa bir süre önce, görüntü üreten yapay zekanın çıktısının, onu oluşturan istemlerde insan yaratıcılığı kullanılmadığı sürece telif hakkına tabi olmadığını belirten bir kılavuz yayınladı. Ancak bu birçok soruyu da beraberinde getiriyor: Ne kadar yaratıcılığa ihtiyaç var ve bu yaratıcılık bir sanatçının fırçasıyla uyguladığı yaratıcılıkla aynı türden mi?
Diğer bir grup dava ise metinlerle (tipik olarak romanlar ve romancılar) ilgilidir ve bazıları, model çıktısının bir parçası olarak bu metinleri asla yeniden üretmese bile, telif hakkıyla korunan materyal üzerinde bir modeli eğitmenin kendisinin telif hakkı ihlali olduğunu savunmaktadır. Ancak metin okumak, yazılı dil var olduğu sürece insanların öğrenme sürecinin bir parçası olmuştur. Kitap satın almak için para ödesek de, onlardan bir şeyler öğrenmek için para ödemiyoruz.
Bunu nasıl anlamlandıracağız? Yapay zeka çağında telif hakkı yasası ne anlama gelmeli? Teknoloji uzmanı Jaron Lanier, bir modeli eğitmek (veya "öğretmek") ile bir modeli kullanarak çıktı üretmek arasında dolaylı olarak ayrım yapan veri saygınlığı fikriyle bir cevap sunuyor. Lanier, ilkinin korunan bir faaliyet olması gerektiğini, oysa çıktının gerçekten de birinin telif hakkını ihlal edebileceğini savunuyor.
Bu ayrım birkaç nedenden dolayı caziptir. İlk olarak, mevcut telif hakkı yasası "yeni bir şey ekleyen ... dönüştürücü kullanımları" korumaktadır ve YZ modellerinin yaptığı şeyin bu olduğu oldukça açıktır. Dahası, ChatGPT gibi büyük dil modelleri (LLM'ler), örneğin George R. R. Martin'in fantezi romanlarının tam metnini içeriyor ve bu metinlerden yüzsüzce kopyalayıp yapıştırıyor değiller.
Model daha ziyade, eğitim sırasında alınan tüm içeriğe dayanan ve bir kelimenin diğerini takip etme olasılığını temsil eden muazzam bir parametreler kümesidir. Bu olasılık motorları Shakespeare'in hiç yazmadığı bir Shakespeare sonesi ortaya çıkardığında, yeni sone uzaktan yakından iyi olmasa bile bu dönüştürücüdür.
Lanier, daha iyi bir modelin yaratılmasını, eserleri bu modeli yetiştirmek için kullanılan yazarlar da dahil olmak üzere herkese hizmet eden bir kamu yararı olarak görüyor. Bu da onu dönüştürücü ve korunmaya değer kılıyor. Ancak Lanier'in veri saygınlığı kavramında bir sorun var (ki kendisi de bunu kabul ediyor): mevcut yapay zeka modellerini "eğitmek" ile örneğin romancı Jesmyn Ward tarzında "çıktı üretmek" arasında anlamlı bir ayrım yapmak mümkün değil.
Yapay zeka geliştiricileri modelleri, onlara daha küçük girdi parçaları vererek ve bir sonraki kelimeyi milyarlarca kez tahmin etmelerini isteyerek, tahminleri iyileştirmek için yol boyunca parametreleri biraz değiştirerek eğitir. Ancak aynı süreç daha sonra çıktı üretmek için kullanılıyor ve telif hakkı açısından sorun burada yatıyor.
Shakespeare gibi yazması istenen bir model "To" kelimesiyle başlayabilir, bu da onu "be" ile takip etme olasılığını biraz daha artırır, bu da bir sonraki kelimenin "or" olma olasılığını biraz daha artırır - ve bu böyle devam eder. Öyle olsa bile, bu çıktıyı eğitim verilerine bağlamak imkansızdır.
"Veya" kelimesi nereden geldi? Hamlet'in ünlü monoloğundaki bir sonraki kelime olsa da, model Hamlet'i kopyalamıyordu. Sadece istatistiklere dayanarak seçebileceği yüz binlerce kelime arasından "veya" kelimesini seçti. Bu biz insanların yaratıcılık olarak kabul edeceği bir şey değil. Model basitçe biz insanların onun çıktısını anlaşılır bulma olasılığını en üst düzeye çıkarıyor.
Peki o zaman, uygun olduğunda yazarlar çalışmaları için nasıl tazmin edilebilir? Mevcut üretken yapay zeka sohbet robotları ile kaynağın izini sürmek mümkün olmasa da, bu hikayenin sonu değil. ChatGPT'nin piyasaya sürülmesinden bu yana geçen yaklaşık bir yıl içinde, geliştiriciler mevcut temel modellerin üzerine uygulamalar inşa ediyor. Birçoğu, bir yapay zekanın eğitim verilerinde olmayan içeriği "bilmesine" izin vermek için erişimle zenginleştirilmiş üretimi (RAG) kullanıyor. Bir ürün kataloğu için metin oluşturmanız gerekiyorsa, şirketinizin verilerini yükleyebilir ve ardından talimatlarla birlikte yapay zeka modeline gönderebilirsiniz: "Yanıtta yalnızca bu istemle birlikte verilen verileri kullanın."
RAG, yoğun emek ve hesaplama gerektiren eğitim sürecinden geçmeden özel bilgileri kullanmanın bir yolu olarak tasarlanmış olsa da, tesadüfen modelin yanıtı ile yanıtın oluşturulduğu belgeler arasında bir bağlantı da oluşturuyor. Bu da bizi Lanier'in veri saygınlığı vizyonunu gerçekleştirmeye çok daha fazla yaklaştıran bir provenansa sahip olduğumuz anlamına geliyor.
Bir insan programcının para birimi dönüştürme yazılımını bir kitapta yayınlarsak ve dil modelimiz bir soruya yanıt olarak bunu yeniden üretirse, bunu orijinal kaynağa atfedebilir ve telif ücretlerini uygun şekilde tahsis edebiliriz. Aynı şey Ward'ın (mükemmel) Sing, Unburied, Sing kitabının tarzında yazılmış yapay zeka tarafından üretilen bir roman için de geçerli olacaktır.
Google'ın "yapay zeka destekli genel bakış" özelliği, RAG ile neler bekleyebileceğimize dair iyi bir örnektir. Google halihazırda dünyanın en iyi arama motoruna sahip olduğundan, özetleme motoru bir arama yaparak ve kullanıcıların istediği genel bakışı oluşturmak için en iyi sonuçları bir LLM'ye besleyerek bir komut istemine yanıt verebilmelidir. Model dil ve grameri sağlayacaktır, ancak içeriği istemde yer alan belgelerden türetecektir. Yine, bu eksik kaynağı sağlayacaktır.
Artık telif haklarına saygılı ve yazarları tazmin eden çıktılar üretmenin mümkün olduğunu bildiğimize göre, düzenleyicilerin, tıpkı nefret söylemi ve diğer uygunsuz içerik türlerinden sorumlu tutuldukları gibi, şirketleri bunu yapmadıkları için sorumlu tutmak için adım atmaları gerekir. Önde gelen LLM sağlayıcılarının bu görevin teknik olarak imkansız olduğu iddiasını kabul etmemeliyiz. Aslında bu, üstesinden gelebilecekleri ve gelmeleri gereken birçok iş modeli ve etik zorluktan bir diğeridir.
Ayrıca RAG, mevcut yapay zeka "halüsinasyon" sorununa da en azından kısmi bir çözüm sunmaktadır. Bir uygulama (Google arama gibi) bir modele bir yanıt oluşturmak için gereken verileri sağlarsa, tamamen yanlış bir şey üretme olasılığı, yalnızca eğitim verilerinden yararlandığı duruma göre çok daha düşüktür. Dolayısıyla bir yapay zekanın çıktısı, güvenilir olduğu bilinen kaynaklarla sınırlandırılırsa daha doğru hale getirilebilir.
Bu yaklaşımla nelerin mümkün olduğunu daha yeni yeni görmeye başlıyoruz. RAG uygulamaları şüphesiz daha katmanlı ve karmaşık hale gelecektir. Ancak artık kaynağın izini sürebilecek araçlara sahip olduğumuza göre, teknoloji şirketlerinin telif hakkı konusunda hesap vermemek için bir bahanesi kalmadı.
Mike Loukides, Tim O'reilly, Sebastopol, California, 8 Aralık 2023
(O'Reilly Media, Inc. İçerik Stratejisi Başkan Yardımcısı olan Mike Loukides, System Performance Tuning (O'Reilly Media, Inc., 2002) kitabının yazarı ve Unix Power Tools (O'Reilly Media, Inc., 2002) ve Ethics and Data Science (O'Reilly Media, Inc., 2018) kitaplarının ortak yazarıdır. O'Reilly Media, Inc. şirketinin kurucusu ve CEO'su Tim O'Reilly, University College London Institute for Innovation and Public Purpose'da misafir profesör ve WTF? What's the Future and Why It's Up to Us (Harper Business, 2017) kitabının yazarıdır.)
***
II- Yapay Zeka Ahtapotu- The AI Octopus
"Yapay zeka vaatlerini yerine getirir ve ekonominin her sektörünün can damarı haline gelirse, daha önce yaşananları gölgede bırakacak bir ekonomik yoğunlaşma ve kurumsal siyasi güç geleceği bekleyebiliriz. Bir avuç oyuncu arasındaki gizli anlaşma ve koordinasyon bu sonucu kaçınılmaz kılıyor."
Google, Apple ve Amazon'a karşı uzun süredir devam eden antitröst davalarının sonuçlanmasıyla birlikte, birçok gözlemci 2024 yılının Büyük Teknoloji için bir dönüm noktası olabileceğini düşünüyor. Ancak yetkililer bu davalara devam etseler bile, Büyük Teknoloji'nin ekonomi üzerindeki hakimiyetini pekiştirmesi muhtemel olan yapay zekanın yükselişi karşısında gafil avlanma riskiyle karşı karşıyalar.
OpenAI CEO'su Sam Altman'ın kısa süre önce kovulması ve yeniden işe alınması, yapay zekanın risklerinden endişe eden temkinli yönetim kurulu üyeleri ile Altman gibi meraklılar arasında bir çatışma olarak yorumlandı. Ancak bu olayın asıl önemi, OpenAI'nin ticari operasyonlarındaki en büyük yatırımcı olan Microsoft ile ilişkisi hakkında ortaya çıkardığı şeydi. OpenAI'nin kar amacı gütmeyen yapısı, nominal olarak sadece yönetim kurulunun onu kontrol ettiği anlamına gelse de, Microsoft'un bir çalışan isyanını kışkırtmaya yardımcı olan şüphelerini dile getirmesinin ardından yönetim kurulu Altman'ı yeniden işe almak zorunda kaldı.
Microsoft OpenAI'de sadece bir yatırımcı değil; aynı zamanda bir rakip. Her iki şirket de yapay zeka ürünleri geliştirip satıyor ve Microsoft antitröst sorunlarından kaçınmak için OpenAI'yi satın almaktan kaçınmıştı. Ancak Microsoft OpenAI'yi kontrol ediyorsa ya da kısmen kontrol ediyorsa, iki şirket arasında yasadışı bir gizli anlaşma ilişkisi olabilir. Bu nedenle ABD Federal Ticaret Komisyonu ve Birleşik Krallık rekabet kurumu konuyu soruşturuyor.
OpenAI-Microsoft ilişkisi, hızla büyüyen YZ oligopolünün sadece küçük bir parçası. Berkeley'deki Kaliforniya Üniversitesi'nden hukuk profesörleri Tejas Narechania ve Vanderbilt Üniversitesi'nden Ganesh Sitaraman tarafından yakın zamanda yayınlanan bir makalenin de belgelediği gibi, YZ tedarik zinciri boyunca pazar gücü yaygındır. Tekelci Nvidia, yapay zeka gelişimi için gereken çiplerin çoğunu üretiyor. Amazon, Google ve Microsoft, YZ modellerinin eğitildiği verilerin depolanması için gerekli olan bulut bilişimi domine etmektedir.
Bu şirketler ve Meta (Facebook/Instagram'ın ana şirketi) bu tür verileri toplayabilen ve depolayabilen tek şirketler olduğundan, aynı zamanda en önemli yapay zeka modellerini ve uygulamalarını geliştiren ve bunlardan kar elde eden şirketlerdir. Microsoft, kendi tescilli yapay zeka uygulamalarıyla birlikte ChatGPT'ye kilitlenmişken, Google Bard'a sahip ve Amazon ile birlikte Anthropic'e (Claude'un geliştiricisi) milyarlarca yatırım yapıyor.
Neredeyse tüm büyük teknoloji şirketleri ve yöneticileri kurumlar ve profesyonel ağlar aracılığıyla birbirine bağlıdır. Bunlar arasında start-up kuluçka merkezi Y Combinator (Altman'ın OpenAI'ye geçmeden önce başkan olarak görev yaptığı yer); ortak araştırma projeleri (Google, Facebook, Amazon ve Microsoft'u içeren yapay zeka ile ilgili bir ortaklık gibi); kurumsal kurullar ve sosyal ilişkiler yer alıyor. OpenAI'nin kendi kar amacı gütmeyen yönetim kurulu, aynı zamanda yapay zeka ürünleri geliştiren diğer şirketlerle bağlantıları olan kişileri içeriyor veya içeriyor. Örneğin kurucu üyelerinden biri, birkaç yıl önce ayrılan Elon Musk'tı.
Bu yakın bağlantılar ağı, gizli anlaşma (yasadışıdır) veya koordinasyon (yasaldır ama yine de tüketiciler için kötüdür) için önemli fırsatlar yaratır. Ancak kamuoyunun ilgisi büyük ölçüde Büyük Teknoloji firmalarının tekel güçlerini kötüye kullanmalarına odaklandığından, insanlar teknoloji şirketlerinin pazar güçlerini artırmak için birbirleriyle gizli anlaşma yapabilecekleri birçok yolu göz ardı etmişlerdir.
Bu devlerin bu tür davranışlarla ilgili uzun bir geçmişi var. Bu devlerden birkaçı 2010 yılında Adalet Bakanlığı tarafından açılan ve birbirlerinin yazılım mühendislerini işe almamayı kabul etmekle suçlandıkları bir davayı çözüme kavuşturdu. E-postalarda Apple'dan Steve Jobs, Google'dan Eric Schmidt'i işe alımcıların Apple çalışanlarını işe almasına izin verdiği için azarlamış ve Schmidt de bir astına "kağıt üzerinde iz bırakmamak" için bir işe alımcıyı "sözlü olarak" kovmasını emretmişti.
Google'ın arama alanındaki hakimiyetini sorgulayan ve devam etmekte olan bir davada mahkeme, Google'ın Apple'a iPhone'da varsayılan statü için ödeme yaptığına dair kanıtları dinledi; bunun olası amacı Apple'ı Google'ın tekelinde olan arama pazarından uzak tutmaktı. Dijital reklamcılığı tekelleştirdiği gerekçesiyle Google'a karşı açılan bir başka davada ise Adalet Bakanlığı, Google'ın bu pazardaki hakimiyetine karşı çıkılmaması için Facebook'a ödeme yaptığını iddia ediyor.
Yıllar önce Apple, kitap yayıncıları arasında gizli bir anlaşma düzenlerken yakalanmıştı. OpenAI çalışanları Altman'ın görevden alınmasının ardından Microsoft'a gitmekle tehdit ettiklerinde, OpenAI'yi Microsoft'a satmaya çalışıyorlardı. Bu, antitröst yasasının ruhunu ve muhtemelen lafzını ihlal edecek bir birleşmeyi gerçekleştirmek için çalışanlar arasında yapılan bir tür gizli anlaşmaydı.
Teknoloji yöneticileri arasındaki samimi ilişkiler, hem dönemin sanayi devlerine sermaye sağlayan hem de onlarla ve birbirleriyle gizli anlaşmalar yapan kilit banka ve finans kuruluşlarının Yaldızlı Çağ'daki "para tröstünü" anımsatıyor. Para tröstünün olağanüstü gücü, antitröst yasalarına (1890 ve 1914'te), düzenlemelere (1913'te ABD Merkez Bankası'nın kurulması dahil) ve nihayetinde bankaları dağıtan, şirket sahibi olmalarını kısıtlayan ve faaliyetlerini sınırlayan yasalara (1930'larda) yol açtı. Bir petrol şirketi ya da demiryolunun aksine, bankalar ekonomi genelinde konsolidasyonu yönlendirmek için benzersiz bir konuma sahiptir, çünkü çeşitli ekonomik sektörlerdeki hemen hemen her şirket üzerindeki finansal kaldıraçlarını, birleşmeler için baskı yapmak da dahil olmak üzere davranışlarını kontrol etmek için kullanabilirler.
Büyük teknoloji firmaları artık ekonomi üzerindeki etkileriyle bankalara benziyor - ama çok daha yüksek bir seviyede. Verilere erişimleri sayesinde, tüketici ve iş davranışları hakkında bankaların şimdiye kadar olduğundan daha fazla bilgiye sahipler ve bunlar üzerinde daha fazla kontrol uyguluyorlar. Neredeyse tüm tüketicilere ürün ve hizmetlerin yanı sıra ekonomi genelindeki işletmelere hayati girdiler sağlıyorlar. Daha önce hiçbir bankanın böyle bir erişimi olmamıştı.
Teknoloji şirketlerinin ekonominin zirvesinde yer alan finans kurumlarının da yerini alması şaşırtıcı değil. Financial Times'a konuşan bir finansçının da belirttiği gibi, Big Tech yapay zeka şirketlerini satın alma yarışında finans kurumlarını sürekli olarak geride bırakıyor. ABD merkezli en büyük altı şirket (piyasa değerine göre) teknoloji şirketleri olmakla kalmıyor, aynı zamanda aralarındaki en küçük şirket (Meta) JPMorgan'ın neredeyse iki katı büyüklüğünde. İlk yedi teknoloji şirketi şu anda tüm S&P 500'ün %30'unu oluşturuyor; 1920'lerdeki piyasa hakimiyetinin en parlak döneminde bile bankacılık sistemi sadece %16-19'luk bir paya sahipti.
Antitröstün ilk dönemlerinden karikatüristler, bankalar ve reel ekonomi tekelcileri arasındaki finansal bağlantıları, hem politikacıları hem de tüketicileri kuşatan ve sıkıştıran ahtapot dokunaçları olarak tasvir etmişlerdir. Eğer yapay zeka vaatlerini yerine getirir ve ekonominin her sektörünün can damarı haline gelirse - hukuktan üretime kadar her sektörde bir girdi olarak - daha önce gelen her şeyi gölgede bırakan bir ekonomik yoğunlaşma ve kurumsal siyasi güç geleceği bekleyebiliriz.
Eric Posner, Chicago, 8 Ocak 2024
(Chicago Üniversitesi Hukuk Fakültesi'nde profesör olan Eric Posner, How Antitrust Failed Workers (Oxford University Press, 2021) adlı kitabın yazarıdır.)
***
III- Yapay Zekanın Potansiyelini Herkes İçin Ortaya Çıkarmak- Unlocking AI’s Potential for Everyone
"Antitröst yetkililerinin Büyük Teknoloji'nin pazar gücü konusunda endişelerinin arttığı bir dönemde, sektörün baskın oyuncuları konumlarını güçlendirmek için yapay zeka modellerini kullanmaya başladı. Bu güçlü yeni teknolojilerin herkese hizmet etmesini sağlamak için politika yapıcıların bazı temel yol kuralları koyması gerekiyor."
Yapay zeka hızla ilerliyor. İnsanlar yeni hizmetler oluşturmak ve mevcut görevleri yerine getirmek için üretken yapay zekayı ve büyük dil modellerini (LLM'ler) kullanıyor ve altta yatan teknolojinin kendisi hızla ilerliyor. Nobel ödüllü ekonomist Michael Spence'in gözlemlediği gibi, bu benimseme dalgası neredeyse yirmi yıllık cansız büyümenin ardından önemli verimlilik artışları sağlayabilir. Her geçen gün Google'ın yakın zamanda duyurduğu, yapay zekasının American Airlines'ın kontrailleri %54 oranında azaltmasına yardımcı olduğu ve her uçuşun iklim ayak izini azalttığı gibi haberler geliyor.
Ancak haberlerin hepsi iyi değil. Bu haliyle YZ'nin Büyük Teknoloji şirketlerinin hakimiyetlerini pekiştirmelerine yardımcı olması daha muhtemel. En güçlü yapay zeka modellerini geliştirecek ve sürdürecek kaynaklara sahip olanlar onlar ve LLM'leri mevcut hizmetleriyle bir araya getirmek için şimdiden hızlı hareket ediyorlar. Bu gelişmeler, dünyanın dört bir yanındaki antitröst otoritelerinin teknoloji şirketlerinin pazar gücü konusunda giderek daha fazla endişe duymaya başladığı bir döneme denk geliyor.
Elbette, bazı yorumcular - bir Google mühendisi de dahil olmak üzere, şirket içi bir notta - teknik olarak herkesin pazarda rekabet etmesine olanak tanıyan açık kaynaklı LLM'lerin varlığı nedeniyle bu korkunun abartıldığını savunuyor. Ancak piyasaya yeni giren küçük şirketler olsa bile, Büyük Teknoloji'nin hakimiyeti hala güvenli görünüyor. Açık kaynak modelleri ile Büyük Teknoloji şirketlerinin üçüncü taraflara sağladığı yapay zeka uygulama programlama arayüzü (API) hizmetlerini karşılaştıran yeni bir makale, ikincisinin çoğu kriterde çok daha iyi performans gösterdiğini ortaya koyuyor.
Belki de bu durum değişecektir. Ancak, şimdilik, önde gelen LLM'lerin performansı artan yatırımlarla iyileşmeye devam ediyor ve yeni ve beklenmedik yetenekler gösterebilecekleri devrilme noktalarına yaklaşıyor olabilirler. Derin cepler önemlidir.
Big Tech'in birçok ülkedeki gücü göz önüne alındığında, politika yapıcıların güçlü, etkili ve tutarlı yanıtlar geliştirmekte zorlanmaları şaşırtıcı değildir. Bazı ülkelerde, politika yapıcılar ve sektör liderleri şimdiden siyasi çekişmelerin içine girmiş durumdalar. Örneğin, Meta (Facebook) kısa bir süre önce Kanada hükümetinin platformların haber yayıncılarına tazminat ödemesi şartına yanıt olarak Kanada kaynaklı haber bağlantılarını engelledi. Benzer bir tartışma daha önce Avustralya'da da yaşanmış ve hükümet yanlış bilginin yayılmasına yardımcı oldukları gerekçesiyle online platformlara para cezası vermeyi planladığını açıklamıştı.
Birleşik Krallık'ta, çok eleştirilen bir "çevrimiçi güvenlik yasası" bazı teknoloji şirketlerinin pazardan tamamen çekilmekle tehdit etmesine yol açtı. Amerika Birleşik Devletleri'nde ise Kongre, önerilen Açık Pazarlar Yasası gibi rekabet yanlısı müdahaleleri değerlendirdi ve Biden yönetimindeki yeni aktivist antitröst yetkilileri Google, Amazon, Meta ve Apple'a karşı çeşitli davalar açtı.
Ancak bazı politika yapıcılar YZ hakkında derin bilgiye sahip olsa da, uzmanlıkları dar olma eğilimindedir ve diğer karar vericilerin çoğu konuyu mantıklı politikalar oluşturacak kadar iyi anlamamaktadır. Bu nispeten düşük bilgi tabanı ve düzenleyiciler ile düzenlenenler arasındaki kaçınılmaz bilgi asimetrisi nedeniyle, belirli konulara yönelik politika yanıtlarının yetersiz kalması, lobicilikten büyük ölçüde etkilenmesi veya oldukça tartışmalı olması muhtemeldir.
Peki, ne yapılması gerekiyor? Belki de en iyi seçenek daha çok ilkelere dayalı bir politika izlemektir. Bu yaklaşım, birçok uzman ve savunucunun Büyük Teknoloji şirketlerinin genel bir özen yükümlülüğüne sahip olması gerektiğine inandığı yanlış bilgilendirme ve trolleme gibi konular bağlamında halihazırda ivme kazanmıştır (yani dikkatli olma ve zararı azaltmaya yönelik varsayılan bir yönelim).
Bazı ülkelerde benzer ilkeler, doğruluk peşinde koşmak ve tarafsızlığı korumakla yükümlü olan haber yayıncıları için zaten geçerlidir. Bu alanlarda uygulama zor olsa da, sonuç olarak teknoloji sağlayıcılarından sosyal açıdan daha az zarar verici davranışlar elde etmek için zaten yasal bir dayanağımız var.
Rekabet ve piyasa hakimiyeti söz konusu olduğunda, telekom düzenlemeleri birlikte çalışabilirlik ilkesi ile kullanışlı bir model sunmaktadır. Telekom şirketlerinin ortak teknik standartlara ve karşılıklılık anlaşmalarına bağlı kalmaları gerektiğinden, rakip hizmet sağlayıcılara sahip kişiler birbirlerini arayabilirler. Aynı şey ATM'ler için de geçerlidir: bir ücrete tabi olabilirsiniz, ancak yine de herhangi bir bankadaki bir makineden nakit çekebilirsiniz.
Dijital platformlar söz konusu olduğunda, birlikte çalışabilirlik eksikliği genellikle kullanıcıları kilitlemek ve "hendekler" oluşturmak için tasarım gereği oluşturulmuştur. Bu nedenle veri erişiminin iyileştirilmesi ve öngörülebilir API'lere erişimin sağlanmasına ilişkin politika tartışmalarında herhangi bir ilerleme kaydedilememiştir. Ancak bazı birlikte çalışabilirliklerin yeniden tasarlanmaması için teknik bir neden yok. Sonuçta, Büyük Teknoloji şirketleri rakiplerini devraldıklarında edindikleri yeni hizmetleri entegre etmekte pek sorun yaşamıyor gibi görünüyor.
LLM'ler söz konusu olduğunda, birlikte çalışabilirlik muhtemelen modellerin kendileri düzeyinde uygulanamaz, çünkü yaratıcıları bile iç işleyişlerini anlamamaktadır. Ancak, LLM'ler ve bulut platformları gibi diğer hizmetler arasındaki etkileşimlere uygulanabilir ve uygulanmalıdır.
Örneğin Microsoft 365'e abone olduğumda, Microsoft'un Copilot veya GPT-4 eklentisini de kullanmaya zorlanmak yerine Google'ın PaLM2'sini kullanabilmeliyim. Bu ilke, Microsoft'un Internet Explorer'ı paketlemesine karşı 2001 yılında verilen önemli antitröst kararında ve yine Windows Media Player'ı paketlemesine karşı 2007 yılında verilen kararda ortaya konmuştur.
Aynı ilkelerin LLM'lere de uygulanmasına yönelik kesin bir taahhüt, piyasanın daha fazla yoğunlaşmasını önlemek için uzun bir yol kat edecektir. Yapay zeka toplum için vaat ettiklerini yerine getirecekse, herkes için geniş çapta erişilebilir olmalı ve serbest ve adil rekabetle gelen iyileştirmelere tabi olmalıdır.
Diane Coyle, Cambridge, 14 Ağustos 2023
(Cambridge Üniversitesi'nde Kamu Politikası Profesörü olan Diane Coyle, son olarak Cogs and Monsters kitabının yazarıdır: What Economics Is, and What It Should Be (Princeton University Press, 2021) adlı kitabın yazarıdır.)
***
IV- Yapay Zeka Çağı Eşitsizlik Sigortası Gerektiriyor- The AI Age Requires Inequality Insurance
"Yapay zeka devrimi neredeyse kesin olarak gelir eşitsizliklerinde bir artışa yol açacaktır. Gelişen teknolojinin servet uçurumunu genişletmemesini sağlamak için, hükümetler vergi sisteminde reform yapmalı, böylece bir eşitsizlik eşiği aşıldığında yüksek gelirliler için oranlar otomatik olarak artmalıdır."
Avrupa Birliği kanun koyucuları kısa bir süre önce yapay zekânın insanlık için yarattığı riskleri azaltmaya yönelik önemli bir düzenleme üzerinde geçici bir anlaşmaya vardı ve diğer ülkeler de AB'nin liderliğini takip etmeye hazır görünüyor. Ancak bu düzenleme, yapay zekanın getirebileceği en büyük felaketlerden biri olan kitlesel işsizlik ve gelir eşitsizliğinin keskin bir şekilde artması ihtimalini ele almıyor. Düzenleme, dünyanın YZ'nin potansiyel faydalarından, yani üretkenlikteki dramatik artışlardan ve muazzam zenginlik yaratımından yararlanmasını engellemeden bu riskleri ortadan kaldıramaz. Bu nedenle politika yapıcılar, bu felaketlerin meydana gelmesi durumunda vatandaşları tazmin edecek politikaları da yürürlüğe koymalıdır.
Açık olalım: YZ'nin düzenlenmesine karşı değiliz. Ancak selden zarar gören evleri korumak için iki yönlü bir yaklaşım benimsediğimiz gibi - deniz duvarları inşa etmek ve sel sigortası sağlamak - hükümetler de YZ'nin servet uçurumunu genişletmemesini sağlamak için eşitsizlik sigortası sunmalıdır. Gelecekteki yönetimlerin böyle bir programın şartlarını değiştirmesi mümkün olsa da, yaygın olarak deneyimlenen faydaların azaltılması siyasi olarak zor olacaktır.
Yazı çoktan duvara asıldı. Bu yıl Hollywood oyuncuları, altmış yılı aşkın bir süredir sektör genelinde yapılan ilk grevde senaristlere katıldılar ve ana taleplerinden biri de üretken yapay zekaya karşı güvencelerdi. Ancak YZ, doktorlardan avukatlara, taksi şoförlerinden kasiyerlere kadar her türden profesyonelin iş geleceğinde devrim yaratacak ve toplam çıktıdaki müteakip artışlar eşit olarak paylaşılmayacak. İcatları yapanlar ve sahip olanlar muazzam bir servet biriktirebilir ve bunun büyük bir kısmı işgücü maliyetlerinden tasarruf etmekten kaynaklanacaktır.
Yapay zekanın işgücünün büyük bir bölümünü hamburger çeviricisine dönüştüreceğine inanmak cazip gelebilir, ancak bu iş bile otomatikleştiriliyor. Belki de insanların sağlayabileceği başka düşük değerli hizmetler olacaktır. Olmazsa, kronik işsizlerin sayısı artacak. Her iki durumda da gelir eşitsizlikleri neredeyse kesin olarak derinleşecektir.
Politika yapıcılar, vergi sisteminde reform yaparak eşitsizlikte ortaya çıkan artışları sınırlayabilir, hatta önleyebilirler. Örneğin, eşitsizliğin belirli sınırları aşması halinde, yüksek gelirliler üzerindeki federal gelir vergisi oranları otomatik olarak artabilir. Eşitsizliğin daha da artmasını engellemek için, en üstteki %1'lik kesime uygulanan vergiler, bu kesimin vergi sonrası toplam ulusal gelirden aldığı payın hiçbir zaman mevcut seviyelerin üzerine çıkmamasını sağlayacak şekilde her yıl belirlenebilir.
Elbette, yapay zeka eşitsizlikte gerçekten yıkıcı artışlara neden olursa - örneğin, en tepedeki %1'lik kesim vergi öncesi gelirin tamamını elde ederse - vergi reformlarının başarabileceklerinin sınırları olabilir. En tepedeki %1'in vergi öncesi gelirin %20'sini kazandığı bir ülke düşünün - kabaca mevcut dünya ortalaması. Yapay zeka sayesinde bu grup sonunda tüm vergi öncesi geliri elde etseydi, bugünkü vergi öncesi gelir dağılımını elde etmek için gelirin %99'a vergi kredisi olarak yeniden dağıtılmasıyla birlikte %80 oranında vergilendirilmesi gerekirdi; hükümeti finanse etmek ve bugünkü vergi sonrası gelir dağılımını elde etmek için daha da yüksek bir oran gerekirdi. Bu kadar yüksek oranların çalışmayı caydırabileceği düşünüldüğünde, ahlaki tehlikeyi azaltmak için geleneksel bir sigorta poliçesinde muafiyete benzer şekilde kısmi eşitsizlik sigortasına razı olmamız gerekecektir.
Böylesine orantısız bir gelir dağılımı olası değildir ve daha az uç durumlarda, tam veya neredeyse tam eşitsizlik sigortası mümkün ve garantili olacaktır. Ancak bu düşünce deneyi, planımızın bir zayıflığını vurgularken - en felaketli durumlarda tam sigorta sağlayamaz - aynı zamanda vergi sistemine bir tür otomatik sigorta oluşturmanın önemine de işaret etmektedir. Sonuçta, çoğu insan ekonomik eşitsizliğin artması halinde %1'lik kesimin bugün olduğundan çok daha yüksek oranda vergilendirilmesi gerektiği konusunda hemfikirdir.
Yapay zekanın getirebileceği büyük işsizlikle başa çıkmak için, 1943'te Juliet Rhys-Williams'tan 2018'de ABD başkan adayı Andrew Yang'a kadar pek çok kişi, ne iş yaptıklarına bakılmaksızın herkes için garantili bir asgari temel gelir önerdi. Nobel ödüllü Edmund Phelps gibi diğer ekonomistler ise bunun yerine düşük gelirli aileler için negatif gelir vergisini genişleterek ya da kurumlar vergisi kesintilerini düzenleyerek ücretleri sübvanse etmeyi önerdiler. Her iki durumda da bu planlar finansman gerektirmektedir ve eşitsizlik sigortasının vergi sistemine dahil edilmesi uzun vadeli bir düzenleme olabilir.
Teklifimiz insanların kazanabileceği veya tasarruf edebileceği para miktarını sınırlamasa da, eşitsizlik sigortası kurmanın siyasi açıdan kolay olacağı yanılsamasına kapılmıyoruz. Ancak denememek için çok fazla şey tehlikede. ABD Yüksek Mahkemesi Yargıcı Louis Brandeis'in de belirttiği gibi, ya demokrasiye ya da azınlığın elinde yoğunlaşmış büyük bir servete sahip olabiliriz, ama ikisine birden sahip olamayız.
Teklifimizin iki yönü, onu geleneksel bir vergiden siyasi olarak daha uygulanabilir kılmaktadır. Birincisi, eşitsizlik sınırı mevcut seviyelerin üzerinde belirlenebilir - yani hemen tetiklenmeyecektir. Psikologlar insanların şimdiki zamandan ziyade uzak gelecek hakkında karar verirken daha idealist olduklarını göstermiştir. Seçmenler gelecekteki gelir dilimlerini bilmedikleri için, soyut ahlaki ilkelere dayanarak eşitsizlik sigortası lehine karar vermeleri muhtemeldir.
İkinci olarak, sigorta tetiklenirse, hak sahibi sınıf, yüksek marjinal oranı ödeyen en yüksek gelirlilerden sayıca çok daha fazla olacaktır. Aslında, %1'lik kesimden servet transferi, her ne kadar desteklerini almak için yüksek gelirlilerle paylaşılabileceği düşünülse de, gelir sahiplerinin alt yarısına gitmelidir. Sigorta devreye girdiğinde, mevzuat nihayetinde çoğu çalışan için vergileri düşürebilir.
Aşırı eşitsizliğe karşı sigorta sağlamak üzere vergi oranlarını açık bir şekilde tanımlamak, yirmi yıl önce birimiz bunu ilk kez önerdiğinde iyi bir fikirdi. Ancak bugün çok daha iyi bir fikir. Yapay zekanın faydalarından yararlanmak için, servet ve gelir eşitsizliklerinde potansiyel olarak yıkıcı bir artışa hazırlanmalıyız.
Ian Ayres, Aaron Edlin, Robert J. Shiller, New Haven, 27 Aralık 2023
(Ian Ayres, Yale Üniversitesi'nde Hukuk ve Yönetim Profesörüdür. Aaron Edlin, Berkeley'deki Kaliforniya Üniversitesi'nde Ekonomi ve Hukuk Profesörüdür. 2013 Nobel Ekonomi Ödülü sahibi Robert J. Shiller, Yale Üniversitesi'nde Ekonomi Profesörü ve ABD konut fiyatları Case-Shiller Endeksi'nin ortak yaratıcısıdır. Irrational Exuberance, Phishing for Phools kitaplarının yazarıdır: The Economics of Manipulation and Deception (George Akerlof ile birlikte) ve Narrative Economics: How Stories Go Viral and Drive Major Economic Events kitaplarının yazarıdır.)
***
V- İklim Biliminde Yapay Zeka Devrimi- The AI Revolution in Climate Science
"Dijital devrimin ve hızla değişen doğal çevrenin sonuçlarıyla boğuşurken, yapay zeka, kavrayışımızı aşan karmaşıklığın bir kısmını çözmenin anahtarını elinde tutabilir. Ancak araştırma araçlarının endüstrinin elinde olmasıyla birlikte, politika yapıcıların yeni araçların kamu yararı sağlamasını temin etmeleri gerekecektir."
Dünya biliminde bir paradigma değişiminin başlangıcına tanık olduk. Temmuz ayında Nature dergisinde yayınlanan bir makale, bir sinir ağının (yapay zeka) hava durumunu dünyanın en gelişmiş tahmin sistemine sahip olan Avrupa Orta Menzilli Hava Tahminleri Merkezi'nden daha iyi tahmin ettiğini gösterdi. Ardından Kasım ayında Google'ın DeepMind şirketi, hava tahmini yapan yapay zekasının daha da güçlü tahminler ürettiğini duyurdu.
Hava tahminine geleneksel yaklaşım, fiziksel ilkelere dayalı denklemler için başlangıç koşulları olarak zamanın bir noktasında alınan gözlemleri kullanmaktır. Buna karşılık, bir yapay zeka uzun süreler boyunca toplanan verileri alır ve ardından geleneksel denklemlerin açıkça tanımlaması gereken dinamikleri "öğrenir". Hem geleneksel hem de YZ tabanlı yöntem süper bilgisayarlara dayanır, ancak YZ'nin resmi olarak geliştirilmiş teorilere ihtiyacı yoktur.
Hava tahmini, uçakların ne zaman ve nerede uçacağını, gemilerin hangi rotaları izleyeceğini belirler ve değişken bir ortamla birlikte gelen her türlü sivil ve askeri riskin yönetilmesine yardımcı olur. Bu önemli. Bu alandaki yapay zeka uygulamaları için henüz erken olsa da ve diğer sektörlerde olduğu gibi üzerinde çalışılması gereken çok şey olsa da, sinir ağları dinamik meteoroloji bilgisi gerektirmediğinden (Nature makalesinin yazarları böyle bir geçmişe sahip olmayan mühendislerdir) yapay zeka odaklı tahminler vasıflı işgücünün yerini alabilir. Ancak çıkarımlar burada bitmiyor.
1950'lerde istatistiksel tahmin sorunu hakkında yazan sibernetiğin babası Norbert Wiener, belirli özellikler sergileyen bir sistemin geçmişini zaten biliyorsak, dinamiklerini yöneten denklemler hakkında bilgi eklemenin tahminlerimizi mutlaka iyileştirmeyeceğine işaret etti. Wiener büyük ölçüde teorik bir noktaya değiniyordu, çünkü gözlemler, veriler, hesaplama gücü ve diğer faktörlerdeki sınırlamalar o zamanlar başka bir şeye izin vermiyordu. Ancak şimdi, onun argümanı, yapay zekadaki son gelişmelerin daha geniş etkilerini yakalayarak konunun kalbine vuruyor.
Sadece son birkaç yılda, Dünya'ya ilişkin gözlemsel verilerimizi büyük ölçüde arttırdık. 1993 ve 2003 yılları arasında Dünya'yı gözlemleyen sadece 25 uydu uzaya fırlatıldı; ancak 2014 ve 2022 yılları arasında bu sayı 997'ye yükseldi ve şu anda yörüngede bulunan Dünya'yı gözlemleyen ve diğer uyduların toplam filosu yaklaşık 7.560'a ulaştı. Bitki büyümesi, su buharı ve altyapı kurulumlarından kızılötesi radyasyon, gölgelik yüksekliği ve atmosferin durumuna ilişkin ölçümlere kadar hemen her konuda veri gönderen geniş bir uzay altyapısıyla, Dünya gözleminin altın çağına girmiş bulunuyoruz.
Bu büyüyen veri arşivi, hem bizim hem de doğanın Dünya üzerinde yaptığı neredeyse her şeyi tanımlıyor. Yeni yapay zeka modelleri ve sürekli genişleyen hesaplama altyapımızla birleştiğinde, gezegene ve onun üzerindeki rolümüze dair anlayışımızı altüst edebilir.
İklim değişikliğini düşünün. Son 40 yıldır, insanlığın iklim krizine tepkisi, disiplinlere göre bölümlere ayrılmış bir bilimsel organ olan Hükümetlerarası İklim Değişikliği Paneli tarafından yönlendirilmektedir: fizik bilimleri, hava tahmininde kullanılanlarla çok ortak olan büyük Dünya sistemi modellerini kullanırken, ekonomistler ve coğrafyacılar ayrı ayrı etkiyi ölçmekte ve toplumlarımız üzerindeki adaptasyon ve azaltma politikalarının rolüne odaklanmaktadır.
IPCC'nin üçlü çalışma gruplarına da yansıyan bu iş bölümü, metodolojilerdeki bir bölünmeye karşılık gelmektedir. Fizik temelli Dünya sistemi modelleri ilk prensip denklemlerinden yola çıkarken, ekonomistler ve etki modelcileri ampirik yöntemler ve indirgenemez teorilerden oluşan bir portföy kullanmaktadır.
Yapay zeka tüm bunları altüst edebilir. Geleneksel iklim modellemesinin yerini tamamen alması pek olası olmasa da - gözlemsel kayıtlarımız yüzyıllar boyunca iklim olaylarının istatistiksel olarak bol bir resmini sunacak kadar uzun değil - şimdiden bu alanda önemli bir rol oynuyor.
Daha da önemlisi, bizim için en önemli olan iklim sisteminin nasıl davrandığı değil, bizim ve diğer canlıların yaşadığı dünyayı nasıl etkilediğidir. Yapay zeka modelleri - mevcut bilimsel teorilerden veya disipliner paradigmalardan bağımsız olarak - arazideki biyokütlenin zaman içinde nasıl değiştiğini çıkarmamıza ve muhtemelen tahmin etmemize yardımcı olabilir. Bu da ormanları ve tarımı yönetme şeklimizi iyileştirebilir, yangın veya sel riski için teşhis araçları ve erken uyarı sistemleri oluşturabilir, enerji ekonomisinin bu değişikliklerle nasıl bağlantılı olduğunu anlayabilir veya bunların daha geniş ekonomi ve hatta iklim müzakereleri üzerindeki etkilerini tahmin edebilir. Ve tüm bunlar, yapay zekanın düşük karbonlu ekonomiye geçişi nasıl hızlandırabileceğinin üzerine gelecektir.
Elbette yapay zeka bilimsel anlayışın yerini tutamaz. Bilim, değerin sadece verilerden bir cevap çıkarmaktan ziyade doğru soruyu sormakta yattığı, özünde insani bir uğraş olmaya devam edecektir. Bununla birlikte, YZ'nin yükselişinin müjdelediği epistemolojik değişimden en iyi şekilde yararlanmaya çalışmalıyız. Şimdiye kadar disipliner merceklerden kaçan yeni gözlemlenebilir olguları tanımlamamıza yardımcı olabilir. Teorileştirmeye elverişli olamayacak kadar karmaşık olan peyzaj ölçekli sistemlerin yönetiminde bize yardımcı olabilir. Disiplin sınırlarını yıkmak için nihai keşif aracıdır.
Bu değişim aynı zamanda derin bir politika sorununu da beraberinde getirmektedir. Bunu sağlayan altyapı - Dünya'yı gözlemleyen uydular ve hesaplama - giderek daha fazla özel sektör tarafından kontrol ediliyor. Dünya gözlem uydularının en büyük sahibi Planet Labs adlı bir şirkettir. IBM ve Nvidia'dan DeepMind ve Huawei'ye (çalışanları Temmuz Nature makalesini yazdı) kadar yüksek teknoloji şirketleri makine öğreniminin sınırında yer alıyor. Benzersiz sermaye ve kaynaklara erişimi olan bu şirketler, çoğu kamu araştırma merkezini kolayca geride bırakabilir. Bazıları oldukça hayırsever olabilir, ancak sonuçta kamu malları sağlama veya altyapılarına eşit erişim konusunda endişelenme yükümlülükleri yoktur.
Dijital devrimin ve gözlerimizin önünde değişen doğal çevrenin sonuçlarıyla boğuşurken, yapay zeka, kavrayışımızı aşan karmaşıklığın bir kısmını çözmenin anahtarını elinde tutabilir. Ancak araştırma araçlarının tamamen özel ellerde olması nedeniyle, politika yapıcıların bu yeni araçların sadece özel faydalardan ziyade kamu malları sağlamasını ve sorulan soruların ülkelerin meşru politika hedeflerini bilgilendiren cevaplar üretmesini sağlamak için dikkatli olmaları gerekecektir.
Giulio Boccaletti, Londra, 8 Ocak 2024
(Avrupa-Akdeniz İklim Değişikliği Merkezi Bilimsel Direktörü Giulio Boccaletti, Water (Su) kitabının yazarıdır: A Biography (Pantheon Books, 2021) ve Siccità (Mondadori, 2023) kitaplarının yazarıdır.)
***
VI- Küresel Yapay Zeka Yönetişimi Ne Yapmalı?- What Global AI Governance Must Do
"Yapay zekanın küresel potansiyelini gerçekleştirebilmesi için, evrim geçirerek günlük yaşamın bir parçası haline geldikçe tüm insanlığın gelişmesine yardımcı olacak yeni yapılara ve korkuluklara ihtiyaç vardır. Riskler ve zorluklar bölgelere ve bağlamlara göre farklılık gösterse de, beş temel ilke politika oluşturmaya rehberlik etmelidir."
Yapay zeka onlarca yıldır sessizce bize yardım ediyor olsa da, son yıllarda hızlanan ilerlemeyle birlikte, 2023 bir "büyük patlama" anı olarak hatırlanacak. Üretken yapay zekanın ortaya çıkışıyla birlikte, teknoloji popüler bilinci kırdı ve kamusal söylemi şekillendiriyor, yatırım ve ekonomik faaliyetleri etkiliyor, jeopolitik rekabeti ateşliyor ve eğitimden sağlık hizmetlerine ve sanata kadar her türlü insan faaliyetini değiştiriyor. Her hafta nefes kesici yeni bir gelişme yaşanıyor. Yapay zeka ortadan kalkmıyor ve değişim hızlanıyor.
Yeni düzenleyici inisiyatiflerin başlatılması ve anı karşılamaya çalışan forumlarla politika oluşturma da neredeyse aynı hızla ilerliyor. Ancak G7, Avrupa Birliği ve Amerika Birleşik Devletleri'nin devam eden çabaları cesaret verici olsa da, bunların hiçbiri küresel müşterekleri temsil eden evrensel değildir. Aslında, sadece birkaç ülkedeki bir avuç CEO ve piyasa aktörü tarafından yönlendirilen yapay zeka gelişimi ile, özellikle Küresel Güney'den gelen çoğunluğun sesleri yönetişim tartışmalarında yer almadı.
YZ'nin ortaya çıkardığı benzersiz zorluklar, yönetişim için koordineli bir küresel yaklaşım gerektirmektedir ve sadece bir kurum böyle bir yanıtı organize etmek için gereken kapsayıcı meşruiyete sahiptir: Birleşmiş Milletler. YZ'nin potansiyelinden yararlanmak ve risklerini azaltmak istiyorsak, YZ yönetişimini doğru bir şekilde ele almalıyız. Bu düşünceyle, BM YZ Üst Düzey Danışma Kurulu, küresel yönetişim açığını ele almak için analiz ve öneriler sunmak üzere kurulmuştur. Dünyanın dört bir yanından gelen, farklı coğrafyaları, cinsiyetleri, disiplinleri ve yaşları temsil eden ve hükümet, sivil toplum, özel sektör ve akademiden uzmanlık alanlarına sahip 38 kişilik bir gruptan oluşmaktadır.
Danışma Kurulu'nun Yürütme Komitesi'nde görev yapmaktan dolayı kendimizi ayrıcalıklı hissediyoruz. Bugün, grubun YZ yönetişimini desteklemek ve birbiriyle ilişkili çeşitli zorlukları ele almak için beş ilke öneren ara raporunu yayınladık.
İlk olarak, riskler çeşitli küresel bağlamlarda farklılık gösterdiğinden, her biri buna göre uyarlanmış çözümler gerektirecektir. Ancak bu, hak ve özgürlüklerin belirli tasarım, kullanım (ve yanlış kullanım) ve yönetişim seçimleriyle nasıl tehlikeye atılabileceğini kabul etmek anlamına gelir. YZ'yi yapıcı bir şekilde uygulayamamak - "gözden kaçan kullanımlar" olarak adlandırdığımız - mevcut sorunları ve eşitsizlikleri gereksiz yere daha da kötüleştirebilir.
İkincisi, YZ ekonomik, bilimsel ve sosyal kalkınma için bir araç olduğundan ve insanlara günlük yaşamda zaten yardımcı olduğundan, kamu yararına yönetilmelidir. Bu da eşitlik, sürdürülebilirlik, toplumsal ve bireysel refahla ilgili hedeflerin yanı sıra rekabetçi piyasalar ve sağlıklı inovasyon ekosistemleri gibi daha geniş yapısal konuları da göz önünde bulundurmak anlamına gelmektedir.
Üçüncü olarak, YZ'nin küresel yönetişim zorluklarını etkili bir şekilde ele almak için farklı bölgelerde ortaya çıkan düzenleyici çerçevelerin uyumlaştırılması gerekecektir. Dördüncü olarak, YZ yönetişimi, temsilciliği sürdürmek ve gizliliği ve kişisel verilerin güvenliğini korumak için önlemlerle el ele gitmelidir. Son olarak, yönetişim, BM Şartı, uluslararası insan hakları hukuku ve Sürdürülebilir Kalkınma Hedefleri gibi geniş bir küresel fikir birliğinin olduğu diğer uluslararası taahhütlere dayanmalıdır.
Bu ilkeleri YZ bağlamında teyit etmek, bazı inatçı zorlukların üstesinden gelmeyi gerektirmektedir. YZ, büyük miktarlarda bilgi işlem gücü, veri ve elbette belirli insan yetenekleri üzerine inşa edilmiştir. Küresel yönetişim, her üçünün de nasıl geliştirileceğini ve geniş çaplı erişimin nasıl sağlanacağını düşünmelidir. Ayrıca, özellikle Küresel Güney için güvenilir geniş bant ve elektrik gibi YZ ekosisteminin temelini oluşturan temel altyapı için kapasite oluşturmayı da ele almalıdır.
YZ'nin geliştirilmesinden, konuşlandırılmasından veya kullanılmasından kaynaklanabilecek hem bilinen hem de henüz bilinmeyen risklerle yüzleşmek için daha fazla çabaya ihtiyaç vardır. YZ riski hararetle tartışılan bir konudur. Bazıları insanlığın nihai sonu senaryolarına odaklanırken, diğerleri burada ve şimdi insanlara verilen zararlar konusunda daha endişelidir; ancak yönetilmeyen YZ risklerinin kabul edilemez olduğu konusunda çok az anlaşmazlık vardır.
İyi yönetişim sağlam kanıtlara dayanır. Vatandaşlara ve hükümetlere politika ve düzenlemeler için sağlam bir temel sağlamak amacıyla YZ'nin durumu ve gidişatı hakkında objektif değerlendirmelere ihtiyaç olduğunu öngörüyoruz. Aynı zamanda, YZ'nin toplumsal etkisini değerlendirmek için analitik bir gözlemevi - iş değiştirmeden ulusal güvenlik tehditlerine kadar - politika yapıcıların YZ'nin çevrimdışı olarak yönlendirdiği muazzam değişikliklere ayak uydurmasına yardımcı olacaktır. Uluslararası toplumun, potansiyel olarak istikrarı bozucu olayları izleyerek ve bunlara müdahale ederek (büyük merkez bankalarının finansal krizler karşısında yaptığı gibi) ve hesap verebilirliği ve hatta yaptırım eylemini kolaylaştırarak kendi kendini denetleme kapasitesini geliştirmesi gerekecektir.
Bunlar, geliştirmekte olduğumuz önerilerden sadece birkaçıdır. Bunlar bir tavan değil, bir taban olarak görülmelidir. Her şeyden öte, daha fazla insanın bize ne tür YZ yönetişimi görmek istediklerini söylemeleri için bir davettir.
YZ küresel potansiyelini gerçekleştirecekse, gelişirken hepimizin gelişmesine yardımcı olacak yeni yapılara ve korkuluklara ihtiyaç vardır. YZ'nin güvenli, adil ve hesap verebilir bir şekilde gelişmesinde herkesin payı vardır. Eylemsizliğin riskleri de açıktır. Küresel YZ yönetişiminin, bu teknolojinin bugün ve gelecek nesiller boyunca her devlet, topluluk ve birey için sunduğu önemli fırsatlardan yararlanmak ve riskleri yönetmek için gerekli olduğuna inanıyoruz.
(Carme Artigas, James Manyika, Ian Bremmer ve Marietje Schaake BM Yapay Zeka Üst Düzey Danışma Kurulunun Eş Başkanları ve Raportörleridir.)
Carme Artigas, James Manyika, Ian Bremmer, Marietje SChaake, New York, 21 Aralık 2023
(İspanya Dijitalleşme ve Yapay Zekâdan sorumlu Devlet Bakanı Carme Artigas, BM Yapay Zekâ Üst Düzey Danışma Kurulu Yürütme Komitesi üyesidir. Google/Alphabet Araştırma, Teknoloji ve Toplum Kıdemli Başkan Yardımcısı James Manyika, BM Yapay Zeka Üst Düzey Danışma Kurulu Yürütme Komitesi üyesidir. Eurasia Group ve GZERO Media'nın Kurucusu ve Başkanı olan Ian Bremmer, BM Yapay Zeka Üst Düzey Danışma Kurulu Yürütme Komitesi üyesidir. Eski bir Avrupa Parlamentosu üyesi olan Marietje Schaake, Stanford Üniversitesi Siber Politika Merkezi Politika Direktörü ve CyberPeace Enstitüsü Başkanıdır. BM Yapay Zeka Üst Düzey Danışma Kurulu Yürütme Komitesi üyesidir.)
Eyüp Kaan, 01.02.2024, Sonsuz Ark, Çevirmen Yazar, Sonsuz Ark Çevirileri,
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.