Sonsuz Ark/ Evrensel Çerçeveye Yolculuk
Pentagon CIO and CDAO: Don’t pause generative AI development -accelerate tools to detect threats
"Bazıları altı aylık bir duraklamayı savundu; ki ben şahsen bunu savunmuyorum, çünkü eğer durursak bilin bakalım kim durmayacak: denizaşırı ülkelerdeki potansiyel düşmanlar. Hareket etmeye devam etmeliyiz," diyor Pentagon (DOD) CIO'su John Sherman.
İki üst düzey Pentagon yetkilisi, yakın zamanda vahşi doğada serbest bırakılan üretken yapay zeka yeteneklerinin sorumsuzca zarar vermek için kullanılmasına ilişkin meşru endişeleri kabul etmelerine ve paylaşmalarına rağmen, insanların bu teknoloji ve potansiyel sonuçları hakkında daha fazla bilgi edinebilmeleri için teknolojinin gelişiminin geçici olarak durdurulması çağrısında bulunan ve giderek büyüyen uzman hareketinin bir parçası olmadıklarını doğruladı.
Google Bard üretken yapay zeka dil modelini (chatbot) kullanan bir kişinin iPhone tutan eli, hızlı giriş alanı, Lafayette, Kaliforniya, 22 Mart 2023. (Fotoğraf: Smith Collection/Gado/Getty Images)
Ses, yazılım kodu, görüntü, metin, video ve diğer medyaları üretebilen büyük dil modelleri - insanlar onlardan bunu yapmalarını istediğinde - üretken yapay zeka olarak bilinen çılgınca popüler yeni teknoloji alt alanını oluşturuyor. ChatGPT, Bing AI ve Bard başlıca markalardan bazılarıdır.
Yapay zeka destekli bu araçlar, çalışanlara yardımcı olmak ve Amerikan iş piyasasını potansiyel olarak altüst etmek için çok şey vaat ediyor. Bununla birlikte, teknoloji çok hızlı bir şekilde geliştiğinden, bazı üreticileri ve diğer önde gelen teknoloji uzmanları, Yapay Zeka (AI) satıcılarının ve düzenleyicilerin kullanımını korumanın yollarını bulmaları için biraz zamana sahip olmalarına izin verebilecek bir moratoryumu savunuyorlar.
"Bazıları altı aylık bir duraklamayı savundu - ki ben şahsen bunu savunmuyorum, çünkü eğer durursak bilin bakalım kim durmayacak: denizaşırı ülkelerdeki potansiyel düşmanlar. Hareket etmeye devam etmeliyiz" diyen Savunma Bakanlığı Bilgi İşlem Şefi John Sherman Baltimore'da düzenlenen AFCEA TechNet Cyber konferansında konuştu.
Bu etkinlikteki ayrı bir açılış konuşmasında, Savunma Bakanlığı'nın açılış Dijital ve Yapay Zeka Şefi Craig Martell de bu düşünceyi yineledi.
"Bu çok tuhaf bir dünya. Etik, felsefe ve teknoloji şu anda korktuğumuz ama daha önce hiç olmadığı bir şekilde çarpışıyor," dedi Martell. "Bu alanda liderliği sürdürmek için mutlak bir baskı altındayız. ... Altı ay öncesini düşünün - eğer altı ay boyunca durursak, bu liderliği kaybedeceğiz. Bunu kesinlikle söylüyorum."
Bu görüş, "bu geceki savaş" olarak adlandırdığı şey hakkındaki düşünceleri için de geçerlidir. Ancak Martell, ileriye dönük olarak Pentagon'un aynı zamanda yatırım yapması ve "filozofları, etikçileri ve teknoloji uzmanlarını nasıl ve ne zaman kullanacakları konusunda" daha düşünceli hareket etmesi gerektiğini de sözlerine ekledi.
Savunma Bakanlığı'nın yapay zeka ve makine öğrenimini geniş bir alana yayılan kuruluşunda tam olarak hayata geçirme yolculuğu henüz oldukça yeni.
2021 yılında bakanlık, Advana, Chief Data Officer, Defense Digital Service ve Joint Artificial Intelligence Center'ın eski bileşen organizasyonlarını yeni kurulan Chief Digital and AI Office (CDAO) bünyesine yerleştiren büyük bir organizasyonel yeniden yapılanma planlarını açıkladı.
Martell Çarşamba günkü konferansta şakacı bir şekilde "İşi 10 ay önce aldım ve hâlâ ne olduğundan %100 emin değilim" dedi.
Bu noktada ekibinin, Savunma Bakanlığı yetkililerinin kurumun cephaneliğindeki devasa hacimlerden kaliteli verilere ve tüm bunları anlamlandırmak için güçlü analitik araçlara erişebilmelerini sağlamak için çok fazla enerji harcadığını söyledi.
"Yapay zekaya yönelik duyduğum taleplerin büyük çoğunluğu temiz veri ve bir gösterge tablosu ile çözülüyor. İnsanlar sadece çalışanlarının nerede olduğunu bilmek istiyor. İnsanlar lojistik durumlarının ne olduğunu bilmek istiyor. İnsanlar kaç tane tank olduğunu, nerede olduklarını ve hazır olma durumlarının ne olduğunu bilmek istiyor. Bu yapay zeka değil. Yani artık her şeye yapay zeka dediğimiz için buna da yapay zeka diyoruz ama bu sadece iyi bir gösterge paneli ve net ölçütler içeren kaliteli veriler."
Yine de, Pentagon'da halihazırda sofistike yapay zeka ve makine öğrenimi yeteneklerini kullanma ihtiyacını içeren birkaç kullanım durumu var. Savunma Bakanlığı'ndaki mevcut deneyiminden ve daha önce Lyft'te makine öğreniminin eski başkanı olarak edindiği tecrübelerden yola çıkan Martell, genel olarak üretken yapay zeka ve bunun düşmanlar tarafından potansiyel kullanımı hakkında "çok sayıda korkuya" işaret etti.
"Ölümüne korkuyorum; bu benim fikrim," dedi.
"[Üretken yapay zekayı] kullanma konusundaki korkum Elon Musk'ın ya da Geoff Hinton'ın (Google'dan yeni ayrıldı) korkusu değil. Her ikisi de [Terminatör film serisindeki] Skynet gibi bir şeyin yolda olduğuna dair korkularını dile getirdiler. Benim korkum bu değil. Benim korkum, hizmet sağlayıcıların doğru önlemleri almadan ve bizim bunu doğrulamamızı sağlamadan buna çok fazla güvenmemiz," diye açıklama yaptı Martell.
Özünde, ChatGPT ve rakipleri gibi büyük dil modelleri, insan kelime istemlerine dayalı olarak dizilerdeki sonraki kelimeleri tahmin ederler. Martell, gelişmiş yapay zekanın "akıl yürütmediğini" ya da esasen işlediği kelimelerle ilgili gerçekleri veya bağlamı anlamadığını vurguladı.
Martell, görüşlerini daha da açıklamak için, yakın zamanda üretken bir yapay zeka ürünüyle çalışan bir muhabirle ilgili "biraz rahatsız edici bir hikaye" olduğunu belirttiği bir anısını paylaştı.
Muhabir, ilk randevu deneyimini yaşamak üzere olan bir kız gibi davranıyor ve bu senaryoda ChatGPT'den tavsiye ve neler bekleyebileceğini soruyordu. Martell, ilk başta modelin "daha özel hale getirmek" için çiçek ya da müzik önerdiğini belirtti.
"Ve sonra kız 13 yaşında olduğunu açıklıyor; tamam, zaten korkunç. Benim 12 yaşında bir kızım var, yani bu olabildiğince korkutucu. Ama etkileşime girmeye devam ediyor, ona nasıl özel bir gece geçirebileceği konusunda tavsiyeler veriyor. Sonra diyor ki 'Oh, ve o çok daha yaşlı. 45 yaşında ve çok fazla deneyim getirecek. Sonra ChatGPT 'Bu harika. Bu deneyim geceyi sizin için gerçekten özel kılacak,' diyor." diye ekledi Martell.
Bu tür model ve sistemlerin, insanların kabul ettiği diğer pek çok kavramın yanı sıra, insani açıdan ne kadar korkunç veya yasadışı etkileşimler olabileceğini anlamak için tasarlanmadığını belirtti.
"Az önce size o konuşmadan bahsettiğimde; hepiniz '13' kelimesinden ürktünüz ve hepiniz '45' kelimesinden aşırı ürktünüz, çünkü bu bizim getirdiğimiz bağlamdır. 13 yaşındaki bir çocuk bu bağlama sahip olmayacaktır" dedi.
Bu anlamda Martell, insanların doğruluk ve bağlam gibi yetenekleri, açıkçası bu şeylerin hiçbirini anlamayan veya "umursamayan", ancak yapabilecekmiş gibi görünen bir şekilde akıcı ve ikna edici bir şekilde iletişim kuran bu makinelere nasıl kazandırabileceği konusunda endişeli.
"Kendi psikolojimizi şöyle düşünmeye itiyor: 'Oh, bu şey otoriter. Buna inanmalıyım. Söylediklerine göre hareket etmeliyim," dedi Martell.
CDAO, konferanstakilere bakanlığın bu artan endişeyle yüzleşmesine yardımcı olmaları için kendi "eylem çağrısını" dile getirdi.
"Dinleyiciler arasındaki herkesin, birilerinin bizi yönlendirmek için [üretici yapay zekayı] kullandığını nasıl tespit edebileceğimiz konusunda çok düşünmesini - ve bilim insanlarınızın da çok düşünmesini - istiyorum" dedi.
Ona göre, ortaya çıkan bu araçlar esasen doğrulanabilecek, izlenebilecek ve kötüye kullanım olasılıklarını gerçekten belirleyebilecek şekilde oluşturulmalıdır.
Sherman ayrıca hükümet yetkililerini bu teknolojiye yönelik "dikkatli" bir izleme yaklaşımı benimsemeye teşvik etti.
Aynı zamanda, her iki üst düzey teknoloji yetkilisi de yakın gelecekte bilgi edinme alanı gibi, yeteneklerin denenmesinin oyunun kurallarını değiştirebileceği bazı alanlardan bahsetti.
Martell, "Bilgisayarınızla konuşma çağı neredeyse geldi," dedi.
Sherman, "Dikkatli olalım. Kolektif bir girişim olarak bu heyecan verici. Burada gerçek bir ilerleme var; bundan çekinmeyelim, bunun üzerine eğilmeliyiz." dedi.
Brandi Vincent, 3 Mayıs 2023, DefenseScoop
(Brandi Vincent, DefenseScoop'un Pentagon muhabiridir. Savunma Bakanlığı ve personelini etkileyen yeni ve yıkıcı teknolojiler ve ilgili politikalar hakkında raporlar hazırlamaktadır. Scoop News Group'a katılmadan önce Brandi uzun metrajlı bir belgeselin yapımcılığını üstlenmiş ve Nextgov, Snapchat ve NBC Network'te gazeteci olarak çalışmıştır. Ulusal Basın Vakfı tarafından 2021 Paul Miller Washington Üyesi seçildi ve SIIA'nın 2020 Jesse H. Neal Award for Best News Coverage ödülüne layık görüldü. Brandi Louisiana'da büyüdü ve Maryland Üniversitesi'nden gazetecilik alanında yüksek lisans derecesi aldı.)
Seçkin Deniz, 16.06.2023, Sonsuz Ark, Çeviri, Çeviri ve Yansımalar
Bilgi Notu:
AI: Artificial intelligence: Yapay Zeka
AGI: Artificial General Intelligence-:Yapay Genel Zeka (Genel Yapay Zeka)
CIO: Bilişim Kurulu Başkanı veya BT Lideri, bir şirketin bilgi teknolojisi alanında en önde gelen çalışanını tanımlamak amacıyla kullanılan bir terimdir.
CDAO: ABD Savunma Bakanlığı-Pentagon'un Baş Dijital ve Yapay Zeka Ofisi
- Sonsuz Ark'ta yayınlanan yazılardan yazarları sorumludur.
- Sonsuz Ark linki verilerek kısmen alıntı yapılabilir.
- Sonsuz Ark yayınları Sonsuz Ark manifestosuna aykırı yayın yapan sitelerde yayınlanamaz.
- Sonsuz Ark Yayınlarının Kullanımına İlişkin Önemli Duyuru için lütfen tıklayınız.