Christian Katzenbach, meslektaşı Jascha Bareis ile birlikte, Fransa, Britanya, ABD ve Çin gibi ülkelerin Küresel Yapay Zekâ yarışına iştirak etmek için geliştirdiği stratejileri karşılaştıran bir proje üzerinde çalıştı. Araştırmacı ve yazar Nicolas Nova, Lyon şehrinin farklı yapay zeka stratejileri ve bunların yapay zeka imgelemine etkilerine dair talep ettiği bir rapor çerçevesinde onunla bir röportaj gerçekleştirdi. Röportajın orijinal Fransızca versiyonu raporda ve Millénaire 3 isimli dergide yayımlandı.
NN: Bir araştırmacı olarak kendinizi tanıtır mısınız? Ne üzerine çalışıyorsunuz? Yapay zeka politikaları ve ulusal vizyonlara dair projenizin odak noktası neydi?
CK: Medya ve iletişim, felsefe, bilgisayar bilimleri ve bilim ve teknoloji çalışmaları (STS) okuduktan sonra, teknoloji, iletişim ve siyasetin dolanıklıklarına dair disiplinlerarası bir araştırma gündemi geliştirdim. Bu bakış açısından, platform idaresi, algoritmik karar-alma, iletişim dinamikleri, kamusal alanın oluşumu ve medya ve internet idaresi alanlarında çalışıyorum.
Son yıllarda yapay zekaya dönük atılım ilgimi çekmeye başladı, her alanda böyle bir atılım var adeta: medyada, iş dünyasında, siyasette, araştırmada. Yapay zekâ, bir an çok çeşitli şeyi çerçevelendirmek için kullanılan bir replik oldu sanki. Önyargı, adalet, faillik ve şeffaflık üzerine tartışmalar da algoritma mefhumundan yapay zekâ mefhumuna pek öyle ciddi bir değişim olmaksızın kaydı sanki. Politika raporlarının -Çin Komünist Partisi, Beyaz Saray, Fransız Parlamentosu gibi kurumların yazdığı strateji belgeleri, planlar ve politikalar- ve devlet temsilcilerinin kamusal söylemlerinin incelenmesine dayanarak, üst düzey araştırma merkezi ve ekonomik açıdan rekabetçi önderler olma yönünde ülkeler arasında ortaklıklar tespit ettik. Öte yandan odak, yaklaşım ve değerler açısından farklar vardı ve bunlar bilinen ulusal anlatılara bile değiyordu.
“AI” terimi (Yapay Zeka) gerçekten de pek çok anlamı ifade ediyor, incelediğiniz farklı ülkelerde ele alınma şeklinde farklılıklar gördünüz mü?
Bir terim olarak “AI” gerçekten de çok çeşitli biçimlerde kullanılıyor, bu yüzden semantik açıdan pek çok varyasyon var bu varyasyonlar hem incelediğimiz ülkeler içinde hem de farklı ülkeler arasında görülüyor. Yapay zekanın genel olarak çerçevelendirilmesinde ve sosyal, siyasi ve ekonomik konularla ilişkilerinde çarpıcı farklar teşhis ettik. Örneğin Emmanuel Macron’un 2018’de sunduğu Fransız AI stratejisinin adı “İnsanlık için AI” ve “yeni bir Rönesans”la sıkı sıkıya bağlantılı olduğu iddia ediliyor, AI’ya “Prometheuscu bir vaat” diyor ve bu alanda güçlü düzenleyici devletin rolünü, AI’nın “kamusal menfaat” olması gerektiğini vurguluyor. “Fransa’da araştırma potansiyelini artırmak” için Macron, kamusal araştırma enstitülerini güçlendirme niyetinden bahsetti (belli başlı kamu-özel araştırma ortaklıklarına ek olarak), ayrıca ulusal iş birliği içerisinde, Fransa’da dört-beş kurumun dahiliyetiyle işleyen bir araştırma merkezi kurma amacından da bahsetti. Toplamda, Macron, başkanlık süresinde yapay zekaya 1.5 milyar avro harcamayı planlıyor, bunun büyük bir kısmı araştırma ve endüstri projelerine tahsis edilecek.
ABD’nin ulusal stratejisi ise aksine serbestleşme ve rekabetçi avantajlara dayanıyor. “Nerede, ne zaman olursa, elden geldiğince” AI yeniliklerinin önündeki engelleri kaldırmayı amaçlıyor bu politika. ABD hükümeti, hükümet, endüstri ve akademinin ortak gücünü, diğer uluslar karşısında rekabet avantajı sağlamak üzere teşvik etmek istiyor. Somut olarak, strateji belgesi uyarınca, ABD, otonom sürücülük, ticari ve kamusal drone operasyonları ve tıbbi teşhis çerçevesinde mevzuatın çerçevesini esnetti. Trump hükümeti, Araştırma ve Geliştirme (ARGE) alanında ve özel sektörde, “AI alanında dünya lideri” olmaya devam etme amacını vurguladı, bu uğurda 2015 yılından itibaren AI üzerine tasnif dışı ARGE yatırımlarını %40’ın üzerinde artırdı (2015’te bu oran 1.1 milyar dolardı).
Bütün bu hükümetler arasında, en ayrıntılı, kapsamlı ve iddialı AI stratejisine sahip olan Çin Komünist Partisi (CCP). Parti, yapay zekayı, evrensel bir sorun çözücü olarak kullanmayı planlıyor. Bunu somutlaştırmak üzere, ayrıntılı planlarında, “Çin’i imalat (…) ve siber süper güç” haline getirmek için yapay zekanın enformasyonla nasıl birleştirilmesi gerektiğine dair maddeler mevcut. Ne Fransa ne de Amerika’nın stratejik belgeleri bu kadar titiz ve ayrıntılı, bu da bir kez daha Çin Komünist Partisi’nin geleceğe dönük iddialı üç-adımlı planını uygulama kararlılığını gösteriyor. Çin stratejisinde, aynı zamanda, böylesi bir “sivil” yapay zekâ teknolojisini askeri yeniliklerle ve uygulamalarla kaynaştırma amacı da görülüyor.
Bütün bu hükümetler arasında, en ayrıntılı, kapsamlı ve iddialı AI stratejisine sahip olan Çin Komünist Partisi (CCP). Parti, yapay zekayı, evrensel bir sorun çözücü olarak kullanmayı planlıyor.
Araştırmanıza dayanarak, yapay zekaya dair bu çerçevelerde görülen farkların, nasıl farklı politikalara sebebiyet verdiğini düşünüyorsunuz?
İncelediğimiz ulusal yapay zeka stratejileri, politika ve söylem hibritleri olmaları açısından ilginçler. Aynı anda hem teknoloji politikaları, ulusal stratejik konumlanmalar hem de kamusal ve özel menfaatlere dair bir imgelem sunuyorlar. Çoğu durumda, kapsamlı vizyonlar ve iddialar var, somut önlemler ve politikalar ise pek yok. Çoğu, yapay zekâ araştırmasına kaynak aktarıyor -veya böyle bir vaatleri var, çoktan çıkarılmış politikaları ve mevzuatları listeliyorlar ve gelecekte alınacak önlemlere ve inisiyatiflere dair haritalar sunuyorlar. Dolayısıyla, işlevleri somut politikalar ve mevzuatlardan ziyade stratejik konumlanma, bu trene atlama ve gelecekte alınacak önlemlere bir yön ve meşruiyet sunma işlevi görüyor. Bu yüzden belgelerin kendi çerçevelerinin politikalar üzerindeki etkisini şimdilik değerlendirmek zor. Ancak bir bütün olarak ele alındığında, bu belgeler, muhtemelen farklı ülkelerde dolaşımda olan farklı çerçeveleri ve imgelemleri yansıtıyor çoktan. Şu anda, farklı imgelemlerin, sahalar arasında nasıl seyahat ettiğini ve ne şekilde başatlaşıp marjinalleştiğini görmek için zaman içerisinde ve farklı ülkeler arasında yapay zeka üzerine medya söylemlerini inceleyen devam çalışmaları yapmayı planlıyoruz.
Daha önce de bahsettiğiniz gibi, bu vizyonlar, yapay zekâ imgelemlerine yön vererek, onları güçlendirebilir. Teknoloji tarihinde yaygın görülen bir örüntüdür bu. Bu imgelemleri şekillendirmek neden önemli? Veya, farklı bir şekilde soracak olursak, Çin, ABD ve Fransa gibi ulus devletlerin nasıl beklentileri var?
Bu ulusal yapay zeka stratejileri, yapay zekanın yaşamlarımızda ve toplumlarımızda kurumsallaşmasının -ve doğallaşmasının- ilk köşe taşları. Her ne kadar yapay zeka, epey abartılmış olsa da, -yapay zekanın ulaşamayacağı insan zekasına ve empatisine dair bir mit yaratılıyor böylece- şu anda bu gelişmeyi nasıl anlamamız gerektiğine, sorunları nasıl teşhis edebileceğimize dair bir çerçeve oluşturuyoruz. Dolayısıyla somut adımlar atma ve çözümler arama ihtiyacının telaffuz edildiği çerçeve oluşturuluyor. Bu şekilde, söz konusu çerçeveler, lafta kalmıyor. Sosyo-teknik imgelemler, politikaların tasarlanmasıyla, endüstrilerin harekete geçirilmesiyle ve kaynakların aktarılmasıyla maddiyat kazanır. Bu yüzden, imgelemlerin sadece kurucu değil aynı zamanda performatif olduğunu düşünmeliyiz: yatırımlardan geri dönüş beklendiğinde, siyasi vaatlerin yerine getirilmesi gerektiğinde işte bu imgelemler geri dönüşü olmayan durumlara neden olur. Örneğin, Çin Komünist Partisi, stratejik olarak sivil inovasyon ve askeri inovasyon arasında geçişler yapıyor. Google, Pentagon’la çalışmaktan geri çekildi ama Çin’de hükümet aktörleri, ticari şirketlerle el ele çalışıyor veya özel sektördeki inovasyonları stratejik olarak kendine temellük ediyor. Çin Komünist Partisi, otoriter merkezi iktidarını kullanıyor, bu sayede elinden geldiğince sinerji yaratıyor ve bu esnada Çin’i yapay zeka alanında lider ulus haline getirmek için etik kaygıları bir kenara itiyor.
Sosyo-teknik imgelemler, politikaların tasarlanmasıyla, endüstrilerin harekete geçirilmesiyle ve kaynakların aktarılmasıyla maddiyat kazanır. Bu yüzden, imgelemlerin sadece kurucu değil aynı zamanda performatif olduğunu düşünmeliyiz: yatırımlardan geri dönüş beklendiğinde, siyasi vaatlerin yerine getirilmesi gerektiğinde işte bu imgelemler geri dönüşü olmayan durumlara neden olur.
Bu nedenle, ulus devletler şu anda derhal eyleme geçmeye dönük algı düzeyindeki ihtiyacı, yapay zekayı anlamak ve onunla başa çıkmak için gereken çerçeveleri oluşturma ve arzu edilir gelecekler tasarlama ihtiyacıyla dengelemeye çalışıyor. Bu yüzden, ulusal hükümetler, şu anda üzerine müzakereler yürütülen sosyo-teknik imgelemi, kurumsal ve ulusal çıkarları uyarınca şekillendirmeye çalışıyor, bu ister rekabetçilik, denetim, ister kamu refahı olsun, ki genelde bunların bir karışımı oluyor aslında.
Bu yolda, bu farklı politikaların farklı yapay zeka imgelemlerine neden olacağını düşünüyor musunuz?
Stratejik belgeler ve politikalar, sosyoteknik imgelemleri ve teknolojilere ve toplumsal gelişmelere dair ortak anlayışımızı müzakere etme sürecinin bir parçasıdır, bu daha kapsamlı bir sosyal süreç. Bu yüzden, belli imgelemleri ve çerçeveleri güçlendirir, biraz değiştirir veya temelden yeniden yönlendirirler. Politikalar bir kez uygulandığında, imgelemleri oldukça katı bir biçimde maddileştirirler. Güçlü bir etkileri olabilir çünkü politikalara uyulmaması halinde bunlar uygulanabilir. Ancak daha geniş sosyal meşruiyet olmaksızın, genelde başarısız olurlar. Diğer bir deyişle: 2000’lerin başında Avrupa’da görülen katı sigara karşıtı mevzuatlar, Avrupa toplumlarında sağlık ve formda kalmaya dair kaygılar artmamış olsaydı muhtemelen başarılı olamazlardı.
Fransa, ABD ve Çin arasında tespit ettiğimiz çarpıcı farklar, muhakkak çarpıcı siyasi ve kültürel farklara işaret ediyor ama geleceğin, bilhassa da bu gelecekte otomasyonun ve yapay zekanın üstleneceği rolün oldukça ihtilaflı olduğunu da gösteriyorlar. Şu anda gelecekte otomasyonla ve yapay zekayla nasıl yaşamak istediğimizi müzakere ediyoruz. Bu müzakere, sadece teknoloji, politika ve bütçe alanında da olmayacak, mitlere ve metaforlara de gömülü. Bunun farkında olalım.
Size göre, araştırmanıza dayanarak, ne tür yapay zekâ imgelemleri eksik? Ne henüz düşünülmedi? Neden?
İnsanlık için yapay zekanın kullanılmasına, etiğe ve adalete ilişkin laflar olsa da somut imgelemlerin ve senaryoların çoğu, büyük ölçüde ekonomik ve teknolojik argümanlar tarafından yönlendiriliyor. Mümkün olan ne, işimize gelen ne, verimli olan ne? Yapay zekayı kamusal bir menfaat olarak gören ve onu kamu yararına kullanan fikirler üreten imgelemlerin eksik olduğunu görüyorum. Ayrıca yapay zekâ olmaksızın işleyen senaryolara da ağırlık veren, otomatik tasnif ve karar alma süreçlerinin olmadığı alanları da tasvir eden imgelemlerin eksik olduğunu düşünüyorum. Şu anda yapay zekâ teknolojilerinin toplumun her alanında, yaşamlarımızın her vasfına sirayet edeceğine neredeyse kesin gözüyle bakıyoruz. Ancak durum bu değil. Öyle olmayabilir. Yaşamlarımızın ve toplumlarımızın altyapısını (yeniden) inşa ettiğimiz mühim ve kritik zamanlardan geçiyoruz. Kolektif olarak ne istediğimizi, bunu nasıl elde edebileceğimizi konuşalım.
Fransızca orijinalinden çevirisi Alexander von Humbolt enstitüsünün sitesinde yayımlayan yazıyı Öznur Karakaş çevirdi.