Algoritma Eliyle Ölmek Mi?


Büyük veri, yapay zekâ ve dijital teknolojiler; iklim değişikliği ve COVID-19 salgını gibi günümüzde karşı karşıya olduğumuz sorunlar söz konusu olduğunda bizi şaşırtıcı derecede hazırlıksız bıraktı. Sürdürülebilir sistemlerin ayırt edici özellikleri olan dirayet ve esnekliği politika oluşturmanın ve uluslararası işbirliğinin bir parçası haline getirmek çok daha gelecek vadeden bir yaklaşım olma niteliği taşıyor.

İnsanoğlunun gezegenin kaderini şekillendirdiği jeolojik çağımız Antroposen varoluşsal tehlikelerle nitelenir. Bu tehlikelerden bazılarına BM’nin Sürdürülebilir Kalkınma Amaçları [eski resmi çevirisiyle hedefleri] gibi eylem planlarında değiniliyor. Fakat davranışlarımızı değiştirmemiz gerektiğini bildiğimiz halde, bu bilgi ile yerleşik alışkanlıklarımız arasında iki arada bir derede kalmışız sanki.

Aşırı kalabalık bir dünyada “İnsan yaşamının değeri nedir?” sorusunu birçok kişi sordu. COVID-19 salgını bu meseleyi bir kez daha alevlendirdi ve bu soruyu daha net bir şekilde ifade etti: “Herkesi kurtarmaya yetecek kadar kaynak yoksa ilk kim ölmeli?”

Fakat algoritmaların hayat memat kararları almalarına izin vermeli miyiz?

Frank Schätzing’in The Tyranny of the Butterfly kitabı gibi pek çok bilim kurgu romanı benzer kaygılara değiniyor, bu kitap misal sürdürülebilir kalkınma problemini genelde insanlık tarihinin en karanlık kimi dönemlerini taklit eden acımasız yöntemlerle “çözüyor”. Bunun gerçeklik payı da yok değil. Bu tür ikilemleri aşmamıza yardım etmesi için yapay zekâya güvenebileceğimizi düşünmek cezbedici gelir bizlere. Nüfus azaltımı ve bilgisayar tabanlı ötanazi konuları tartışılageldi. Yapay zekâ COVID-19 hastalarının triajına [hastaların öncelik durumlarının sınıflandırılması] yardımcı olması için kullanılıyor zaten.

Fakat algoritmaların hayat memat kararları almalarına izin vermeli miyiz? Meşhur tramvay problemini düşünün. Bu düşünce deneyinde hiçbir şey yapılmazsa birkaç kişi kontrolden çıkan bir tramvay tarafından ezilecektir. Eğer biri tramvaya makas değiştirtirse daha az insan hayatını kaybedecektir ama bu insanlar sonuçta birinin müdahalesi sonucu yaşamlarını yitirmiş olacaktır.

Yazar Roy Scranton’ın dediği gibi “antroposen çağında ölmeyi öğrenmekten” ziyade içinde bulunduğumuz bu sıkıntılı dönemde “yaşamayı öğrenmemiz” gerekiyor.

Bugüne kadar burada sorunun hayat kurtarmak olduğu öne sürüldü ama aslında sorduğu soru şu: “Eğer herkes hayatta kalamıyorsa kim ölmeli?” Lakin ehven-i şey yine de kötüdür. Bunların kabul edilebilir olduğunu düşünmeye başladığımızda toplumumuzun ve insanlık onurunun mutlak temellerini sarsabilecek dehşete düşüren sorular da muhakkak beraberinde gelir. Örneğin sürücüsüz bir araç yeterince süratle fren yapamazsa bir büyükanneyi mi yoksa işsiz bir insanı mı öldürmelidir ?

Moral Machine adlı deney kapsamında buna benzer sorular sorulmuştu. Söz konusu deneyde sürücüsüz araçların dahil olduğu durumlarda yapılan ahlaki tercihler üzerine dünya çapında katılımcılardan veri toplanmış, araştırmacılar buna dayanarak “bu tercihlerin makine etiği konusunda küresel, toplumsal olarak kabul edilebilir ilkeler geliştirmeye nasıl katkı sağlayabileceğini” ele almıştır. Fakat bu tür deneyler politika oluşturmaya uygun dayanaklar değiller.

İnsanlar adil olan bir algoritmayı tercih edebilir. Bu ise potansiyel olarak gelişigüzel kararlar verilmesi anlamına gelir. Elbette –hiçbir suretle– insanların gelişigüzel öldürülmesi gerektiğini söylemek istemiyoruz. Ölüm acısız olacak olsa bile bu temel insanlık onuru ilkesine ters düşer. Bilakis, bizim düşünce deneyimiz tramvay probleminin sunduğu çerçeveyi olduğu gibi kabul etmememiz gerektiğini ileri sürüyor. Eğer kabul edilemez çözümler üretiyorsa, ortamı değiştirmek için daha büyük kolektif çabalara kalkışmamız gerekiyor. Sürücüsüz araçlara gelince, örneğin daha yavaş sürebiliriz veyahut arabaları daha iyi frenlerle ve diğer güvenlik teknolojileriyle donatabiliriz.

Bilakis, bizim düşünce deneyimiz tramvay probleminin sunduğu çerçeveyi olduğu gibi kabul etmememiz gerektiğini ileri sürüyor. Eğer kabul edilemez çözümler üretiyorsa, ortamı değiştirmek için daha büyük kolektif çabalara girişmemiz gerekiyor.

Aynı şekilde toplumun şu anki sürdürülebilirlik sorunları önceden kararlaştırılmış mevzular değildir. İşi yapma şeklimiz, ekonomik altyapımız, uluslararası hareketlilik anlayışımız ve geleneksel tedarik zinciri yönetimimiz bunlara neden oldu. Asıl soru –ufuk açıcı Limits to Growth çalışmasının üzerinden neredeyse 50 yıl geçmiş olmasına rağmen- neden hâlâ döngüsel, paylaşımcı bir ekonomiye sahip olmadığımız olmalıdır. Ayrıca büyük ölçüde öngörülmüş bir olay olan bu salgına neden hazırlıksız yakalandık?

Söz konusu olan ister iklim değişikliği, COVID-19 salgını ister sahte haberler, nefret söylemi, hatta siber güvenlik olsun büyük veri, yapay zekâ ve dijital teknolojiler günümüzde karşı karşıya olduğumuz sorunlara karşı bizi şaşırtıcı biçimde hazırlıksız bıraktı. Açıklaması ise basit: dünyayı veriler sayesinde “optimize etmek” kulağa hoş gelse de söz konusu optimizasyon dünyanın karmaşıklığını tek bir endekse eşleyen tek yönlü bir amaç işlevine dayanıyor. Bu ne uygun ne de etkili bir işlev. Üstelik maddi olmayan ağın etkilerinin potansiyelini de büyük çapta ihmal ediyor. Aynı zamanda insanın problem çözme becerilerini ve dünyanın taşıma kapasitesini de yabana atıyor.

Asıl soru –ufuk açıcı Limits to Growth çalışmasının üzerinden neredeyse 50 yıl geçmiş olmasına rağmen- neden hâlâ döngüsel, paylaşımcı bir ekonomiye sahip olmadığımız olmalıdır. Ayrıca büyük ölçüde öngörülmüş bir olay olan bu salgına neden hazırlıksız yakalandık?

Öte yandan doğa optimize etmez, birlikte evrilir. Sürdürülebilirlik ve döngüsel tedarik ağları bakımından insan toplumundan çok daha iyi işler. Ekonomimiz de toplumumuz da ekosistemlere benzeyen biyolojik yapılardan ilham alan çözümlerden, özellikle de simbiyotik olanlarından faydalanabilir.

Bu da sıkıntılı dünyamızı yeniden düzenlemek ve dirayetle esnekliği politika oluşturma ve uluslararası iş birliğinin bir parçası haline getirmek anlamına geliyor. Sürdürülebilir sistemlerin bu ayırt edici özellikleri, bugün karşı karşıya olduklarımıza benzer şoklara, felaketlere ve krizlere adapte olmak ve onları atlatmak için oldukça önemlidir.

Yedekleme, çözüm çeşitliliği, merkezi olmayan organizasyon, katılımcı yaklaşımlar, dayanışma ve uygun olduğunda dijital yardım da dahil olmak üzere pek çok yolla dirayetimiz artırılabilir. Bu çözümler geniş zaman dilimlerinde yerel ölçekte sürdürülebilir olmalıdır. Başka bir deyişle, yazar Roy Scranton’ın dediği gibi “antroposen çağında ölmeyi öğrenmekten” ziyade içinde bulunduğumuz bu sıkıntılı dönemde “yaşamayı öğrenmemiz” gerekiyor. Bizleri insanların hayatının triajını yapma ahlaki çıkmazına sürükleyebilecek gelişmelere karşı en iyi teminat budur.


Project Syndicate sitesinde yayınlanan yazıyı Tual Şekercigil çevirdi, Öznur Karakaş çeviriyi redakte etti.

 

 

 

Dirk Helbing & Peter Seele
Dirk Helbing, ETH Zürich’te Bilgisayımsal Sosyal Bilimler profesörüdür. Peter Seele, USI Lugano’da İş Etiği profesörüdür.

CEVAP VER

Please enter your comment!
Please enter your name here

Son Yazılar

Virüs: Figür ve Altyapı

i. Eleştiri ne, kavram ya da kitap ne diye sormamalı belki de; neden bu eleştiri, bu kavram, bu kitap diye...

Yapısızlığın Tiranlığı

(Bu yazı, Mayıs 1970’te yapılan bir konuşmanın deşifresidir.) Damage'da demokrasiyi seviyoruz ve daha fazla demokrasi olması gerektiğini düşünüyoruz. Demokrasi talepkardır:...

Kriptopara Madenciliğinin İklim Krizine Etkileri

İyi zamanlarda Bitcoin madenciliği gece gündüz süren bir iş. Bangkok’un dışında bir yerleşim yeri olan Nonthaburi’de, bir tesisin binlerce makinesi...

Aktarım ve Karşı Aktarım – 2

Tekrarlar ve Rastlaşmalar Bir Başkadır dizisinde kapalı bir evren yaratılır. Tüm kişiler ve onların yaşam alanları belli belirsiz koridorlardan, aralıklardan...

Bir Kayıt Formu Olarak Kompost ve Aynı Sofrayı Paylaşmak

Sibel Horada’nın 17 Kasım – 31 Aralık 2018 tarihleri arasında Depo’da yer alan sergisi Bir İç Mekân Bahçesi’ne, Sibel’in...

Tutunamayanlar’da Ölümün Keşfi – 3

“O halde benliğimin yok olacak olması karşısında soğukkanlı mıyım? Tam olarak değil. Bu benlik denen şey var oldukça, onun...

En Çok Okunanlar

Covid-19: Gerekçesiz Bir Acil Durumun Yarattığı İstisna Hali

Varsayımsal bir koronavirüs salgınına karşı alınan hummalı, irrasyonel ve...

Žižek: Koronavirüsü Karar Vermeye Zorluyor: Ya Küresel Komünizm Ya Orman Kanunları

Koronavirüsü paniği yayıldıkça, artık nihai bir seçim yapmamız gerekiyor:...

Yapay Zeka Covid-19 Teşhisinde Kullanılıyor

Zhongnan Hastanesi'nin radyoloji bölümünde yürütülen bir deneyde, personel bir...

Bunları da beğenebilirsinHep güncel
Popüler