Algoritma Eliyle Ölmek Mi?


Büyük veri, yapay zekâ ve dijital teknolojiler; iklim değişikliği ve COVID-19 salgını gibi günümüzde karşı karşıya olduğumuz sorunlar söz konusu olduğunda bizi şaşırtıcı derecede hazırlıksız bıraktı. Sürdürülebilir sistemlerin ayırt edici özellikleri olan dirayet ve esnekliği politika oluşturmanın ve uluslararası işbirliğinin bir parçası haline getirmek çok daha gelecek vadeden bir yaklaşım olma niteliği taşıyor.

İnsanoğlunun gezegenin kaderini şekillendirdiği jeolojik çağımız Antroposen varoluşsal tehlikelerle nitelenir. Bu tehlikelerden bazılarına BM’nin Sürdürülebilir Kalkınma Amaçları [eski resmi çevirisiyle hedefleri] gibi eylem planlarında değiniliyor. Fakat davranışlarımızı değiştirmemiz gerektiğini bildiğimiz halde, bu bilgi ile yerleşik alışkanlıklarımız arasında iki arada bir derede kalmışız sanki.

Aşırı kalabalık bir dünyada “İnsan yaşamının değeri nedir?” sorusunu birçok kişi sordu. COVID-19 salgını bu meseleyi bir kez daha alevlendirdi ve bu soruyu daha net bir şekilde ifade etti: “Herkesi kurtarmaya yetecek kadar kaynak yoksa ilk kim ölmeli?”

Fakat algoritmaların hayat memat kararları almalarına izin vermeli miyiz?

Frank Schätzing’in The Tyranny of the Butterfly kitabı gibi pek çok bilim kurgu romanı benzer kaygılara değiniyor, bu kitap misal sürdürülebilir kalkınma problemini genelde insanlık tarihinin en karanlık kimi dönemlerini taklit eden acımasız yöntemlerle “çözüyor”. Bunun gerçeklik payı da yok değil. Bu tür ikilemleri aşmamıza yardım etmesi için yapay zekâya güvenebileceğimizi düşünmek cezbedici gelir bizlere. Nüfus azaltımı ve bilgisayar tabanlı ötanazi konuları tartışılageldi. Yapay zekâ COVID-19 hastalarının triajına [hastaların öncelik durumlarının sınıflandırılması] yardımcı olması için kullanılıyor zaten.

Fakat algoritmaların hayat memat kararları almalarına izin vermeli miyiz? Meşhur tramvay problemini düşünün. Bu düşünce deneyinde hiçbir şey yapılmazsa birkaç kişi kontrolden çıkan bir tramvay tarafından ezilecektir. Eğer biri tramvaya makas değiştirtirse daha az insan hayatını kaybedecektir ama bu insanlar sonuçta birinin müdahalesi sonucu yaşamlarını yitirmiş olacaktır.

Yazar Roy Scranton’ın dediği gibi “antroposen çağında ölmeyi öğrenmekten” ziyade içinde bulunduğumuz bu sıkıntılı dönemde “yaşamayı öğrenmemiz” gerekiyor.

Bugüne kadar burada sorunun hayat kurtarmak olduğu öne sürüldü ama aslında sorduğu soru şu: “Eğer herkes hayatta kalamıyorsa kim ölmeli?” Lakin ehven-i şey yine de kötüdür. Bunların kabul edilebilir olduğunu düşünmeye başladığımızda toplumumuzun ve insanlık onurunun mutlak temellerini sarsabilecek dehşete düşüren sorular da muhakkak beraberinde gelir. Örneğin sürücüsüz bir araç yeterince süratle fren yapamazsa bir büyükanneyi mi yoksa işsiz bir insanı mı öldürmelidir ?

Moral Machine adlı deney kapsamında buna benzer sorular sorulmuştu. Söz konusu deneyde sürücüsüz araçların dahil olduğu durumlarda yapılan ahlaki tercihler üzerine dünya çapında katılımcılardan veri toplanmış, araştırmacılar buna dayanarak “bu tercihlerin makine etiği konusunda küresel, toplumsal olarak kabul edilebilir ilkeler geliştirmeye nasıl katkı sağlayabileceğini” ele almıştır. Fakat bu tür deneyler politika oluşturmaya uygun dayanaklar değiller.

İnsanlar adil olan bir algoritmayı tercih edebilir. Bu ise potansiyel olarak gelişigüzel kararlar verilmesi anlamına gelir. Elbette –hiçbir suretle– insanların gelişigüzel öldürülmesi gerektiğini söylemek istemiyoruz. Ölüm acısız olacak olsa bile bu temel insanlık onuru ilkesine ters düşer. Bilakis, bizim düşünce deneyimiz tramvay probleminin sunduğu çerçeveyi olduğu gibi kabul etmememiz gerektiğini ileri sürüyor. Eğer kabul edilemez çözümler üretiyorsa, ortamı değiştirmek için daha büyük kolektif çabalara kalkışmamız gerekiyor. Sürücüsüz araçlara gelince, örneğin daha yavaş sürebiliriz veyahut arabaları daha iyi frenlerle ve diğer güvenlik teknolojileriyle donatabiliriz.

Bilakis, bizim düşünce deneyimiz tramvay probleminin sunduğu çerçeveyi olduğu gibi kabul etmememiz gerektiğini ileri sürüyor. Eğer kabul edilemez çözümler üretiyorsa, ortamı değiştirmek için daha büyük kolektif çabalara girişmemiz gerekiyor.

Aynı şekilde toplumun şu anki sürdürülebilirlik sorunları önceden kararlaştırılmış mevzular değildir. İşi yapma şeklimiz, ekonomik altyapımız, uluslararası hareketlilik anlayışımız ve geleneksel tedarik zinciri yönetimimiz bunlara neden oldu. Asıl soru –ufuk açıcı Limits to Growth çalışmasının üzerinden neredeyse 50 yıl geçmiş olmasına rağmen- neden hâlâ döngüsel, paylaşımcı bir ekonomiye sahip olmadığımız olmalıdır. Ayrıca büyük ölçüde öngörülmüş bir olay olan bu salgına neden hazırlıksız yakalandık?

Söz konusu olan ister iklim değişikliği, COVID-19 salgını ister sahte haberler, nefret söylemi, hatta siber güvenlik olsun büyük veri, yapay zekâ ve dijital teknolojiler günümüzde karşı karşıya olduğumuz sorunlara karşı bizi şaşırtıcı biçimde hazırlıksız bıraktı. Açıklaması ise basit: dünyayı veriler sayesinde “optimize etmek” kulağa hoş gelse de söz konusu optimizasyon dünyanın karmaşıklığını tek bir endekse eşleyen tek yönlü bir amaç işlevine dayanıyor. Bu ne uygun ne de etkili bir işlev. Üstelik maddi olmayan ağın etkilerinin potansiyelini de büyük çapta ihmal ediyor. Aynı zamanda insanın problem çözme becerilerini ve dünyanın taşıma kapasitesini de yabana atıyor.

Asıl soru –ufuk açıcı Limits to Growth çalışmasının üzerinden neredeyse 50 yıl geçmiş olmasına rağmen- neden hâlâ döngüsel, paylaşımcı bir ekonomiye sahip olmadığımız olmalıdır. Ayrıca büyük ölçüde öngörülmüş bir olay olan bu salgına neden hazırlıksız yakalandık?

Öte yandan doğa optimize etmez, birlikte evrilir. Sürdürülebilirlik ve döngüsel tedarik ağları bakımından insan toplumundan çok daha iyi işler. Ekonomimiz de toplumumuz da ekosistemlere benzeyen biyolojik yapılardan ilham alan çözümlerden, özellikle de simbiyotik olanlarından faydalanabilir.

Bu da sıkıntılı dünyamızı yeniden düzenlemek ve dirayetle esnekliği politika oluşturma ve uluslararası iş birliğinin bir parçası haline getirmek anlamına geliyor. Sürdürülebilir sistemlerin bu ayırt edici özellikleri, bugün karşı karşıya olduklarımıza benzer şoklara, felaketlere ve krizlere adapte olmak ve onları atlatmak için oldukça önemlidir.

Yedekleme, çözüm çeşitliliği, merkezi olmayan organizasyon, katılımcı yaklaşımlar, dayanışma ve uygun olduğunda dijital yardım da dahil olmak üzere pek çok yolla dirayetimiz artırılabilir. Bu çözümler geniş zaman dilimlerinde yerel ölçekte sürdürülebilir olmalıdır. Başka bir deyişle, yazar Roy Scranton’ın dediği gibi “antroposen çağında ölmeyi öğrenmekten” ziyade içinde bulunduğumuz bu sıkıntılı dönemde “yaşamayı öğrenmemiz” gerekiyor. Bizleri insanların hayatının triajını yapma ahlaki çıkmazına sürükleyebilecek gelişmelere karşı en iyi teminat budur.


Project Syndicate sitesinde yayınlanan yazıyı Tual Şekercigil çevirdi, Öznur Karakaş çeviriyi redakte etti.

 

 

 

Dirk Helbing & Peter Seele
Dirk Helbing, ETH Zürich’te Bilgisayımsal Sosyal Bilimler profesörüdür. Peter Seele, USI Lugano’da İş Etiği profesörüdür.

CEVAP VER

Please enter your comment!
Please enter your name here

Son Yazılar

Seçimin Siyasallığında Gezi’nin 10. Yılına Ses Vermek

Siyaset sanatı, siyasal olanı ortadan kaldırma sanatından ibarettir. Ranciere bu sözüyle siyaseti cemaatleri yönetme...

Gecenin Sonuna Yolculuk: Kirli Bir Kahkaha

Romanın Üslubu: Üçüncü Mevkicilik Romanda insanlık durumlarına karşı, parlak gözlemlerin arasına sıvışmış, tasvirlerin karanlık...

Marx’ın Transandantal Şiiri [I]

Uğur(’)a Giriş Transandantal kavramının felsefede daha önce Duns Scotus’ta kullanıldığını biliyoruz,...

Dünyanın Yeni Aklı: Tinsel ve Sportif Kendilik

Günümüzde yeni bir etik anlayışı var: girişimci etiği. Nicolas Rose bu girişimin ilkelerini şöyle sıralar: “enerji, inisiyatif,...

Jung’un Kırbacı

Carl Gustav Jung’a göre doğa hali içinde yaşam süren “ilkel” insanın, modern Avrupalı bireylerden farklı olarak, alışkın...

Beyinde Beden-Zihin Ağı Keşfedildi

Yeni bir araştırmaya göre; beyinde hareketi kontrol eden bölgeler, düşünceyi ve planlamayı düzenleyen ağlara gömülü olup kan...

En Çok Okunanlar

Covid-19: Gerekçesiz Bir Acil Durumun Yarattığı İstisna Hali

Varsayımsal bir koronavirüs salgınına karşı alınan hummalı, irrasyonel ve...

İşe Yaramaz

Gençliğimden bu yana ara ara nükseden depresyondan muzdaribim. Bu...

Žižek: Koronavirüsü Karar Vermeye Zorluyor: Ya Küresel Komünizm Ya Orman Kanunları

Koronavirüsü paniği yayıldıkça, artık nihai bir seçim yapmamız gerekiyor:...

Bunları da beğenebilirsinHep güncel
Popüler