Yapay Zekanın Ahmaklığı

ChatGPT, 2022 yılının Kasım ayında OpenAI tarafından piyasaya sürüldü ve yapay zekâ ile insan yaratıcılığının nasıl etkileşime geçebileceğine dair görüşlerimizi daha da değiştirdi. İnsanların birbiriyle yaptığı konuşmaları taklit eden bir sohbet robotu şeklinde yapılandırılan ChatGPT, sizinle konuşmaktan çok daha fazlasını yapabiliyor. Doğru bir şekilde istendiğinde; işler bilgisayar kodları yazabiliyor, matematik soruları çözebiliyor ve kitap eleştirileri, akademik makaleler, düğünde yapılacak konuşmalar, yasal sözleşmeler gibi yaygın yazı pratiklerini taklit edebiliyor. Bu programın, sözümona e-mail veya deneme yazma gibi işleri zor bulunlar için bir nimet olabileceği de imge üreten yapay zekâ programlarında olduğu gibi, ekmeğini bu işlerden kazananların yerini alabileceği de daha ilk andan belliydi. Pek çok okul ve üniversite, öğrenciler ödevlerini onunla yazar endişesiyle ChatGPT kullanılmasını yasaklayan politikalar benimsemeye başladı bile. Nature dergisi ise programın neden araştırma makalelerinde yazar olarak sınıflandırılamayacağını açıklayan metinler yayınlamak zorunda kaldı (rıza gösteremez ve sorumlu tutulamazdı). Ancak kurumlar da bu aracın namünasip kullanımlarından azade değiller: Şubat ayında, Tennessee’de yer alan Vanderbilt Üniversitesi’ne bağlı Peabody Eğitim ve İnsani Gelişim Okulu, Michigan’da bir okulda gerçekleşen silahlı saldırı sonrası gönderdiği taziye ve tavsiye mektubuyla öğrencileri hayretler içinde bıraktı. Mektupta topluluğun değeri, karşılıklı saygı ve birliktelik övülürken mektubun altına iliştirilen bir not bunun ChatGPT ile yazıldığını ifade ediyordu. Bu ise çoğu kişi için hem ahlaken yanlış hem de hatalı ve tekinsizdi. Belli ki, hayatın makinelerin müdahalesi üzerine ciddi ciddi düşünülmesi gereken pek çok veçhesi var.

İletişimlerimizi hepten ChatGPT’ye bırakmak münasip olmasa da açıkça karşılaştığımız bir trend var ki, ChatGPT’nin bir tür bilge asistan işlevi görmesini, el altında bulunan bilgi bataklığında aradığımız enformasyona giden yolda bize rehberlik etmesini öngörüyor. Büyük ölçüde gözden düşmüş bir arama motorunu olan Bing’i, ChatGPT kullanan bir sohbet robotu şeklinde yeniden yapılandıran Microsoft, bu yönde ilerleyen ilk şirketlerden oldu. Bu sayede Bing’in popülerliğini de epey artırdı. Ancak sanal dünyada (ve gazetecilikte) neredeyse akla gelebilen her sorunda ChatGPT’ye danışma akınına rağmen, bu sohbet robotunun bilgiyle ilişkisi şüpheli.

ChatGPT ile kısa süre önce gerçekleştirdiğim bir etkileşim şöyle ilerledi: insan-dışı türleri de içeren bir demokrasi anlayışı, yani siyasi karar alma süreçlerine insan-olmayan mahlukatın dahiliyeti gibi yeni bir alanda okuyabileceğim birkaç kitap önermesini istedim. Bu aracın en faydalı kullanım alanı da bu: “Hey, aklımda bir şey var, bana bu konuda biraz bilgi verebilir misin?” ChatGPT buna riayet etti. Bu yeni alanı derinlemesine ele alan birkaç kitabı listeledi ve ikna edici bir insan dilinde bunları neden okumam gerektiğini anlattı. Harikaydı doğrusu! Yalnız, listelediği dört kitaptan sadece birinin gerçekten var olduğu ortaya çıktı. Ayrıca ChatGPT’nin araştırmamı salık verdiği kavramların pek çoğu doğrudan sağcı propaganda araçlarından alınmıştı. Mesela “akıllı kullanım” hareketinin hayvan haklarını teşvik ettiğini söylemişti ama aslında mülkiyet haklarının genişletilmesini teşvik eden liberter, çevre-karşıtı bir hareketti.

Bunun yaşanmasının nedeni, ChatGPT’nin içten içe sağcı olması değil içten içe aptal olması. İnternette yer alan şeylerin çoğunu okuyor, insan dilinin kulağa nasıl gelmesi gerektiğini biliyor ama gerçekle hiçbir ilişkisi yok. Kulağa doğru gelen cümleler hayal ediyor; onu dinlemek, doğrusunu söylemek gerekirse, birinin rüyalarını dinlemek kadar ilgi çekici. Kulağa anlamlı gelen şeyler pekâlâ çok iyi üretebiliyor, en iyi olduğu şey ise klişeler ve banallik üretmek, ki diyetinin büyük bir kısmını da bunlar oluşturuyor ancak olduğu haliyle dünyayla ilişki kuramıyor. Buna bilincin yankısı, hatta yakınsaması diyenlere güvenmeyin. (Bu yazı yayınlanırken OpenAI, ChatGPT’yi besleyen sistemin yeni bir versiyonunu çıkardı, bunun “bir şeyler uydurma ihtimalinin daha az olduğunu” söyledi).

Bu türden bir yapay zekanın gerçekten bilgili veya anlamlı olduğuna inanmak bilfiil tehlikeli. Kolektif düşünce kuyusunu ve düşünme kabiliyetimizi zehirleme riskini beraberinde getiriyor. Teknoloji şirketlerinin dediği gibi ChatGPT aramalarının sonuçları, online bilgi arayanlara yanıt şeklinde sunulacak ve bazı yazarların dediği gibi ChatGPT, okullarda öğretime yardımcı olmak üzere kullanılacak ise bu durumda halüsinasyonları kalıcı bir biçimde kayda alınacak, daha meşru ve test edilebilir bilgi kaynakları ile aramıza girecek ve zamanla ikisi arasındaki çizgi bulanıklaşarak görünmez olacak demektir. Dahası, teknoloji şirketlerinin enformasyonun yayılma biçimlerine verdiği zarar düşünüldüğünde, birey olarak araştırma yapma ve kendi namına eleştirel bir biçimde bilgiyi değerlendirme kabiliyetimize en çok ihtiyaç duyduğumuz bir zamanda yaşıyoruz. Hepten kötü bir şekilde programlanmış makinelere bel bağlamak, bu eleştirel düşünceyi tamamen terk etmek olacaktır.

O halde bir adım geri gidelim. “Yapay” “zekânın” mevcut tecessümleri bu kadar kasvetli ise alternatif nedir? Bizi sömürmeyen, kötüye kullanmayan, yanlış yönlendirmeyen ve alt etmeyen enformasyon sınıflandırma ve iletişim teknolojileri var mı? Mevcut YZ akımını tanımlayan güçlü kurumsal ağların dışına çıkmamız halinde, evet var.

Aslında şirketlerin yerleşik gücünü atlatarak yapay zekayı belli toplulukların faydasına açan pek çok örnek şimdiden var. Dünya çapında yerli dilleri tehdit altında. BM tahminlerine göre, her iki haftada bir, bir yerli dili kayboluyor; bu diller ile birlikte nesillerin bilgisi ve deneyimi de yok oluyor. Yüzyıllar süren sömürgeciliğin ve ırkçı asimilasyoncu politikaların bir sonucu olan bu sorun, popüler dillerin gücünü artıran ve daha az bilinen dillerin giderek az kullanılmasına ve çalışılmasına neden olan otomatik öğrenme dil modellerinin giderek artan hakimiyeti ile daha da içinden çıkılmaz bir hal alıyor.

Yeni Zelanda, Aotearoa’da, Māori dilince yayın yapan kâr amacı gütmeyen, ufak bir radyo istasyonu olan Te Hiku Medya, teknolojide farkı dillerin bu eşitsiz temsiliyetine müdahale etmeye karar verdi. 20 yıllık yayın hayatında oluşturduğu; geniş bir deyim dağarcığı, gündelik ifadeler ve çoğu artık kimse tarafından kullanılmayan eşsiz terimlerden mürekkep devasa arşivini dijitalleştirdi. Ancak bu arşivin, dil araştırmacıları ve Māori topluluğu tarafından kullanılmak üzere deşifre edilmesi gerekiyordu. Bu ihtiyaca yanıt olarak; radyo istasyonu, arşivi “dinleyip” deşifre yapabilsin diye kendi dil tanıma modelini eğitmeye karar verdi.

Bunun üzerine, birkaç yıl içerisinde, Te Hiku Medya, açık kaynaklı teknolojileri ve kendi geliştirdiği sistemleri kullanarak neredeyse imkansızı başardı: Māori dil topluluğu tarafından oluşturulan ve onun mülkü olan, doğruluk oranı hayli yüksek bir konuşma tanıma sistemi. Bu, salt istasyona ait bir girişim olmakla kalmadı. İstasyon, modeli eğitmenin ön koşulu olan ayrıntılı konuşma külliyatını oluşturmak için ulaşabildiği bütün Māori topluluklarıyla iletişime geçti ve topluluk üyelerinden belli ifadeleri okuyarak kayda almalarını istedi.

En çok cümle gönderenlere para ödülü verildi. Te Mihinga Komene isimli bir aktivist tek başına 4,000 kelime kaydetti. Ancak organizatörler, insanların katkıda bulunmasını sağlayan en büyük motivasyon kaynağının; dile, topluluğun mülkü olarak kalmaya devam etmesini temin eden şartlar altında hayat verme arzusu olduğunu gördü. Birkaç hafta içerisinde, kaydedilen konuşmayı %86 oranında doğru tanıyan bir model yaratıldı. Bu da bütün bir arşivi deşifre etmeye başlamaya yeterliydi.

Te Hiku Medyanın başarısı diğer grupların da takip edebileceği bir yol açtı. Benzer projeler, Kanada’nın güney doğusunda Mohawk halkı ve Hawai yerlileri tarafından da geliştirilmeye başlandı. Aynı zamanda, yerli dillerinin ve bununla birlikte diğer yerli bilgi türlerinin veri egemenliğini tesis etti. Kar amacı güden uluslararası şirketler, Māori dilini konuşanlara modellerini geliştirmek üzere yardımcı olmak istediklerinde; Te Hiku Medya, “Dillerimizi bastırdılar, büyük anne ve babalarımızı döve döve bu dilleri konuşturmadılar, şimdi de dillerimizi bize hizmet olarak satmak istiyorlar,” diyerek buna karşı çıktı.

Te Hiku Medya’nın kurucularından biri olan Hawai yerlisi Keoni Mahelona, “veri, sömürgeciliğin son durağı,” diyor. Te Hiku’nun bütün çalışmaları Kaitiakitanga Lisansı ile piyasaya sürülüyor. Bu lisans, dil modelinde ve diğer projelerde kullanılan bütün verilerin; onları yaratan topluluğun, bu durumda projeye destek olan Māori konuşanların mülkü olarak kalmasını sağlayan yasal bir himaye ve zimmet teminatı. Buna göre kendi tikanga’ları (Māori gelenekleri ve protokolleri) gereği verilerini istedikleri gibi lisans altına alabilir veya almayabilirler. Bu şekilde yüzyıllar süren tahakkümü tekrar etmeye devam eden dijital sömürgecilik sistemlerine direnerek ve onları değiştirerek Māori dili canlandırılıyor.

Bana kalırsa içinde bulunduğumuz “yapay” “zekâ” dalgasından alınacak ders, zekanın şirketler tarafından hayal edildiği haliyle fakir bir şey olduğu. Karı maksimize etmeye dayalı bir dünya görüşünüz olduğunda ve her şey paydaş değeri standardı uyarınca ele alındığında; sanatsal, yaratıcı, estetik ve duygusal ifadeleriniz; elbette, ne yazık ki yoksullaşacaktır. Kullandığımız araçlardan, tükettiğimiz medyadan ve içinde yaşadığımız topluluklardan bundan fazlasını beklemeyi hak ediyoruz ve ancak onlara tam olarak müdahil olabildiğimizde hak ettiğimizi alabileceğiz. Bu gözünüzü korkutmasın, hiç de o kadar karmaşık değiller. Bilimkurgu efsanesi Ursula K Le Guin’in dediği gibi, “Teknoloji, yapmayı öğrendiğimiz şeydir.”


The Guardian’da yayınlanan yazıyı Öznur Karakaş kısaltarak Türkçe’ye çevirdi.

Ana Görsel: Bangkok Post

James Bridle
Metis Yayınları tarafından basılan Yeni Karanlık Çağ, Teknoloji ve Geleceğin Sorunu isimli kitabıyla tanınan araştırmacı yazar.

CEVAP VER

Please enter your comment!
Please enter your name here

Son Yazılar

Gönüllü Rezalet Üzerine

Terrabayt Sohbetleri'nin bu programında Koray Kırmızısakal ve Onur Alptekin gönüllü rezalet biçimleri üzerine konuştu.

Manasız Maneviyat: Günümüzde Maneviyat Krizi

Terrabayt Sohbetleri'nin bu programında Koray Kırmızısakal ve Onur Alptekin günümüzde maneviyat krizini ve yükselen yeni spiritüelizmleri konuştu.

Çağımızda Deneyim Krizi

Terrabayt Sohbetleri'nin bu programında Koray Kırmızısakal ve Onur Alptekin, çağımızda deneyim krizini konuştu. Program boyunca Siegfried Kracauer'e,...

Gelecekbilim Kongresi ya da İdeolojinin Yönetici Gücü

Yok-Yer'den Okumalar'ın bu programında Koray Kırmızısakal ile Onur Alptekin, Stanislaw Lem'in Gelecekbilim Kongresi adlı distopik romanını konuştu.

Gecenin Sonu

Eserin ve Yazarın Politik Konumu Sıradan bir mesele bile metne düştüğünde politikleşir fakat sokakta...

Kendi Sözleriyle, Kenneth Anger

Dazed 20. yaş gününü kutluyor. Bu vesile ile sormak isterim: 20 yaşında olmakla ilgili neler hatırlıyorsunuz?

En Çok Okunanlar

Covid-19: Gerekçesiz Bir Acil Durumun Yarattığı İstisna Hali

Varsayımsal bir koronavirüs salgınına karşı alınan hummalı, irrasyonel ve...

İşe Yaramaz

Gençliğimden bu yana ara ara nükseden depresyondan muzdaribim. Bu...

Žižek: Koronavirüsü Karar Vermeye Zorluyor: Ya Küresel Komünizm Ya Orman Kanunları

Koronavirüsü paniği yayıldıkça, artık nihai bir seçim yapmamız gerekiyor:...

Bunları da beğenebilirsinHep güncel
Popüler