Yapay zekâ güvenliği alanında kendisini rakiplerinden daha temkinli bir konumda tutan Anthropic, son günlerde art arda gelen iki gelişmeyle dikkat çekiyor. Şirketin araştırmacılarından Jacob Coxon, yapay zekâ geliştirme yarışının insanlığın karşı karşıya olduğu riskleri yeterince dikkate almadığını savunarak görevinden istifa etti. 27 yaşındaki yapay zekâ araştırmacısı, öncesinde OpenAI’dan istifa ederek bu alanda daha temkinli bir imaj çizen Anthropic’e katılmıştı. Ancak her iki şirketin de “sorumlu davranmadığını, kendini iyileştirebilen bir süper zekâ geliştirmeye çalıştıklarını ve yaşamlarımızla oynadıklarını” söyleyerek bu şirketten de istifa etti. Coxon’ın istifasının hemen ardından yayımlanan Anthropic’in yeni tehdit istihbaratı raporu ise şirketin kendi modellerinin siber saldırılardan biyolojik araştırmalara ve silah sistemlerinin geliştirilmesine kadar uzanan alanlarda kötüye kullanıldığını ortaya koydu.
Bu iki gelişme, yapay zekânın gelecekte oluşturabileceği varoluşsal risklere ilişkin tartışmayı, bugün gerçekleşmekte olan somut kötüye kullanım örnekleriyle birlikte yeniden gündeme taşıdı.
“Bu yarışın bir parçası olmak istemiyorum”
Anthropic’te üç yıl boyunca ön-eğitim (pretraining) araştırmacısı olarak çalışan Jacob Coxon, 9 Eylül’de şirketten ayrıldığını duyurdu. Coxon, yayımladığı açıklamada Anthropic ve OpenAI gibi önde gelen AI şirketlerinin giderek daha güçlü ve kendi yeteneklerini geliştirebilecek sistemler yaratmak için yarıştığını, ancak bu sürecin taşıdığı risklerin yeterince ciddiye alınmadığını savundu.
Coxon’ın istifasına ilişkin haberinde Associated Press, araştırmacının YZ şirketleri arasındaki rekabetin güvenlik kaygılarını gölgede bıraktığını düşündüğünü aktarıyor. Coxon ayrıca yapay zekâ sistemlerinin insan denetiminden giderek daha bağımsız hale gelmesinin ciddi sonuçlar doğurabileceği uyarısında bulundu.
Coxon’ın açıklaması, Anthropic’in kendisini uzun süredir YZ güvenliği konusunda rakiplerinden farklı konumlandırması nedeniyle özellikle dikkat çekti. Axios da son dönemde OpenAI ve Anthropic çalışanları arasında YZ geliştirme yarışının hızına ilişkin kaygıların arttığına dikkat çekiyor.
Coxon’ın uyarıları, yapay zekânın insanlığın varlığını tehdit edebileceği yönündeki en uç senaryoları yeniden gündeme getirse de bu öngörülerin geleceğe ilişkin tartışmalı tahminler olduğunu belirtmek gerekiyor. Asıl dikkat çekici gelişme ise Anthropic’in kendi raporunda ortaya koyduğu mevcut vakalar.
Anthropic’in tehdit raporu: Claude nasıl kötüye kullanılıyor?
Anthropic, 10 Eylül’de yayımladığı “Detecting and Countering Misuse of AI: September 2026” başlıklı raporda, Aralık 2025 ile Ağustos 2026 arasında tespit edip engellediği kötüye kullanım faaliyetlerini inceliyor.
Şirket raporda yedi ana alan belirliyor: siber operasyonlar, etki operasyonları, gözetim, operasyonları, biyolojik kötüye kullanım, konvansiyonel silah geliştirme, dolandırıcılık ve sahtekarlık ve izinsiz model kopyalama. İncelenen vakalarda Claude; Haiku, Sonnet ve Opus modellerinin kullanıldığı belirtiliyor. Anthropic, daha yeni geliştirilmiş olan Fable ve Mythos sınıfı modellerin ise bu vakalarda kullanılmadığını; tek istisnanın yeteneklerin başka bir modele aktarılmasına yönelik bir vaka olduğunu söylüyor.
Rapordaki bulgular, yalnızca gelecekte ortaya çıkabilecek risklere ilişkin teorik senaryolardan ibaret değil. Şirket, kendi modellerinin gerçek dünyadaki operasyonlarda nasıl kullanılmaya çalışıldığını vaka örnekleriyle belgeliyor.
YZ yalnızca bir “asistan” değil
Raporun en dikkat çekici noktalarından biri, YZ’nin siber saldırılardaki rolünün değişmeye başlaması. Artık incelikli siber saldırıların son derece kalifiye saldırganlar gerektirmediğine işaret eden Anthropic; API anahtarlarını çalan bir hacktivistin, mali fayda sağlamaya çalışan kişilerin ve herhangi bir devletin casusluk operasyonu yürütücüsünün, daha bir yıl önce son derece yetenekli kişiler ve uzmanlık bilgisi gerektiren siber kampanyalar düzenleyebilecek duruma geldiğini ifade ediyor. Bunun nedeni ise YZ modellerinin artık bu tarz saldırıların farklı aşamalarında çok daha özerk bir rol üstlenmesi.
Geleneksel olarak bir saldırgan, YZ modelinden kod yazmasını veya belirli bir teknik sorunu çözmesini isteyebiliyordu. Anthropic’in raporunda ise YZ modellerinin saldırının çok daha büyük bölümünü üstlendiği örnekler bulunuyor.
Indian Express’in aktardığı rapor bulgularına göre, bazı operasyonlarda YZ ajanları keşif, veri toplama, sistemlere erişim ve veri hırsızlığı gibi farklı aşamaları insan müdahalesi sınırlı olacak şekilde gerçekleştirebildi.
Anthropic’in raporunda yer alan en dikkat çekici vakalardan biri, şirketin GTG-20006 olarak adlandırdığı ve kamuya açık araştırmalarda Rusya bağlantılı Midnight Blizzard grubuyla ilişkilendirilen bir aktörün faaliyetleri. Anthropic, aktörün operasyonlarını YZ kullanarak otomatikleştirmesi sayesinde saldırıların hızını önemli ölçüde artırdığını belirtiyor.
Rapora göre operasyonlardan birinde “JackPoterz” kullanıcı adına sahip Rusça konuşan bir operatör tespit edildi. Kullanılan yöntemler ve hedef seçimi, Rus devlet bağlantılı casusluk faaliyetleriyle uyumlu bulundu. GTG-20006’ın hedefleri arasında Ukrayna ve Avrupa’daki askerî istihbarat kurumları, hükümetler, diplomatik ve savunma kuruluşları ile ABD dış politikasıyla bağlantılı kişiler ve kurumlar yer aldı.
Ancak vakayı önceki YZ destekli siber saldırılardan ayıran temel özellik, yapay zekânın tek tek görevlerde yardımcı olarak kullanılmasından çok, saldırı operasyonunun büyük bölümünü birbirine bağlayan otomatik iş akışlarının merkezine yerleştirilmiş olmasıydı.
Anthropic’e göre, GTG-20006, YZ destekli özel iş akışları kullanarak operasyonun farklı aşamalarını otomatikleştirdi. Bunlar arasında saldırı araçlarının geliştirilmesi, saldırı altyapısının kurulması, kimlik avı kampanyalarının hazırlanması, sistemlerde kalıcılığın sağlanması, komuta-kontrol mekanizmalarının işletilmesi ve ele geçirilen verilerin dışarı çıkarılması bulunuyordu.
Anthropic’in raporunda özellikle dikkat çeken nokta, YZ’nin yalnızca saldırı araçlarını kullanmakla kalmaması, bu araçların güvenlik sistemlerinden kaçıp kaçamadığını da takip etmesiydi.
GTG-20006, kullandığı araçların güvenlik ürünleri tarafından tespit edilip edilmediğini izlemek üzere YZ ajanlarından yararlandı. Bir güvenlik sistemi kullanılan zararlı yazılımlardan birini tespit ettiğinde, ilgili YZ ajanları bu tespiti dikkate alarak yazılımın yeniden değiştirilmesi ve oluşturulması sürecini başlatıyordu. Sistem, Anthropic’in anlatımına göre, araçlar tespit edilmemeye başlayana kadar bu süreci tekrarlayacak şekilde tasarlanmıştı.
Buradaki kritik değişim, saldırganın her tespit sonrasında kodu manuel olarak değiştirip yeni bir saldırı gerçekleştirmesinin gerekmemesi. YZ sistemi, savunma mekanizmasının tepkisini gözlemleyip saldırı aracını buna göre yeniden uyarlayan bir geri bildirim döngüsünün parçası haline gelmişti. Araçlar daha sonra geçici olarak kullanılan sunucular üzerinde gerçek operasyonlara hazırlanıyordu. Anthropic, bu altyapının kimlik avı, ClickFix ve DNS hijacking gibi farklı saldırı yöntemlerinde kullanıldığını belirtiyor.
YZ’nin kullanıldığı alan bununla da sınırlı değildi. GTG-20006, kimlik avı operasyonlarının hazırlanması için de otomatik iş akışları oluşturdu. Bu iş akışları, muhtemel hedefler hakkında araştırma yapılmasından internet alan adlarının kaydedilmesine ve kimlik avı e-postalarının gönderileceği altyapının yapılandırılmasına kadar uzanıyordu. Başka YZ destekli iş akışları ise e-postaların gönderilmesini ve saldırının komuta-kontrol kanallarının başarılı bir şekilde ele geçirilip geçirilmediğinin izlenmesini sağlıyordu.
Bu süreçte insan operatörün rolü büyük ölçüde YZ tarafından yürütülen iş akışlarını geliştirmek ve gerektiğinde Claude Code’un kullandığı yetenekleri değiştirmekle sınırlıydı.
Anthropic’in incelemesi, GTG-20006’ın operasyonel planlama, keşif ve gerçek saldırı faaliyetleri kapsamında 20’den fazla farklı kuruluşu hedeflediğini ortaya koydu.
Hedefler arasında hükümet bakanlıkları, savunma ve istihbarat kurumları, büyükelçilikler ve diplomatik misyonlar, düşünce kuruluşları ve savunma sanayii şirketleri bulunuyordu. Hedeflerin büyük bölümü Ukrayna ve Avrupa’da yoğunlaşırken, operasyonların Orta Doğu’ya ve Asya’daki denizcilikle ilişkili bazı hükümet kurumlarına kadar uzandığı belirtildi. Hedef seçimindeki ortak temalardan biri ise Ukrayna ve askerî drone teknolojisi oldu. Aktör, insansız hava araçları geliştiren şirketler ile bunların tedarik zincirleriyle bağlantılı kuruluşlara özel ilgi gösterdi.
Bununla birlikte hedef listesi yalnızca Avrupa’daki askerî ve savunma kuruluşlarıyla sınırlı değildi. Anthropic, Güneydoğu Asya’da deniz taşımacılığı ve izleme faaliyetleriyle bağlantılı bir hükümet kuruluşunun ve Kuzey Afrika’daki bir hükümet teknoloji otoritesinin de hedefler arasında bulunduğunu bildiriyor.
YZ siber saldırılarda oyunun kurallarını değiştiriyor
Anthropic’in raporundaki vakalar birbirinden farklı aktörlere ve saldırı türlerine ait olsa da şirket, bunların tamamında iki ortak eğilimin öne çıktığını belirtiyor: YZ destekli saldırı tekniklerinin hızla yayılması ve YZ’nin siber operasyonlarda giderek daha özerk bir rol üstlenmesi.
Anthropic’e göre YZ, meşru ekonomide olduğu gibi siber saldırı alanında da hızla yayılıyor. Bazı gruplar kendi otonom saldırı sistemlerini geliştirirken, bazıları ise herkesin erişimine açık saldırı amaçlı YZ çerçevelerinden yararlanıyor. Böylece daha önce özel uzmanlık ve ciddi kaynak gerektiren saldırı yöntemleri giderek daha geniş bir aktör grubunun kullanımına açılıyor.
Bu genişlemeye yeni bir pazar da eşlik ediyor. Anthropic, örneğin GTG-50021 olarak tanımlanan bir grubun indirimli Claude erişimi sunduğunu iddia eden sahte satıcılar oluşturduğunu; ancak bu servisler üzerinden kullanıcı trafiğinin başka bir modele yönlendirildiğini ve kayıt olan kişilerin Anthropic hesap bilgilerinin ele geçirildiğini tespit ettiğini bildiriyor.
Şirketin raporunda dikkat çektiği temel değişim ise YZ’nin devlet destekli aktörlerle diğer saldırganlar arasındaki kapasite farkını azaltması.
Geçmişte devlet destekli gruplar, sahip oldukları daha büyük insan kaynağı, finansman ve teknik uzmanlık sayesinde daha gelişmiş siber operasyonlar gerçekleştirebiliyordu. AI ise bu kapasitenin önemli bir bölümünü daha küçük grupların da erişimine açıyor. Anthropic’in ifadesiyle, artık iki grup arasındaki temel ayrım giderek “kim daha sofistike?” sorusundan çok “kim ne amaçlıyor?” sorusuna dönüşüyor.
Raporda; hacktivist bir grubun, maddi kazanç elde etmek için hareket eden bir siber suç örgütünün ve Rusya bağlantılı olduğu değerlendirilen bir casusun benzer YZ destekli yöntemler kullandığı belirtiliyor. Bu aktörler; daha önce ekipler halinde çalışan insanların gerçekleştirdiği keşif, saldırı araçlarının geliştirilmesi, sistemlere sızma ve çalınan verilerin işlenmesi gibi görevleri YZ aracılığıyla çok daha büyük ölçekte gerçekleştirebiliyor.
YZ biyolojik araştırmalarda da yeni bir risk alanı oluşturuyor
Anthropic’in raporu siber saldırılarla sınırlı değil.
Şirket, bazı kullanıcıların Claude’u biyolojik araştırmalarda da kötüye kullanmaya çalıştığını belirtiyor. Anthropic, raporunun biyolojik kötüye kullanıma ilişkin bölümünde önemli bir değişime dikkat çekiyor: Şirket artık güncel modellerinin karmaşık biyolojik araştırmalarda kullanımına ilişkin eski modellerde olduğu kadar güçlü bir güvence sunamıyor.
Biyolojik kötüye kullanım, gelişmiş YZ modelleri açısından uzun süredir en ciddi risk alanlarından biri olarak görülüyor. Endişe kaynağı olan şey, modellerin mevcut patojenleri daha tehlikeli hale getirecek veya yeni biyolojik ajanların geliştirilmesine katkıda bulunabilecek şekilde kullanılma riski.
Anthropic, 2025’te kullandığı Claude Opus 4 ve Claude Sonnet 4.5 gibi daha eski modeller üzerinde yapılan değerlendirmelerde, bu sistemlerin yetkin bir kullanıcının tehlikeli biyolojik araştırmalara destek olabilecek seviyenin oldukça altında olduğunu belirtiyor. Bu nedenle o dönemin güvenlik önlemleri daha sınırlıydı ve özellikle acemi kullanıcıların bilinen biyolojik silahları yeniden üretmesine yardımcı olabilecek bilgilere erişimini engellemeye odaklanıyordu. Ancak şirket, günümüzde kullanılan modellerin çok daha karmaşık görevlerde kullanılabildiğini, bu nedenle aynı güvenlik varsayımının artık yapılamayacağını söylüyor.
Bu belirsizlik nedeniyle Anthropic, özellikle Claude Fable 5 olmak üzere yeni modellerini daha sıkı biyolojik güvenlik önlemleriyle piyasaya sürdüğünü belirtiyor.
Bir YZ şirketi ilk kez kendi modellerinin gerçek dünyadaki kullanımına dair vaka sunuyor
Anthropic, bugüne kadar YZ’nin biyolojik silah geliştirmede kötüye kullanılma potansiyeline ilişkin kanıtların akademik araştırmalardan, hükümet raporlarından, uluslararası kuruluşlardan ve gazetecilik çalışmalarından geldiğini belirtiyor.
Buna karşılık YZ şirketleri, modellerinin doğrudan kullanılabileceği bu faaliyetlere ilişkin kendi gözlemlerini kamuoyuyla paylaşma konusunda büyük ölçüde sessiz kalmıştı. Anthropic bu raporla birlikte bu tabloyu değiştirdiğini söylüyor. Şirket, kendi modellerinin biyolojik silah geliştirilmesini destekleyebilecek biçimlerde kullanıldığı beş ayrı vaka tespit ettiğini açıklıyor.
İlk vakada, bir yeniden satış platformunun bölgesel erişim engellerini aşarak devlet destekli bir chikungunya araştırma projesinde çalışan virologlara YZ modellerine erişim sağladığı tespit edildi.
İkinci vakada; Anthropic, Claude’a erişimin resmî olarak desteklenmediği bir ülkede bulunan bir araştırmacının, bölgesel erişim kısıtlamasını aşmak için sanal özel sunucu (VPS) altyapısı kullanarak modele eriştiğini tespit etti. Araştırmacı, Claude’u haftalar boyunca kuş gribine yol açan avian influenza virüslerinin memelilere uyum sağlayabilmesine yönelik deneyleri planlamak için kullandı.
Üçüncü vakada Anthropic, yaklaşık bir düzine müşteriye Claude erişimi sağlayan bir yeniden satış hizmeti üzerinden yürütülen bir araştırmayı tespit etti. Araştırmacı, Claude Opus 5’i kullanarak orthopoxvirüslerin bağışıklık sisteminden kaçmasını sağlayabilecek özellikler üzerine bir araştırma projesi için kapsamlı bir fon başvurusu hazırlattı. Anthropic’e göre model, başvurunun tamamını yaklaşık bir saat içinde oluşturdu.
Dördüncü vakada ise devlet desteği alan bir araştırmacı, zehirli hayvanların salgılarında bulunan peptitleri sistematik olarak kataloglayan bir “zehir peptidi atlası” oluşturdu ve ardından bu verileri kullanarak yeni molekülleri bilgisayar ortamında tasarlayıp optimize eden bir üretken YZ sistemi geliştirdi. Araştırmanın odağında, sinir sistemini etkileyerek felce yol açabilecek veya ağrı giderici özellik gösterebilecek moleküller bulunuyordu. Yani burada YZ, mevcut biyolojik bilgileri özetlemek için değil, biyolojik olarak etkili yeni moleküllerin tasarlanması ve belirli özellikler açısından optimize edilmesi sürecinde kullanıldı. Anthropic, araştırmacının zarar verme amacı taşıdığını iddia etmiyor; ancak bu tür bir tasarım ve optimizasyon kapasitesinin kötüye kullanılma riski taşıdığını öne sürüyor.
Beşinci vakada Anthropic, ulusal destekli bir biyolojik araştırma programında çalışan bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarlamak için Claude’dan yararlandığını tespit etti. Araştırmacı, mevcut toksinlerin moleküler yapıları üzerinde hesaplamalı değişiklikler yaparak farklı özelliklere sahip yeni varyantlar tasarlamaya yönelik bir çalışma yürütüyordu. YZ bu süreçte, toksinlerin yeniden tasarlanmasına ilişkin hesaplamalı araştırmanın bir parçası olarak kullanıldı. Anthropic’in dikkatini çeken bir başka unsur ise araştırmacının çalışma hakkındaki ilerleme raporlarında kullanılan biyolojik ajanların kimliklerinin özellikle belirsiz tutulmasını istemesiydi. Şirket, araştırmacının zarar verme niyetinde olduğunu söylemiyor ve üzerinde çalışılan toksinlerin veya yapılan değişikliklerin ayrıntılarını açıklamıyor. Ancak bir YZ modelinin toksinlerin yapısının değiştirilmesi ve yeni varyantların tasarlanması gibi bir araştırma sürecine katkıda bulunabilmesi, Anthropic tarafından biyolojik kötüye kullanım açısından ciddi bir risk olarak değerlendiriliyor.
YZ Devletlerin Gözetim Operasyonlarının Bir Parçası Haline Geliyor
Anthropic; bu yılın Ocak ila Temmuz aylarında, Çin, İran ve Batı Afrika’daki devlet bağlantılı aktörlerin yanı sıra ticari casus yazılım şirketlerinin Claude’u gözetim operasyonlarını tasarlamak, yürütmek ve otomatikleştirmek için kullandığı çok sayıda vaka tespit ettiğini bildiriyor.
Şirketin kullanım politikaları, insanların rızası olmadan gözetlenmesini ve profillenmesini, ayrıca kişilerin temel hak ve özgürlüklerini ihlal edecek biçimde Claude kullanılmasını yasaklıyor. Anthropic’in incelediği vakaların tamamında bu kuralların ihlal edildiği ve aktörlerin şirketin kötüye kullanımı tespit etmeye yönelik kontrollerini aşmaya çalıştığı belirtildi. Şirket, ilgili hesapları kapattığını, tespit ettiği yöntemleri güvenlik sistemlerine eklediğini ve gerektiğinde elde ettiği bilgileri yetkili kurumlar ve sektör ortaklarıyla paylaştığını söylüyor.
Ancak vakaların asıl önemi, YZ’nin gözetim operasyonlarında yalnızca bir analiz aracı olarak kullanılmaması. Anthropic’e göre YZ artık gözetim altyapısının kurulmasından hedeflerin belirlenmesine ve operasyonların yürütülmesine kadar uzanan sürecin farklı aşamalarında kullanılabiliyor.
YZ gözetim sistemlerinin mühendisliğini üstleniyor
Anthropic’in aktardığı en dikkat çekici örneklerden biri Mali’de yaşandı. Mali ulusal güvenlik makamları için çalışan bir danışman, Claude’u kullanarak ülkedeki tüm mobil operatörlerin iletişimlerini toplu biçimde izleyebilecek bir iletişim önleme ve gözetim sistemi geliştirdi.
Sistem yalnızca iletişimleri toplamakla kalmıyor, elde edilen bilgilerden belirli kişiler hakkında ayrıntılı dosyalar oluşturulmasına da imkân sağlıyordu. Başka bir deyişle tek bir danışman, daha önce geniş bir mühendislik ekibinin geliştirmesini gerektirebilecek bir gözetim sisteminin tasarlanması ve uygulanmasında YZ’den yararlandı.
İran’da ise Claude, kullanıcıların sosyal medya hesaplarındaki kimlik bilgilerini toplamaya yarayan kötücül bir Firefox tarayıcı eklentisi geliştirmek ve kullanıma almak için kullanıldı.
Çin’de de benzer bir dönüşüm devlet kurumlarının çalışma biçiminde görüldü. Anthropic, Çin’in dinî işler alanındaki istihbarat birimlerinden birinin daha önce çok sayıda analist ekibinden oluştuğunu, ancak zaman içinde tek bir ofise indirildiğini ve bu ofisin YZ destekli bir asistan kullanarak ayda binlerce soruşturma üretmeye başladığını belirtiyor.
Bu örnekler, YZ’nin devlet gözetiminde yalnızca mevcut insan emeğini desteklemediğini; daha az sayıda insanla çok daha büyük miktarda istihbarat çalışması yapılmasını mümkün kıldığını gösteriyor.
YZ, yüz binlerce paylaşım arasından hedefleri seçiyor
Gözetim operasyonlarında YZ’nin ikinci önemli rolü, büyük miktarda veriyi işleyerek kimlerin hedef alınacağına karar verilmesine yardımcı olmak.
Anthropic’in incelediği vakalardan birinde; sosyal medya paylaşımları toplu halde Claude’a yüklendi ve modelden bu verileri yapılandırılmış hedef profillerine dönüştürmesi istendi. Oluşturulan profillerde kişilerin bulunduğu yer, demografik özellikleri ve siyasi eğilimleri gibi bilgiler yer alıyor, ayrıca model her değerlendirmeye bir güven skoru veriyordu.
İran’daki bir istihbarat biriminin ise yüz binlerce sosyal medya paylaşımını Claude’a analiz ettirerek 39 muhalif hesabı izlemek üzere seçtiği tespit edildi.
Çin’deki aktörler de sosyal medya içeriklerini ve haberleri siyasi hassasiyet düzeylerine göre sınıflandırmak ve kendi ifadeleriyle “kontrol” amacıyla potansiyel hedefleri belirlemek için YZ kullandı.
YZ operasyonu kendisi de yürütebiliyor
Anthropic’in aktardığı en komplike vakalardan biri ise Çin bağlantılı bir aktörün Suriye’deki Uygur hedeflerine yönelik operasyonunda görüldü.
Operatörün Arapça bilgisi bulunmamasına rağmen Claude günlerce çevrimiçi ortamlara sızarak hedef tespit etme operasyonunun farklı aşamalarında kullanıldı. Model, bölgesel lehçeye uygun mesajlar hazırladı, hedeflerden gelen yanıtları gerçek zamanlı olarak çevirdi ve operasyonun yürütülmesi sırasında bir “uzman” rolü oynayarak hazırlanan adımların kontrol edilmesine yardımcı oldu.
Operasyonun sonunda elde edilen bilgilerin bir istihbarat görevlisine aktarılmak üzere biçimlendirildiğinden şüpheleniliyor.
YZ devletlerin güvenlik bürokrasisine yerleşiyor
Anthropic’in dikkat çektiği üçüncü eğilim ise YZ’nin münferit operasyonların ötesine geçerek devletlerin güvenlik ve istihbarat bürokrasisine kurumsal olarak yerleşmeye başlaması.
Çin’deki bir devlet güvenlik bürosunun, YZ’nin gözetim operasyonlarında nasıl kullanılacağına ilişkin kurum içi bir kullanım kılavuzu hazırlamak için Claude’dan yararlandığı tespit edildi. Bu, YZ’nin kurumların standart çalışma yöntemlerinin bir parçası haline gelmeye başladığını gösteriyor.
İran’da ise birbirleriyle ortak kod veya personel paylaşmayan iki ayrı istihbarat biriminin, devlet tarafından işletilen merkezi bir gözetim ve vaka yönetim sistemindeki teknik ve kullanım sorunlarını çözmek için bağımsız olarak Claude’a başvurduğu görüldü.
Gözetimin ölçeği değişiyor
Anthropic’in vakalarında hedef alınan topluluklar da dikkat çekici. Operasyonların büyük bölümü, söz konusu devletlerin geçmişte de izlediği muhalif ve diaspora topluluklarına yönelmiş durumda. Bunlar arasında Hong Kong’daki demokrasi yanlısı kişiler, Asya’daki Tibetli ve Falun Gong toplulukları ile İran dışında yaşayan azınlık grupları ve İran hükümeti muhalifleri bulunuyor.
Dolayısıyla YZ burada yeni bir gözetim motivasyonu yaratmıyor. Daha önce de var olan devlet gözetimi pratiklerinin kapasitesini, hızını ve ölçeğini değiştiriyor.
Mali’deki örnekte tek bir danışmanın geniş kapsamlı bir iletişim izleme altyapısı geliştirebilmesi, İran’da yüz binlerce sosyal medya paylaşımının taranarak 39 hesabın hedef olarak seçilmesi ve Çin bağlantılı aktörlerin dil bilmeden başka bir ülkedeki hedeflerle günler süren operasyonlar yürütebilmesi aynı dönüşümün farklı örnekleri.
Konvansiyonel silahların geliştirilmesinde YZ kullanımı
Benzer bir durum konvansiyonel silahlar için de söz konusu.
Financial Times’ın aktardığı bir vakada, Anthropic, Yemen’deki Husilerle bağlantılı olduğu düşünülen aktörlerin Claude’u balistik füze yönlendirme, kontrol ve navigasyon yazılımları geliştirmek amacıyla kullanmaya çalıştığını açıkladı. Kullanıcıların bazı güvenlik önlemlerini aşmak için amaçlarını gizlediği ve faaliyetlerini farklı oturumlara böldüğü bildirildi. Anthropic, söz konusu hesapları kapattığını ve elde ettiği istihbaratı ilgili ortaklarla paylaştığını belirtiyor.
Anthropic, önceki tehdit raporundan bu yana Claude’un konvansiyonel silahların geliştirilmesi ve kullanılmasıyla bağlantılı faaliyetlerde de kötüye kullanıldığını tespit ettiğini bildiriyor. Şirketin tanımına göre bu kapsam; ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmatların geliştirilmesinin yanı sıra bu sistemlerin hedefleme ve kontrol yazılımlarını da içeriyor.
Son bir yıl içinde Anthropic’in tehdit istihbaratı ekipleri, Claude’u silahların tasarımı ve geliştirilmesine yönelik yazılımlar üretmek, silah programlarının ihtiyaç duyduğu istihbaratı toplamak ve gerekli malzemelerin tedarikini desteklemek amacıyla kullanan altı farklı aktör tespit etti. Vakaların üçü Çin, ikisi Rusya ve biri Yemen bağlantılıydı.
Güç dengesi değişiyor
Anthropic’in raporundaki örneklerin belki de en önemli sonucu, yapay zekânın yalnızca mevcut aktörlerin kapasitesini artırması değil, yüksek düzeyde teknik ve örgütsel kapasite gerektiren faaliyetlerin giriş maliyetini düşürmesi. Bir siber saldırının farklı aşamalarını otomatikleştirmek, büyük veri kümeleri arasından hedefler seçmek, karmaşık yazılımlar geliştirmek ya da bilimsel araştırmaların belirli aşamalarını yürütmek için daha önce çok sayıda uzmana ve uzun çalışma süreçlerine ihtiyaç duyulabiliyordu. YZ bu süreçlerin önemli bir bölümünü tek bir kullanıcıya veya küçük bir ekibe açabiliyor.
Bu durum, uluslararası siyasette güç dengeleri açısından da önemli bir değişime işaret ediyor. Devletler ve büyük teknoloji şirketleri hâlâ çok daha büyük kaynaklara sahip olsa da, gelişmiş teknolojik kapasiteye erişim giderek yalnızca büyük kurumların ayrıcalığı olmaktan çıkıyor. Tek bir kişi ya da küçük bir grup, daha önce ancak devlet kurumlarının, istihbarat örgütlerinin veya büyük şirketlerin sahip olabileceği ölçekte teknik operasyonlar yürütebilir hâle gelebiliyor. Siber saldırılar, gözetim, biyolojik araştırmalar veya diğer yüksek riskli faaliyetler için gereken kapasitenin daha küçük aktörlere yayılması, devlet dışı aktörlerin hareket alanını genişletebilir ve mevcut güç hiyerarşilerini daha öngörülemez hâle getirebilir.
