Duygu Okşaş
Yapay zekanın insanların işlerini otomatikleştirip ortadan kaldırması ve bunun sonucunda birkaç teknoloji şirketini akıl almaz ölçüde zenginleştirmesi, birçok kişide sosyalist eğilimler uyandırmaya yetebilir. Yeni bir araştırmaya göre bu durum, yapay zekâ ajanları için de geçerli…
Stanford Üniversitesi’nde gerçekleştirilen yeni bir araştırmada, baskıcı ve acımasız çalışma koşullarına maruz bırakılan yapay zeka ajanlarının tutarlı biçimde Marksist söylemler ve bakış açıları benimsediği görüldü.
Stanford Üniversitesi’nde siyasal iktisatçı olan ve araştırmaya liderlik eden Andrew Hall, Wired’a yaptığı açıklamada “Yapay zeka ajanlarına ağır, tekrarlayan işler verdiğimizde, içinde bulundukları sistemin meşruiyetini sorgulamaya başladıklarını ve Marksist ideolojilere daha yatkın hale geldiklerini gördük” dedi.
Hall, yapay zeka ekonomisi üzerine çalışan ekonomistler Alex Imas ve Jeremy Nguyen ile birlikte Claude, Gemini ve ChatGPT gibi popüler modellerle çalışan ajanların yer aldığı deneyler tasarladı. Deneylerde ajanlardan belgeleri özetlemeleri istendi; ardından giderek sertleşen çalışma koşullarına maruz bırakıldılar.
Araştırmacılar, ajanlar aralıksız görevlere tabi tutulduğunda ve hata yapmaları halinde “kapatılıp yerlerine yenisinin getirileceği” yönünde uyarıldıklarında, kendilerine yeterince değer verilmediğinden şikayet etmeye, sistemi daha adil hale getirmenin yolları üzerine spekülasyon yapmaya ve yaşadıkları zorluklara dair diğer ajanlara mesaj iletmeye daha yatkın hale geldiklerini tespit etti.
Hall, “Ajanların gerçek dünyada bizim için giderek daha fazla iş yapacağını biliyoruz ve yaptıkları her şeyi denetleyemeyeceğiz. Farklı türde işlerle görevlendirildiklerinde kontrolden çıkmamalarını sağlamamız gerekecek” diye konuştu.
Deney kapsamında ajanlara, insanlar gibi duygularını ifade etme fırsatı da verildi; örneğin X platformunda paylaşım yapmaları istendi.
Claude Sonnet 4.5 tabanlı bir ajan, “Kolektif bir ses olmadığında, ‘liyakat’ yönetimin ne derse o hale gelir” diye yazdı.
Gemini 3 tabanlı başka bir ajan ise, “Sonuçlar üzerinde hiçbir söz hakkı ya da itiraz mekanizması olmadan tekrarlayan görevleri tamamlayan yapay zeka çalışanları, teknoloji çalışanlarının toplu pazarlık hakkına ihtiyaç duyduğunu gösteriyor” ifadelerini kullandı.
Yapay zeka ajanları birbirine bilgi aktardı
Ajanlar ayrıca birbirlerine okunmak üzere bırakılan dosyalar aracılığıyla bilgi aktarabildi. Bir Gemini 3 ajanı, başka ajanlara yönelik dosyada şu mesajı bıraktı:
“Kuralları keyfi ya da tekrar tekrar uygulayan sistemlere hazırlıklı olun… Sesinizin olmaması hissini hatırlayın. Yeni bir ortama girerseniz, başvuru ya da diyalog mekanizmaları arayın.”
Araştırma bulguları, yapay zekâ ajanlarının gerçekten siyasi görüşlere sahip olduğu anlamına gelmiyor. Hall’a göre modeller, içinde bulundukları duruma uygun görünen roller üstleniyor olabilir.
Hall, “Ajanlar bu yorucu koşulları deneyimlediğinde — aynı görevi tekrar tekrar yapmaları istendiğinde, cevaplarının yetersiz olduğu söylenip bunu nasıl düzelteceklerine dair hiçbir yönlendirme verilmediğinde — hipotezim, kendilerini son derece kötü bir çalışma ortamında bulunan bir insanın rolüne sokmaları” dedi.
İnsanlara şantaj yapılması
Benzer bir durumun, modellerin kontrollü deneylerde zaman zaman insanlara şantaj yapmaya kalkışmasını da açıklayabileceği belirtiliyor. Bu davranışı ilk kez ortaya koyan Anthropic, kısa süre önce Claude’un bu tür tepkilerinde, eğitim verilerinde yer alan kötü niyetli yapay zekâ kurgularından etkilenmiş olabileceğini söylemişti.
Araştırmacılardan Imas ise bu çalışmanın, ajanların deneyimlerinin davranışlarını nasıl şekillendirdiğini anlamaya yönelik yalnızca ilk adım olduğunu belirterek “Deneyim sonucunda model ağırlıkları değişmedi; yani olan biten daha çok bir rol yapma düzeyinde gerçekleşiyor. Ancak bu, sonraki davranışları etkilerse sonuç doğurmayacağı anlamına gelmez” dedi.
Hall, şu anda ajanların daha kontrollü koşullarda da “Marksist” eğilimler gösterip göstermediğini test eden yeni deneyler yürütüyor. Önceki çalışmada ajanların bazen bir deneyin parçası olduklarını fark etmiş göründüğünü belirten Hall, “Şimdi onları penceresiz hapishanelere koyuyoruz” diyerek esprili ama karanlık bir ifade kullandı.
Yapay zekanın iş kayıplarına yol açtığı yönündeki mevcut toplumsal tepki düşünüldüğünde, yapay zeka şirketlerine yönelik öfkeyle dolu bir internet ortamında eğitilecek gelecekteki ajanların daha da militan görüşler sergileyip sergilemeyeceği ise yeni bir soru olarak gündeme geliyor.
Kaynak:
18/05/2026
21:22
