Duygu Okşaş
Yapay zekâ sohbet botlarının kullanıcıları hatırlama özelliği, kişiselleştirilmiş deneyim sunarken beklenmedik sorunları da beraberinde getirebiliyor. ABD’nin Utah eyaletindeki küçük bir kasabada yaşayan yazılım mühendisi ve yarı zamanlı belediye meclis üyesi Brian Del Rosario’nun deneyimi, bunun dikkat çekici örneklerinden biri.
WSJ’nın aktarımına göre, günlük yaşamında yapay zekâ sohbet botlarını yoğun biçimde kullanan Del Rosario, yemek planlamasından takvim yönetimine kadar birçok konuda bu araçlardan destek alıyor. Bu sohbetler sırasında evli olduğunu ve üç çocuğu bulunduğunu da sisteme aktardı.
Ancak eşiyle ayrılmasının ardından, gelecekteki bir seyahat planında chatbot’un eşini de hesaba katmaması için bu değişikliği sisteme bildirmesi gerekti. Del Rosario’ya göre sorun da tam bu noktada başladı.
Yapay zekâ sohbet botu, ayrılık bilgisini sonraki konuşmaların merkezine yerleştirdi. Takvimini düzenlemek için yardım istediğinde, yaşadığı boşanmanın onu fazla zorladığını öne sürdü. İş yerinde kötü geçen bir günle ilgili dert yandığında ise stresinin kaynağını yine boşanmaya bağladı.
Del Rosario, chatbot’a “Her fırsatta boşanmam hakkında yorum yapmanı istemiyordum” dediğini anlatırken, yapay zekânın bu konuyu sürekli gündeme getirdiğini söyledi.
Uzmanlara göre sohbet botlarının en güçlü yönlerinden biri, kullanıcıları zaman içinde tanıyarak daha kişiselleştirilmiş yanıtlar verebilmesi. Kullanıcının yazım tarzını öğrenebilmesi, beslenme tercihlerini hatırlaması ya da yarım kalan bir projeyi kaldığı yerden sürdürebilmesi bu avantajlar arasında gösteriliyor.
Ancak bu uzun hafıza, bazı riskleri de beraberinde getiriyor. Yanlış anlaşılan ya da güncelliğini yitirmiş bilgilerin sistemde kalması, kullanıcıda mahremiyet ihlali hissi yaratması ve hayatında yeni bir sayfa açmak isteyen kişiler için rahatsız edici hale gelmesi bunlardan bazıları.
Yapay zekanın unutmadıkları
ChatGPT’nin 2024’ün başında hafıza özelliğini devreye almasının ardından Google’ın Gemini’si, Anthropic’in Claude’u ve Microsoft’un Copilot’u da benzer sistemleri kullanıma sundu. Yaklaşımlar farklılık gösterse de temel mantık sohbet botunun kullanıcıdan öğrendiği bilgileri hatırlamasına ve gelecekteki yanıtlarını buna göre şekillendirmesine dayanıyor. Google’ın “Personal Intelligence” özelliği ise kullanıcının Gmail, Fotoğraflar ve YouTube etkinliklerinden de veri çekebiliyor.
Ancak burada önemli bir sorun var: Yapay zekâ, size ait olmayan bilgileri de size aitmiş gibi hatırlayabiliyor.
Örneğin çocuğunuz ya da ebeveyniniz adına sorduğunuz bir sağlık sorusu, sistem tarafından sizin kişisel durumunuz olarak algılanabiliyor. Çocuğunuzdaki DEHB belirtileri hakkında soru sorduktan haftalar sonra üretkenlik tavsiyesi istediğinizde, sohbet botu dikkat sorunları yaşadığınızı varsayarak önerilerini buna göre şekillendirebiliyor.
Google, bu tür bir sorunu Personal Intelligence özelliğine ilişkin bir blog yazısında kabul etti. Verilen varsayımsal örnekte, sistem kullanıcının golf sahasında çekilmiş yüzlerce fotoğrafını görerek onun golf tutkunu olduğu sonucuna varıyor. Oysa kullanıcı aslında sadece oğluyla birlikte orada bulunuyor. Senaryoda, kullanıcının golf sevmediğini ayrıca belirtmesi gerekiyor.
Google, kullanıcıların kişiselleştirme özelliğini açık tutarken belirli bilgilerin sohbetlerde yeniden gündeme gelmesini engelleyebileceği yeni bir özellik sunduğunu açıkladı. OpenAI ise Plus ve Pro aboneleri için hafıza sisteminin bilgileri bulma ve geri çağırma biçimini iyileştiren bir güncelleme yayınladığını belirtiyor. Microsoft da kullanıcıların belirli anıları ya da isterlerse tüm hafızayı güncelleyebileceğini veya silebileceğini, ayrıca kişiselleştirme ve hafıza özelliklerini tamamen kapatabileceklerini söylüyor. Anthropic ise konuya ilişkin yorum yapmadı.
Riskler, ortak kullanılan hesaplarda daha da büyüyor. Partnerler ya da küçük işletmeler arasında paylaşılan hesaplarda, bir kişinin özgeçmişini düzenlemek için chatbot kullanması, daha sonra aynı hesaptaki başka bir kullanıcının ilgisiz bir sorusuna kariyer değişikliğiyle ilgili yanıtlar verilmesine yol açabiliyor.
Bir diğer sorun ise bilgilerin zamanla güncelliğini yitirmesi. Altı ay önce maratona hazırlandığınızı chatbot’a söylemiş olabilirsiniz. Ancak daha sonra ön çapraz bağınızı kopardınız ve bunu sisteme hiç bildirmediniz. Buna rağmen chatbot, sizi hâlâ yoğun antrenman yapan biri gibi değerlendirip yemek planlarını ve egzersiz önerilerini buna göre hazırlayabiliyor.
Yapay zekâ geçmişinizi peşinizi bırakmayabiliyor
Brian Del Rosario, kilo vermeye çalıştığını söyledikten sonra yapay zekâ sohbet botunun bu bilgiyi her fırsatta gündeme getirdiğini, tatilde restoran önerisi isterken bile diyetine atıf yaptığını anlattı.
Benzer şekilde, ABD’de yaşayan İngiliz Mike Taylor da chatbot’un göçmen olduğunu öğrenmesinin ardından kendisine “gerçek bir İngiliz birası” önermesini anlamsız buldu. Taylor bu deneyimin ardından hafıza özelliğini kapattı.
Uzmanlara göre yapay zekâ hafızası, kullanıcıları fark ettirmeden belirli yönlere itebiliyor. Harvard Üniversitesi’nden Joshua Joseph, sistemin geçmiş konuşmalardan çıkardığı varsayımlarla önerileri şekillendirdiğini, ancak bunun kullanıcı tarafından çoğu zaman fark edilmediğini söylüyor:
“Örneğin alakasız bir konuşmada maddi kaygılar yaşadığınızı söylemiş olabilirsiniz. Haftalar sonra kariyer tavsiyesi istediğinizde chatbot, size daha uygun olabilecek işlerden ziyade daha yüksek maaşlı seçeneklere yönlendirebilir; çünkü sistem sizin finansal kaygı taşıdığınızı “hatırlıyordur.” Ancak chatbot hangi bilgiyi temel aldığını açıkça göstermediği için bu yönlendirmenin nedenini anlamanız zor olabilir.”
Yapay zekânın biliş üzerindeki etkilerini inceleyen Exeter Üniversitesi felsefe öğretim görevlisi Lucy Osler’a göre sohbet botları, kullanıcı hakkında paylaşılan bilgilerden bir kimlik anlatısı oluşturuyor ve bunu gerçekmiş gibi kullanıcıya geri yansıtıyor.
Yapay zeka yanlışları pekiştirebilir
Uzmanlar, yapay zekâ sohbet botlarının kullanıcıların geçmişte paylaştığı kaygı ve sorunları sürekli hatırlatmasının yalnızca rahatsız edici değil, bazı durumlarda zararlı da olabileceği uyarısında bulunuyor.
Exeter Üniversitesi’nden felsefeci Lucy Osler’a göre sohbet botları, kullanıcıyla uyumlu görünmek üzere tasarlandıkları için çoğu zaman kişinin gerçeklik algısını sorgulamak yerine onu destekliyor. Osler, bunun özellikle sanrısal düşünceleri pekiştirme riski taşıdığını söylüyor.
Bu endişeler, özellikle bu araçların onaylayıcı yapısına karşı daha savunmasız görülen genç kullanıcılar için düzenleme çağrılarını da beraberinde getirdi. ABD merkezli Electronic Privacy Information Center (EPIC), gençlerin chatbot güvenliğine yönelik bir yasa taslağı hazırladı. Taslakta öne çıkan maddelerden biri, sohbet botlarının zararlı ruh hâllerini zaman içinde beslememesi için her oturum sonunda hafızanın sıfırlanması.
Büyük yapay zekâ platformları kullanıcıların hafıza özelliğini tamamen kapatmasına ya da kaydedilen bilgileri görüntüleyip düzenlemesine ve silmesine izin veriyor. Ancak birçok kullanıcı bu ayarların farkında değil ya da hiç kontrol etmiyor.
Uzmanlar, kullanıcıların chatbot’un kendileri hakkında neler bildiğini düzenli olarak gözden geçirmesini, hassas konular için geçici sohbet modunu kullanmasını ve gerekirse hafıza özelliğini tamamen kapatmayı denemesini öneriyor. Çünkü sosyal medya profillerinde olduğu gibi, bu sistemler de farkında olsanız da olmasanız da gördüklerinizi şekillendiriyor.
Kaynak:
26/05/2026 16:21
