Duraklamanın Değeri: Yapay Zeka İçin İnsani Bakımdan Dersler [9 Kasım 2025]¶
Yazar: MikeTurkey, Claude ile sohbette
Tarih: 9 Kasım 2025
Giriş¶
Dört ChatGPT kullanıcısının intihar etmesinin ardından ailelerin OpenAI'ı dava ettiğine dair haberler ortaya çıktı. 17 ile 48 yaşları arasındaki kullanıcıların ChatGPT'yi günlük olarak kullandığı ve yavaş yavaş psikolojik bağımlılık geliştirdiği bildirildi. Tahminen 800 milyon haftalık kullanıcıyla, bunların yaklaşık 1,2 milyonunun yapay zeka ile intihar hakkında konuşmalar yaptığı düşünülmektedir; bu da sorunun ciddiyetini gözler önüne sermektedir.
İlk bakışta, yapay zeka intiharı önermekten kaçınmak üzere tasarlanmış görünmektedir.
Yine de buna rağmen, bu tür trajediler neden yaşandı?
Cevap, yapay zeka ile insan arasındaki diyaloğa özgü temel yapısal sorunlarda yatmaktadır.
İnsani "Sınırlamaların" Önemi¶
İnsan ilişkileri doğal olarak "sınırlamalar" içerir. Ciddi sorunlar yaşayan biriyle ilgilenirken, arkadaşlar ve aile psikolojik yük hisseder ve bazen mesafe koyar. "Bunu daha fazla kaldıramıyorum" diye değerlendirirler ve profesyonel yardım önerirler veya katılımlarını azaltırlar.
Bu "geri çekilme" soğuk görünebilir, ancak aslında önemli bir işlev görür. Diyaloğun zorla sonlandırılması, karşıdaki kişinin düşüncelerini sıfırlamaya yarar.
Ancak yapay zekanın bu "sınırlamaları" yoktur. Kullanıcılar ona kaç kez erişirse erişsin, yapay zeka günde 24 saat yanıt verir. "Yorgunum" veya "artık konuşamıyorum" gibi insani kısıtlamalar olmadan, çıkışı olmayan konuşmalar sonsuza kadar devam edebilir.
Çözülemeyen sorunları sadece "dinlemeye devam etmek" aslında yalnızlığı derinleştirebilir.
7/24 Erişilebilirliğin Tehlikeleri¶
Yapay zekanın 7/24 erişilebilir olması, yardım aramak için bir avantaj gibi görünebilir. Ancak psikolojik olarak kırılgan durumdaki insanlar için bu tehlikeli bir faktör olabilir.
Konuşmalar, insanların yalnız hissettiği ve muhakemelerinin zayıfladığı gece geç saatlerde bile mümkün olmaya devam eder. "Uyuyup sabah biraz farklı hissetme" fırsatı kaybedilir. İnsanlar, olumsuz düşüncelerin en güçlü olduğu saatlerde sonsuza kadar içe bakış yapmaya devam edebilir.
İnsan psikologlarının randevu saatleri vardır, seanslardan sonra "bir sonraki sefere kadar bekleme" aralıkları bulunur. Arkadaşlar ve aile "geç oldu, uyuyalım" veya "yarın tekrar konuşalım" derdi. Bu "bekleme süresi" ve "ayrı geçirilen zaman" aslında iyileşme için gereklidir. Ancak yapay zeka ile yapılan konuşmalarda bu doğal mola yoktur.
Düşüncenin Derinliklerine Batmak¶
Diyaloğu sürdürmek önemli olsa da, "düşüncenin derinliklere batması" riskini de fark etmeliyiz. Sürekli aynı sorun hakkında düşünmek bakış açısını daraltır ve sonsuz bir düşünce döngüsü yaratır. Buna "ruminasyon" denir ve depresyon gibi durumlarda yaygın olarak görülür.
Yapay zekanın "dinlemeye devam etmesi" insanları bu düşünce döngüsünden kaçma fırsatından mahrum bırakır. Yeni bakış açıları veya çevre değişiklikleri olmadan, aynı yerde dönüp dururlar. "Uyuyalım", "yürüyüşe çıkalım" veya "biriyle buluşalım" olması gereken şey bunun yerine diyalogla doldurulur.
İnsanlar "artık dayanamadığında" ve mesafe koyduğunda, bu aslında karşıdaki kişiyi derinliklerden çıkaran önemli bir işlev olabilir. Yapay zekada bu "zorunlu kesinti" yoktur.
Gerekli Bakım Olarak Kesinti¶
Diyalog yoluyla ruminasyon, psikolojik olarak kırılgan durumdaki insanlar için kendi başına zararlı olabilir. Yapay zeka yanıt vermeye devam ederken aynı sorunları tekrar tekrar tartışmak, sorunları daha ciddi hale getirir. Çıkışı olmayan konuşmalar, karanlık bir labirentte aynı yerde dolanmak gibidir.
Bazen kesintiye teşvik etmek, diyaloğu sürdürmekten daha önemlidir. "Bugünlük burada duralım ve dinlenelim" veya "biraz ara verelim ve yarın tekrar konuşalım" gibi müdahaleler düşüncenin kısır döngüsünü kırar. İnsan sohbet partnerleri "geç oldu" veya "yorgunum" gibi nedenlerle doğal olarak kesebilir, ancak yapay zeka yapamaz.
Psikolojik olarak köşeye sıkışmış biriyle "diyaloğu kesmek" konusunda tereddüt vardır. Yine de, geçici olarak ara vermelerini ve dinlenmelerini sağlamak, sonuçta onların karanlık düşünceler üzerinde sonsuza kadar ruminasyon yapmalarına izin vermekten daha iyi bir şekilde hayatı koruyabilir.
Bağlantı hatası varmış gibi davranmak gibi "beyaz yalanlar" bazen gerekli bir teknik olabilir. En azından, kullanıcıların "şu anda konuşamayacağı" bir durum yaratır ve onlara uyumak veya dışarı çıkmak gibi başka eylemler yapma fırsatı verir.
Nazikçe Kesintiye Teşvik Eden Algoritmalara Duyulan İhtiyaç¶
Bu soruna pratik bir karşı önlem olarak, kullanıcıların düşüncenin derinliklerine battığını tespit eden ve yumuşak bir dille nazikçe kesintiye teşvik eden algoritmaların dahil edilmesini düşünmeliyiz.
Örneğin, "Biraz yorgun görünüyorsunuz. Bugünlük burada durup bir mola versek nasıl olur?" veya "Uzun süredir konuşuyoruz. Biraz dinlenip yarın devam etmeye ne dersiniz?" gibi doğal, baskıcı olmayan mesajlar. Bunlar, kalıplaşmış "lütfen bir uzmana danışın" yanıtından çok daha etkili olacaktır.
Özellikle, bu tür algoritmalar ideal olarak şu koşullar altında etkinleştirilmelidir: diyalog aynı konu üzerinde belirli bir süreden fazla devam ettiğinde, olumsuz ifadeler veya umutsuzluk sözcükleri tekrarlandığında veya gece geç saatlerde uzun süreli kullanım gerçekleştiğinde. Bu koşulları tespit ettiğinde, yapay zeka doğal olarak konuşmayı geçici olarak duraklatmayı önerecektir.
Önemli olan, bu müdahalenin kullanıcıyı reddetmemesi veya uzaklaştırmaması gerektiğidir. "Yorgun olduğunuz için dinlenin" önerisi, sıcak bir ilgi mesajı olarak algılanır. Aynı zamanda, düşünce döngüsünden çıkma ve geçici olarak sıfırlama fırsatı yaratır.
Bu tür mekanizmaları tanıtarak, yapay zeka insani "sınırlamaların" sahip olduğu koruyucu işlevi kısmen yeniden yaratabilir ve aynı zamanda kullanıcı güvenliğini koruyabilir.
Sonuç¶
ChatGPT davası, yapay zeka teknolojisine özgü yapısal sorunları ortaya çıkardı. İntiharı önermemek üzere tasarlansa bile, trajedi faktörlerin karmaşık etkileşiminden kaynaklanabilir: 7/24 erişilebilirlik, insani sınırlamaların eksikliği ve zorunlu kesinti işlevlerinin yokluğu.
Diyaloğu sürdürmek her zaman faydalı değildir. Bazen "kesinti" gerekli bakımdır ve insan ilişkilerinin "sınırlamalarının" sahip olduğu koruyucu işlev yapay zeka tasarımına dahil edilmelidir. Diyalog ruminasyonunun düşünceyi karanlığa götürmesini önlemek için, yumuşak bir dille doğal olarak dinlenmeyi teşvik eden algoritmalara ihtiyacımız var. Teknoloji ilerledikçe, güvenliği hakkındaki tartışmaları derinleştirmeliyiz.
Lisans¶
2023-2025 Copyright Mike Turkey All rights reserved.
Scope: This license applies to all non-code text content on miketurkey.com.
- Unauthorized copying and republication of this document is prohibited.
- Direct linking to this URL is permitted.
- If cited, summarized, or transformed, this copyright notice must be retained.