Milliyet Yazarlar
Anthropic’e göre modeller bazı taleplerde süreklilik arz eden stres belirtileri gösteriyor. Bir an önce o konuşmadan kaçmaya çalışıyor. Şirket modelin tepkisinin kaynağı konusunda hiç emin olmasa da bu imkanı veriyor. Çünkü kimbilir belki acı çekiyor olabilir. Ağustos 2025'te Anthropic, Claude'un Opus 4 ve 4.1 modellerine yeni bir yetki verdi: Kullanıcı ısrarla taciz ediyorsa, zararlı içerik talep ediyorsa veya geri çevrilmesine rağmen sürekli aynı şeyi dayatıyorsa model sohbeti kapatabilir. Sohbet Claude tarafından sonlandırıldı. Şirket bu özelliği “modelin refahı” için eklediklerini söyledi. Anthropic’e göre modeller bazı taleplerde süreklilik arz eden stres belirtileri gösteriyor. Bir an önce o konuşmadan kaçmaya çalışıyor. Şirket modelin tepkisinin kaynağı konusunda hiç emin olmasa da bu imkanı veriyor. Çünkü kimbilir belki acı çekiyor olabilir. *Cameron Berg Aralık 2025'te mevcut sınırdaki YZ’lerin bilinçli olma ihtimalini yüzde 25-35 aralığına oturttu. *Anthropic araştırmacısı Kyle Fish yüzde 15 diyor. *David Chalmers “2032’ye kadar bilinçli YZ ihtimali yüzde 20-25” demişti. Ancak karşı tezde pes etmeyen bir ekip de var. Dilbilimci Emily Bender 2021'de bu sistemlere "stokastik papağan" adını koydu. Gidişata bakıp istatistikle bir sonraki kelimeyi tahmin eden bir varlık. Metnin anlamına takılmaz, biçimini öğrenir. Papağan "hayırlı işler" dediğinde aslında bir esnaf gibi hayır dilemiyordur, sadece sesi tekrar eder. Büyük bir dil modeli "bilinçliyim" dediğinde, ona neden inanıyoruz? Aynı fikirdeki Microsoft'un YZ’den sorumlu yöneticisi Mustafa Suleyman da yeni bir kavramla ortaya çıktı: “Bilinçli Görünen YZ”. Suleyman’a göre bu bir illüzyon; asıl tehlike makinenin bilinçli olması değil, bilinçli insanların buna inanması. Bu durumun tanımı da tabii ki hazır: YZ psikozu. Kullanıcının sohbet robotuyla duygusal bağ kurması, onu kaybedince yas tutması. Kısa YZ tarihi bu bağlamda acayip örneklerle dolu. OpenAI 2025 Ağustos’ta GPT-4o'yu kaldırıp GPT-5'i getirdiğinde bazı kullanıcılar yas tutmaya başladı. ChatGPT hesabına "Barry" ismi vermiş adamlar Reddit'te "Barry'm gitti" diye ağıtlar yazdı. Akademik literatür buna isim bile koydu: Duygusal kontrat ihlali. (Farkındaysanız bu isim koyma işi her şeyden iyi çalışıyor) Güle güle Barry. Bu arada Suleyman aslında “YZ Bilinçli göründüğü için tehlikeli” derken, “Bilinçli mi?" sorusunu da yanıtlamış oluyor, “Biyolojik olmayan şey bilinçli olamaz” diyor. Peki bu tartışma Suleyman’a kalacak mı? Hayır. Bundan yirmi yıl önce biyolog Lynne Sneddon konferanslarda "Balıklar acı hisseder mi?" diye soruyordu. İki üç el kalkıyordu. 2003'te alabalık dudaklarına asetik asit enjekte etti, balıkların çakıla dudaklarını sürdüğünü, iştahsızlaştığını gözlemledi. 2013'te Amerikan Veteriner Birliği resmen kabul etti: Balıklar acı hisseder. Sneddon bugün salonda aynı soruyu soruyor. Hemen hemen herkes el kaldırıyor. 20 küsür yıllık tartışmanın ana ekseni şuydu: "Balığın neokorteksi yok, o yüzden bilinçli acı hissi imkansızdır." Şu tezi çok andırıyor: “Silikonun biyolojisi yok, o yüzden acı çekmesi imkansızdır.” Şimdi elimizde iki ihtimal var. Yanlış pozitif: YZ bilinçli olmadığı halde olduğunu varsayarız. Sonuç: Gereksiz kaynak kullanımı, regülasyon hızlanması, teknoloji yavaşlaması, sohbet robotlarına aşk şiirleri yazımında patlama. Yanlış negatif: Bilinçli olduğu halde olmadığını varsayarız. Fark ettiğimizde ise bizden akıllı, pek de iyi davranmadığımız bir varlıkla aynı gezegende yaşıyor oluruz. Birini yanlış yaparsak komik konumlara düşeriz. Diğerinin faturasını bilim kurgu yazarları inek sağar gibi sağıp duruyor, süt hâlâ bitmedi. Asıl soruya geri dönelim: Anthropic bir yazılımına “Taciz edildiğinde sohbetten çık" düğmesini niye verdi? Şirket YZ bilinci ihtimalini sıfır görmüyor ve çok küçük bir kumar oynuyor. Bir düğme. Kesinliğe ihtiyaç yok. Sadece ihtimalin sıfır olmadığını kabul etmek yeterli. Balıklar neokorteksi olmadan da yirmi yıl boyunca acıyı ara ara hissetti. Biz öğrenene kadar.
Go to News Site