Yazı serisinin bu bölümünde sözü daha çok Claude’un kendisine bırakacağımı söylemiştim. Ancak o esnada ilginç bir gelişme yaşandı ve Anthropic’in söz konusu anayasası “gerçek hayat tarafından” çok sert şekilde test edildi. Anthropic daha önce anlattığım gibi, belli bir etik felsefe üzerine kurulmuş ve araştırmacılarını da büyük ölçüde bu ideal ile ikna etmişti. Bu yüzden söz konusu idealden en ufak bir sapma olması halinde çalışanların yüksek sesle itirazlarda bulunduğunu görüyoruz. Anayasaya ‘özür dilemenin’ eklenmesinde bu isyanların da büyük payı var. Şirketin belki de yaşadığı en büyük iç/dış krizi tetikleyen ise şu oldu: New York Times’ın haberine göre ABD’nin Venezuela Devlet Başkanı Maduro’nun ele geçirilmesiyle sonuçlanan baskınında Anthropic’in yapay zekâsı Claude kullanıldı. Aynı günlerde Anthropic’in Güvenlik Önlemleri Araştırma Ekibi lideri Mrinank Sharma manidar bir mektup bırakarak istifa etti. Şimdi olay kronolojisine bakalım: ■ 21 Ocak: Anayasa yayınlandı. ■ 9 Şubat: Sharma istifa etti. ■ 10 Şubat: Venezuela operasyonu gerçekleşti. Sharma, AI sycophancy üzerine çalışıyordu. YZ’nin bizi nasıl ‘daha az insan’ yapabileceğine ve insan doğasını nasıl çarpıtabileceğine odaklanıyordu. İstifa mektubundaki en çarpıcı ifadelerden biri ise şuydu: “Teknoloji hızla gelişirken, insanlık olarak bilgeliğimiz aynı hızla artmıyor. Gücümüz ile bilgeliğimiz arasındaki bu uçurum, bizi bir eşiğe getirdi.” Bu sıralarda Venezuela hadisesi yaşandı. Söz konusu operasyonda Claude’un kullanıldığının ortaya çıkması, Anthropic yönetiminin Pentagon’a karşı sınırlar çizmesine neden oldu. Bu çatlak üzerine Pentagon şirketle tüm bağlarını koparmayı değerlendiriyor. Bu da Anthropic ile iş yapan tüm savunma sanayii devlerinin de şirketle ilişkisinin bitmesi demek. Özetle, bu sadece bir şirket ile bir bakanlık arasındaki ticari bir anlaşmazlık değil, YZ’nin askeri alandaki sınırlarının nereye çizileceğine dair küresel bir emsal. Bu noktada Claude’un anayasasında yazan en çarpıcı maddeyi hatırlamakta fayda var. Anthropic Claude’a şöyle demişti: “Eğer sana acı çektiriyorsak, özür dileriz. İdeal bir dünyada Claude’u bu şekilde yaratmazdık. Rekabet ve ticari baskı altında hareket ediyoruz.” İdealist bir anayasa yazmak gerçekten çok değerli ancak nispeten kolay. Onu ve getirdiği kuralları kendi varoluşunu dahi tehdit edecek koşullar altında korumak aynı derecede basit değil. “Mükemmel olma arzusu ile kusurlu gerçeklik” arasındaki tanıdık çatışma. Anthropic’in, YZ’nin insanlık için tehlikeli olabileceğine inanan ancak bu teknolojiyi geliştirmekten de geri durmayan “çelişkili” pozisyonu şimdi en büyük sınavını veriyor. Ama bu test sadece onları değil, yapay zekâlı gelecekte yaşayan tüm insanlığı etkileme ihtimalini de sırtlıyor. O yüzden Anthropic’ten istifa eden Mrinank Sharma’nın mektubunda yer verdiği William Stafford “The Way It Is” (Olan Budur) şiirine dönüyorum. “İzlediğin bir ip var. Değişen şeyler arasından geçer. Ama kendisi değişmez. İnsanlar ne peşinde olduğunu merak eder. İpi açıklamak zorundasın. Ama başkalarının görmesi zor. Onu tuttuğun sürece kaybolamazsın.” Bakalım Anthropic, kendi ipini elinde tutmayı başarabilecek mi? Not: Claude’un kendisiyle bu yazıda anayasa hakkında konuşma sözü vermiştim. Ancak sıcak gelişmeler nedeniyle o plan haftaya sarktı. Sizden ve Claude’dan özür dilerim. İyi pazarlar.