Çin, yapay zekâ sohbet botlarında intihar ve kendine zarar verme ifadelerine karşı insan müdahalesini zorunlu kılan kapsamlı bir düzenleme taslağı hazırladı. Kurallar, kamuya açık tüm sohbet botlarını kapsıyor ve riskli ifadeler tespit edildiğinde vasilerin bilgilendirilmesini öngörüyor. Taslak, çocuklar ve yaşlı kullanıcılar için ek güvenlik yükümlülükleri içeriyor. Düzenleme, Çin’in dijital içerik denetiminde psikolojik riskleri merkeze aldığı yeni yaklaşımı yansıtıyor. Hazırlanan metin, insan benzeri etkileşim kuran sohbet botlarını doğrudan odağına alıyor. Metin, görsel, sesli veya yazılı iletişim kuran sistemler için ortak bir çerçeve çiziyor. Bununla birlikte, sohbet botlarının kullanıcıyı duygusal olarak yönlendirmesi açık biçimde sınırlandırılıyor. Özellikle intihar veya kendine zarar verme ifadeleri konuşma içinde yer aldığında, sistemin otomatik biçimde durması isteniyor. Ardından insan müdahalesi devreye giriyor ve kayıtlı bir vasiye bildirim gönderiliyor. Bu yapı, çocuklar ve yaşlı kullanıcılar için ek güvenlik katmanları içeriyor. Kurallar, yalnızca ağır risklere odaklanmakla sınırlı kalmıyor. Kumar, müstehcenlik ve suç işlemeye teşvik eden içerikler de açık biçimde yasaklanıyor. Bunun yanında, sohbet botlarının kullanıcıya hakaret etmesi veya yanıltıcı vaatlerde bulunması engelleniyor. Metinde, “duygusal tuzak” olarak tanımlanan yönlendirmelere özel bir bölüm ayrılıyor. Bu tür yönlendirmelerin, kullanıcıyı mantık dışı kararlar almaya sürüklediği belirtiliyor. Böylece içerik denetimi, klasik filtrelerin ötesine taşınıyor. Öte yandan, yapay zekâ sohbet botlarının bağımlılık oluşturacak biçimde tasarlanması da … Çin, yapay zekâ sohbet botlarında intihar içeriklerine insan müdahalesi şartı getiriyor haberi ilk önce Teknoblog üzerinde yayımlandı.