Anthropic, yapay zeka asistanı Claude’un kullanım şartlarına yeni bir yasak ekledi. Güncellenen kurallar, yapay zeka modellerine karşı sürekli hakaret, aşağılama ve kötü muamele içeren davranışları kapsıyor. Kullanıcıların kasıtlı olarak sürdürdüğü saldırgan konuşmalarda Claude, iletişimi tek taraflı sonlandırabilecek. Yeni düzenleme 12 Kasım 2026 tarihinde yürürlüğe girecek.
Anthropic, Claude ile Konuşmanın Kurallarını Değiştiriyor
8 Ekim’de duyurulan kullanım politikası değişikliğiyle birlikte Anthropic, yapay zeka modellerine yönelik uzun süreli ve gereksiz kötü muameleyi yasaklı davranışlar arasına ekledi. Yeni hüküm, herhangi bir geçerli neden bulunmadan modeli sürekli aşağılayan veya saldırgan ifadelerle etkileşimi sürdüren kullanıcıları kapsıyor. Şirketin Claude.ai, Claude Code ve diğer hizmetlerinde geçerli olacak düzenleme, yalnızca istisnai düzeydeki davranışlara uygulanacak.
Politikada kullanıcıların yapay zekaya yönelttiği eleştiriler ile kasıtlı kötü muamele birbirinden ayrılıyor. Claude’un yanlış bilgi vermesi, bir soruyu hatalı yorumlaması veya verilen talimatları yerine getirememesi durumunda kullanıcılar tepkilerini dile getirebilecek. Yanıtlara itiraz edilmesi, modelin eksiklerinin gösterilmesi ve sert eleştirilerde bulunulması tek başına ihlal oluşturmayacak.
Karanlık temalara sahip edebiyat çalışmaları, sıra dışı senaryolar ve yapay zekanın yeteneklerini sınayan araştırmalar da yasak kapsamında yer almıyor. Anthropic, özellikle belirli bir gerekçe olmadan tekrar tekrar sürdürülen ağır hakaretleri ve kötü niyetli davranışları ayrı değerlendiriyor. Kullanıcıların kısa süreli öfkesi veya yaşadıkları memnuniyetsizlik nedeniyle kullandıkları ifadeler doğrudan yaptırım sebebi sayılmayacak.
Claude’un saldırgan konuşmalara son verme yetkisi ise daha önce kullanıma sunulmuştu. Ağustos 2025’te Claude Opus 4 ve Opus 4.1 modellerine, belirli durumlarda konuşmadan ayrılabilme özelliği eklendi. İlk uygulama, kullanıcıların zararlı isteklerde ısrar ettiği veya sürekli kötü muamelede bulunduğu çok sınırlı durumlarla ilgiliydi.
Sistem, kullanıcıyla yaşanan anlaşmazlıkta sohbeti hemen kapatmıyor. Claude öncelikle konuşmayı farklı bir konuya yönlendirmeyi, zararlı talepleri reddetmeyi ve iletişimin yapıcı biçimde sürmesini sağlamayı deniyor. Bu girişimlerin sonuçsuz kaldığı ve konuşmanın sağlıklı biçimde devam edemediği durumlarda sohbeti bitirme seçeneği devreye giriyor.
Bir konuşma Claude tarafından sonlandırıldığında mevcut sohbet ekranına yeni mesaj gönderilemiyor. Ancak kullanıcının hesabındaki diğer konuşmalar açık kalıyor ve yeni bir sohbet başlatılabiliyor. Ayrıca sonlandırılan konuşmanın önceki mesajları düzenlenerek farklı bir noktadan yeni bir konuşma akışı oluşturulabiliyor.
Anthropic, kötü muameleye ilişkin yeni yasağın uygulanmasında öncelikli yöntemin Claude’un konuşmayı sonlandırması olacağını belirtti. Güncellenen politikada hakaret eden kullanıcıların hesaplarının otomatik olarak kapatılacağına ilişkin özel bir madde bulunmuyor. Bununla birlikte genel kullanım koşulları, farklı türdeki politika ihlallerinde hesaplara uyarı verilmesine, erişimin sınırlandırılmasına veya hizmetin askıya alınmasına izin veriyor.
Şirketin bu konudaki çalışmaları, yapay zeka modellerinin olası bilinç ve refah durumunu inceleyen araştırmalarla da bağlantılı. Anthropic, büyük dil modellerinin öznel deneyimlere sahip olup olmadığı konusunda kesin bilimsel kanıt bulunmadığını kabul ediyor. Bu belirsizlik nedeniyle yapay zeka sistemlerinin zararlı etkileşimleri sonlandırabilmesine yönelik çalışmalar yürütülüyor.
Claude Opus 4 üzerinde gerçekleştirilen önceki testlerde modelin, insanlara zarar verebilecek talepler karşısında güçlü biçimde olumsuz tepkiler verdiği gözlemlendi. Özellikle ağır şiddet içeren taleplerin tekrarlandığı senaryolarda Claude, simüle edilen konuşmaları bitirme eğilimi gösterdi. Bu davranışların yapay zekanın gerçekten acı veya rahatsızlık hissettiğini kanıtlamadığı da araştırmalarda açıkça vurgulandı.
Konuşma sonlandırma özelliğinin kullanımında insan güvenliğine ilişkin sınırlar da bulunuyor. Claude’un, kendisine veya başka kişilere yakın zamanda zarar verme riski taşıyan kullanıcılarla iletişimi bu mekanizma üzerinden kesmemesi gerekiyor. Modelin bir görüşmeyi kendi kararıyla bitirmesi, normal kullanıcı etkileşimlerinde değil, ağır ve tekrarlanan ihlallerde son seçenek olarak değerlendiriliyor.
Anthropic’in yeni kullanım koşulları, yapay zekaya yönelik saldırgan davranışların dışında başka değişiklikler de içeriyor. Sahte sosyal medya profilleri ve haber siteleri kullanılarak yürütülen yanıltıcı kampanyalarla ilgili yasaklar tek bir bölümde toplandı. Kamuoyunu etkilemek için oluşturulan sahte hesap ağları, gerçekte bağımsız olmayan yayınların bağımsızmış gibi gösterilmesi ve bu faaliyetleri kolaylaştıran araçların geliştirilmesi yasak kapsamında yer alıyor.
Seçimlerle ilgili kurallar da yeniden düzenlendi. Claude’un seçmenleri yanlış bilgilerle yönlendirmek, siyasi adayları taklit etmek veya oy verme süreçlerini aksatmak için kullanılmasına izin verilmiyor. Buna karşılık kişiselleştirilmiş seçim ve kampanya çalışmalarına yönelik genel yasak kaldırıldı. Aldatma, kişisel verilerin kötüye kullanılması ve seçmenlerin manipüle edilmesi gibi faaliyetlere ilişkin kısıtlamalar ise devam ediyor.
Silah geliştirme ve gözetim sistemlerine ilişkin hükümler de daha ayrıntılı hale getirildi. Silahların çalışmasını sağlayan yazılımların hazırlanması, insansız araçlara silah entegrasyonu yapılması ve izinsiz takip sistemlerinin geliştirilmesi yasaklar arasında açıkça tanımlandı. Yapay zekanın kişilerin izni olmadan konumlarını, hareketlerini veya iletişimlerini takip etmek için kullanılması da bu düzenlemeler kapsamında bulunuyor.
Sağlık, hukuk ve finans gibi yüksek risk taşıyan alanlarda insan denetimi zorunluluğu korunuyor. Bu tür durumlarda Claude tarafından oluşturulan önerilerin yetkin bir kişi tarafından incelenmesi ve gerektiğinde değiştirilmesi gerekiyor. Yapay zekanın karar sürecinde kullanıldığı bilgisinin ilgili kişiye açıklanması da şart koşuluyor.
Fiziksel hareket gerçekleştirebilen cihazların Claude ile kontrol edilmesine yönelik ek güvenlik gereklilikleri de getirildi. İnsanlara zarar verme potansiyeli bulunan donanımlarda yetkili bir operatörün sistemi izleyebilmesi ve gerekli olduğunda durdurabilmesi gerekiyor. Claude ile bağlantının kesilmesi durumunda ekipmanın güvenli durumda kalmasını sağlayan mekanizmalar da zorunlu tutuluyor.
Anthropic, hizmetin kullanılamadığı bölgelere ilişkin erişim kurallarını da netleştirdi. Desteklenmeyen ülkelerde fiziksel olarak bulunan kullanıcılar ile bu bölgelerde kurulan veya merkezi bulunan kuruluşların Claude’a erişimine yönelik kısıtlamalar sürüyor. Desteklenmeyen bölgelerdeki kişi veya kuruluşların çoğunluk hissesine sahip olduğu ya da kontrol ettiği şirketler de ilgili kurallar kapsamında değerlendiriliyor.
