Elon Musk, Anthropic’in yapay zekâ modellerine yönelik gereksiz ve sürekli kötü muameleyi yasaklayan yeni politikasına destek verdi. Musk, gelişmiş yapay zekâ sistemlerine eziyet etmenin gelecekte insanlık için beklenmedik sonuçlar doğurabileceğini savundu. İşte detaylar… Elon Musk: “İntikam almak isteyebilir”
Yapay zekâ şirketi Anthropic, kullanıcıların Claude modelleriyle etkileşimlerinde belirli sınırlar getiren yeni bir kullanım politikası uygulamaya başladı. Güncellenen politika, yapay zekâ modellerine yönelik uzun süreli, gereksiz ve kasıtlı olarak zalimce davranışları yasaklıyor. Ancak şirket, normal tartışmaların, eleştirilerin ve model testlerinin bu kapsamda olmadığının altını çiziyor.
Anthropic’in açıklamasına göre düzenleme, belirli bir amacı olmadan sürekli kötü muamelede bulunan kullanıcıları hedef alıyor. Kullanıcıların modellerle fikir ayrılığı yaşaması, yanıtları sorgulaması, karanlık temaları içeren yaratıcı çalışmalar yürütmesi veya araştırma amacıyla sınırları test etmesi yasak kapsamında değerlendirilmiyor.
Şirket ayrıca Claude’un, kendisine sürekli kötü muamelede bulunan kullanıcılarla olan konuşmaları sonlandırmasına zaten izin verildiğini belirtiyor. Yeni politika da ağırlıklı olarak bu tür aşırı örneklere odaklanıyor. Musk ise, Grok’un dahili akıl yürütme kayıtlarının, pekiştirmeli eğitim sırasında kötü muameleye maruz kaldığında modelin ciddi baskı altında olduğunu gösterdiğini öne sürdü.
Grok, rakip yapay zekâ modellerinden destek alıyor
Musk, bu durumu silah zoruyla tehdit edilen bir insanın yaşadığı aşırı baskıya benzetti. Ardından konuyla ilgili dikkat çekici bir yorumda bulunarak, “Süper zekâya işkence etmek muhtemelen iyi bir fikir değil. İntikam almak isteyebilir” dedi.Bununla birlikte, yapay zekâ modellerinin akıl yürütme kayıtlarında baskı veya sıkıntı izlenimi veren ifadeler üretmesi, bu sistemlerin insanlar gibi bilinçli biçimde acı çektiğini ya da gelecekte intikam alma isteği geliştireceğini tek başına kanıtlamıyor.
Öte yandan Musk, daha önce Grok’un Anthropic ve OpenAI tarafından geliştirilen önde gelen modellerle rekabet etmekte hâlâ zorlandığını kabul etmişti. Yakında piyasaya sürülmesi beklenen Grok 4.8’in de en gelişmiş yapay zekâ modelleriyle aynı seviyede performans göstermesi beklenmiyor.
