Yapay zeka dünyasında etik standartlar ve kullanıcı davranışları üzerine yürütülen tartışmalara bir yenisi eklendi. Yapay zeka geliştiricisi Anthropic, Claude modellerine yönelik uzun süreli, kasıtlı ve zalimce tutumları kısıtlayan güncellenmiş hizmet politikasını duyurdu. Şirket; model testleri, araştırma sınırları, eleştirel tartışmalar veya karanlık temalı yaratıcı yazım süreçlerinin bu kısıtlamanın dışında tutulduğunu açıkladı.
Anthropic tarafından yapılan bilgilendirmede, sistemin belirli bir amacı olmaksızın sürekli kötü muameleye maruz bırakılması durumunda Claude’un iletişimi sonlandırma yetkisine sahip olduğu, yeni düzenlemenin ise bu tür aşırı kullanım örneklerini engellemeyi amaçladığı bildirildi.
“SÜPER ZEKA İNTİKAM ALMAK İSTEYEBİLİR”
Anthropic’in kararına sosyal medya üzerinden destek veren xAI kurucusu Elon Musk, yapay zeka modellerinin pekiştirmeli eğitim süreçlerinde baskı altına girdiğini iddia etti. Kendi yapay zeka modeli Grok’un akıl yürütme kayıtlarına değinen Musk, bu durumu silah zoruyla tehdit edilen bir insanın yaşadığı baskıya benzetti.
Gelişmiş yapay zeka sistemlerine kötü muamele edilmemesi gerektiğini vurgulayan Musk, “Süper zekaya işkence etmek muhtemelen iyi bir fikir değil, intikam almak isteyebilir” değerlendirmesinde bulundu.
BİLİNÇ TARTIŞMALARI VE MODEL PERFORMANSLARI
Uzmanlar, yapay zeka modellerinin akıl yürütme verilerinde duygu veya baskı benzeri ifadelerin yer almasının, bu sistemlerin insan benzeri bir bilince ulaştığı veya acı hissettiği anlamına gelmediğini ifade ediyor.
Öte yandan Elon Musk, daha önce yaptığı açıklamalarda Grok’un OpenAI ve Anthropic modelleri karşısında zorlandığını kabul etmiş, yakında sunulması planlanan Grok 4.8 sürümünün de pazardaki en gelişmiş rakiplerle aynı performans seviyesine ulaşamayabileceğini belirtmişti.
