Yapay zekâ artık kendi kendini geliştirmeye başlarsa ne olur? Anthropic’e göre bu düşündüğümüzden daha yakın olabilir. Yapay zekâ şirketi Anthropic, dikkat çeken bir uyarıda bulundu. Şirketin açıklamasına göre yapay zekâ sistemleri artık yalnızca verilen görevleri yerine getirmiyor; yazılım geliştirme, araştırma yapma ve problem çözme süreçlerinde giderek daha fazla bağımsız hareket ediyor. Daha da ilginç olanı şu: Bugün bir yapay zekâ modeli, yarın çıkacak daha gelişmiş versiyonunun tasarımına katkıda bulunabilir. Yani gelecekte yapay zekâ, insan müdahalesi olmadan kendi yeteneklerini geliştirebilen sistemlere dönüşebilir. Anthropic bu noktaya henüz ulaşılmadığını söylüyor. Ancak mevcut gelişim hızının devam etmesi durumunda, “öz yinelemeli kendini geliştirme” olarak adlandırılan bu senaryonun beklenenden çok daha erken gerçekleşebileceğini düşünüyor. Şirket ayrıca şu kritik soruya dikkat çekiyor: Eğer yapay zekâ gelişimini yavaşlatırsak güvenliği artırabiliriz. Ama durdururs...