YAPAY ZEKÂ TEHLİKELİ HÂLE GELİRSE FİŞİNİ KİM ÇEKECEK? Dünyanın en büyük yapay zekâ şirketlerinden Anthropic’in kurucu ortağı Jack Clark, ileri yapay zekâ sistemleri için zorunlu bir “acil durdurma mekanizması” gerekebileceğini söyledi. Clark’a göre birçok yapay zekâ laboratuvarı, sistemlerini kapatabilecek farklı yöntemlere zaten sahip. Ancak asıl soru şu: Bu mekanizmaların gerçekten çalıştığını kim denetleyecek? Öneri; tehlikeli davranışlar gösteren veya insan kontrolünden çıkma riski taşıyan bir yapay zekâ sisteminin tamamen durdurulabilmesini ve bu yeteneğin bağımsız kuruluşlar tarafından doğrulanmasını içeriyor. Fakat mesele yalnızca teknik bir düğme geliştirmekten ibaret değil. Düğmeye kim basacak? Hangi tehlike seviyesinde sistem kapatılacak? Şirketlerin ticari çıkarları ile toplum güvenliği çatışırsa son kararı kim verecek? Bir ülkede kapatılan model, başka bir ülkede çalışmaya devam ederse ne olacak? Yapay zekâ hızla güçlenirken güvenlik mekanizmalarının aynı hızda geliş...