Yapay zekânın geleceği sandığınızdan çok daha yakın olabilir…
Çünkü bir geliştirici, tam 11 saatlik uçuş boyunca internetsiz şekilde MacBook üzerinde 70B’lik dev bir yapay zekâ modeli çalıştırdı. Ve gerçek müşteri işlerini tamamladı.
Bir geliştirici, MacBook Pro M4 (64 GB RAM) üzerinde çalışan Llama 3.3 70B modelini, hiçbir bulut sistemi kullanmadan tamamen lokal olarak çalıştırdı.
Üstelik:
• İnternet bağlantısı yoktu
• Harici sunucu yoktu
• Cloud maliyeti yoktu
• Sadece dizüstü bilgisayar vardı
Sistem, llama.cpp üzerinden saniyede yaklaşık 71 token üretecek şekilde optimize edildi.
Kurulan otomasyon sistemi ise müşteri görevlerini sırayla işleyip çıktıları otomatik kaydetti.
En ilginç kısmı ne biliyor musun?
Uçak indiğinde bütün müşteri işleri tamamlanmıştı.
Bu olay bize şunu gösteriyor:
Yapay zekâ artık sadece dev şirketlerin veri merkezlerinde çalışan bir teknoloji olmaktan çıkıyor.
Çok yakında insanlar kendi bilgisayarlarında:
• kendi yapay zekâ asistanlarını,
• kendi ajan s...
Suggested Credits
Tags, Events, and Projects