Veri Eksikliği ve Halüsinasyon Önleme (LangChain Örneği) Chatbot testlerinde, sistemin yanıt vermemesi (veya “bilmiyorum” demesi) bazen doğru bir davranıştır. Durum: Chatbot’a 10 doların altında bir dizüstü bilgisayar olup olmadığı sorulmuştur. Neden: Veri setinde böyle bir ürün olmadığı için, sistem halüsinasyon görüp uydurma bir ürün sunmak yerine, talimatlara uyarak “Bilmiyorum” (I don’t know) yanıtını vermiştir . Bu, yanlış bilgi vermemek adına tasarlanmış bir “yanıt vermeme” durumudur. Özet: İnsan Müdahalesinin Önemi Kaynaklar, bu tür “yanıt vermeme” veya hatalı yanıt durumlarının, AI araçlarının hala insan denetimine muhtaç olduğunu gösterdiğini vurgular. Yazar Sergio Pereira, AI tarafından üretilen kodların veya yanıtların her zaman bir insan tarafından gözden geçirilmesi, test edilmesi ve hataların (API anahtarlarının açıkta kalması veya kodun render edilmemesi gibi) düzeltilmesi gerektiğini belirtmektedir #generativeai #ai #yapayzekâ #yapayzeka #artificalintelligence