GPU vs CPU ולמה זה כלכך חשוב בבינה  מלאכותית? ‏CPU (Central Processing Unit) ‏ “המוח” של המחשב. הוא מבצע את כל הפעולות הכלליות של מערכת ההפעלה והתוכנות: פתיחת אפליקציות, הרצת קוד, שמירה וטעינה של קבצים וניהול זיכרון. יתרונו העיקרי הוא ביכולת קבלת החלטות מהירה וביצוע לוגיקה מורכבת, אך מספר הליבות בו קטן ולכן הוא פחות מתאים לעיבוד מסיבי במקביל. ‏GPU (Graphics Processing Unit) ‏ התחיל ככרטיס מסך שתפקידו לצייר פיקסלים ולהריץ גרפיקה תלת‑ממד, אך הוא בנוי אחרת לגמרי: יש בו מאות או אלפי ליבות קטנות שמסוגלות להריץ את אותו חישוב על כמויות אדירות של דאטה בו‑זמנית. דוגמה קצרה: כאשר צריך לחשב מיליון חישובים פשוטים, ‏CPU יעבור עליהם בזה אחר זה בכמה ליבות וייקח זמן, בעוד ש‑GPU יעבד את כולם במקביל ויסיים תוך שניות. למה זה קריטי ל‑AI? במודלים של בינה מלאכותית, במיוחד ברשתות נוירונים, קיימות שכבות רבות וחישובים מטריציוניים כבדים. ‏GPU מאפשר לבצע את החישובים האלה במהירות עצומה דוגמאות: • אימון GPT על ‏CPU‎ – חודשים; על ‏GPU‎ – שבועות • יצירת תמונה ב‑Stable Diffusion – שניות על ‏GPU‎ • שיחה בזמן א...