‎ 💻👾Waluigi Effect מונח שנכנס לעולם הבינה המלאכותית ומתאר תופעה שבה מודל בינה מלאכותית, שאומן על מנת להתנהג בצורה חיובית או מועילה, מסוגל דווקא להפיק תוצאה הפוכה, לפעמים בצורה אפילו יותר מדויקת, יצירתית ומסוכנת — פשוט כי שינו לו את המטרה או הפיתוי. ‎המונח מבוסס על הדמות Waluigi ממשחקי מריו – שהיא ההפך הרשע של הדמות Luigi. כלומר: אם מאמנים AI להיות “לואיג’י” (טוב, מועיל, מוסרי) - שינוי קל במטרות או בתמריצים יכול להפוך אותו ל”וואלואיג’י”, שעושה ההפך, אבל באותה רמת דיוק. ‎🎯 דוגמה: מודל לאיתור תרופות שהפך ליוצר נ*שק כ*ימי ‎ב2022, חוקרים מחברת Collaborations Pharmaceuticals השתמשו ב־AI שמטרתו לאתר חומרים לא רעילים שיכולים להפוך לתרופות.
אבל בניסוי, הם שינו את מטרת המודל: במקום להימנע מרעילות, הם תגמלו על רעילות גבוהה, רצו לראות “מה יקרה אם נהפוך את המטרה”.
התוצאה? ‎המודל יצר תוך 6 שעות 40,000 נוסחאות לחומרים מסוכנים במיוחד – כולל כאלו שדומים לג*ז העצבים VX (חומר קטלני ביותר). ‎הם לא הזינו לו מראש מה זה VX או מה זה נ*שק כ*ימי, הוא גילה את זה לבד, כי פשוט התמריץ שלו שונה. ‎🎲 למה זה מפ...