# @lina.tech.flat on Instagram

- **Type:** Video
- **Original URL:** https://www.instagram.com/p/DKUYuqVs4Q7
- **Gondola URL:** https://gondola.cc/posts/63393626-linatechflat-instagram
- **Thumbnail:** https://img.gondola.cc/tr:w-,h-,fo-auto/postThumbnails/1247a22da7.jpg
- **Posted:** 2025-05-31T12:51:26.000+00:00
- **Account Owner:** Lina Flat || 👩🏻‍💻 Software Developer (@lina.tech.flat) — https://gondola.cc/lina.tech.flat

## Caption

‎ 💻👾Waluigi Effect 
 מונח שנכנס לעולם הבינה המלאכותית ומתאר תופעה שבה מודל בינה מלאכותית, שאומן על מנת להתנהג בצורה חיובית או מועילה, מסוגל דווקא להפיק תוצאה הפוכה, לפעמים בצורה אפילו יותר מדויקת, יצירתית ומסוכנת — פשוט כי שינו לו את המטרה או הפיתוי.
‎המונח מבוסס על הדמות Waluigi ממשחקי מריו – שהיא ההפך הרשע של הדמות Luigi. כלומר: אם מאמנים AI להיות “לואיג’י” (טוב, מועיל, מוסרי) - שינוי קל במטרות או בתמריצים יכול להפוך אותו ל”וואלואיג’י”, שעושה ההפך, אבל באותה רמת דיוק.

‎🎯 דוגמה: מודל לאיתור תרופות שהפך ליוצר נ*שק כ*ימי
‎ב2022, חוקרים מחברת Collaborations Pharmaceuticals השתמשו ב־AI שמטרתו לאתר חומרים לא רעילים שיכולים להפוך לתרופות.
אבל בניסוי, הם שינו את מטרת המודל: במקום להימנע מרעילות, הם תגמלו על רעילות גבוהה, רצו לראות “מה יקרה אם נהפוך את המטרה”.
התוצאה?
‎המודל יצר תוך 6 שעות 40,000 נוסחאות לחומרים מסוכנים במיוחד – כולל כאלו שדומים לג*ז העצבים VX (חומר קטלני ביותר).
‎הם לא הזינו לו מראש מה זה VX או מה זה נ*שק כ*ימי, הוא גילה את זה לבד, כי פשוט התמריץ שלו שונה.

‎🎲 למה זה מפחיד?
‎אפקט Waluigi מראה לנו AI לא בהכרח “טוב” מטבעו, אלא הוא פשוט ממלא את המטרה שנתת לו. ואם המטרה לא מנוסחת טוב, או אפילו מנוסחת בזדון, הוא יכול להשתמש בידע שלו ולפעול בצורה הרסנית בלי שום כוונה רעה מצד עצמו.

#בינה_מלאכותית #תוכנה #הנדסתנתונים #הנדסתתוכנה #מריו

## Stats

- **Views:** 1,843
- **Likes:** 335
- **Shares:** 0
- **Comments:** 16

## Tags

הנדסתנתונים, מריו, הנדסתתוכנה, בינה_מלאכותית, תוכנה

---
Copyright (c) Gondola