המאבק בין יצירה אנושית לבינה מלאכותית הופך גם לשדה טכנולוגי. אם יש לך חבר או קולגה בתחום האמנות או הטכנולוגיה, אפשר לשתף את זה בשקט.
אמנים נלחמים בבינה מלאכותית מהלך הסיפור ועובדות מרכזיות
אמנים weltweit מתTESTים מול מחוללי תמונות מבוססי בינה מלאכותית, שמאומנים על יצירותיהם ללא הסכמתם. מחקר חדש מאוניברסיטת שיקגו מציג גישה התקפית: שדרוג של תמונות אמנותיות באמצעות שינויי פיקסלים זעירים, כך שהעין האנושית לא תבחין בהן, אך הרשת הנוירונית תזהה אותן כשייכות לסגנון שונה. כך, בקשת תמונה בסגנונו של אמן מסוים תניב תוצאה שגויה או מוטעית. השיטה מבוססת על זיהום של מאגרי אימון באמצעות תמונות 'מרעילות' שמשוות באופן מוטעה בין סגנונות. החוקרים מראים שאפילו כמות קטנה של מידע מזוהם יכולה לפגוע ביכולת של מחולל התמונות לייצר תכנים מדויקים. המתקפות מכוונות גם למחוללים שמתעדכנים באופן קבוע, מה שמעלים את הסיכון גם עבור דורות עתידיים של בינה מלאכותית.
עובדות
- מחוללי תמונות כמו DALL-E ו-Midjourney מאומנים על יצירות של אמנים ללא הסכמתם.
- חוקרים מאוניברסיטת שיקגו פיתחו שיטה להרעיל את מאגרי האימון של רשתות נוירונים באמצעות תמונות שנדמות לברואים אך מזוהות ככלי רכב.
- שינויים זעירים בפיקסלים יכולים להטעות רשתות נוירונים ולגרום להן לייצר תמונות שגויות, גם כשالעין האנושית לא מבחינה בהבדל.
- השיטה מאפשרת לאמנים להגן על סגנונם על ידי 'מסווה סגנון' שגורם למחולל לייצר תמונות בסגנון שונה מהמקור.
- גם מחוללים שמתעדכנים באופן קבוע יכולים להיות פגיעים להתקפות מסוג זה.
הסבר חדשות חזותי של Canto. כלי AI עשויים לסייע בהפקה. מדיניות עריכה
