בסוף השבוע ביטלה טוויטר את האפשרות לערוך חיפושים הקשורים לטיילור סוויפט, לאחר שהרשת הוצפה בדימויים פורנוגרפיים של הכוכבת. המעריצות בהלם, וגם נשיא ארה"ב ג'ו ביידן. מה הסיפור?
בלילה שבין שבת לראשון זה קרה: הרשת החברתית X (טוויטר לשעבר) השביתה את האפשרות לערוך בה את החיפוש "טיילור סוויפט", לאחר שבמהלך סוף השבוע שטפו את הפיד צילומים פורנוגרפיים מזויפים שלטיילור סוויפטשהופקו באמצעות תוכנות AI. אחת התמונות שפורסמו נצפתה 47 מיליון פעמים לפני שהחשבון ממנו פורסמה נחסם.
>> יא מנאייכ: מה דיאנה גולבי עושה כשהיא במצב רוח מסוכן?
מיד עם שיגורם של מנועים גרפיים גנרטיביים אל אוויר העולם ב-2022 – כל אותן אפליקציות שמסוגלות לייצר דימוי באמצעות פקודה מילולית – עלה החשש כי יהיו מי שישתמשו בהם כדי לייצר דימויים פורנוגרפיים בכיכובם של דמויות תקשורתיות בולטות וכוכבים מפורסמים. מרבית אפליקציות ה-AI מכילות קוד שנועד למנוע בהן שימוש מהסוג הזה, אבל תמיד יש מי שישמח לאתגר את עצמו ולעקוף אותן, וזה בדיוק מה שקרה עכשיו.
על פי הדיווח של עמנואל מיברג (כן) ב"404 מדיה", מפיצי התמונות של סוויפט הם חברי קבוצת טלגרם שבה חולקים המשתתפים תמונות AI פורנוגרפיות של סלבז, כמו גם את הדרכים שבהן הם עוקפים את המגבלות והחסימות של יצרני התוכנות. במקרה הנ"ל אחד הכלים היה כפי הנראה התוכנה "מיקרוסופט דיזיינר" ומספר מעקפים שנמצאו בה.
>> מה שטוב לרותם סלע: הקוסמטיקאית הישראלית של כוכבת "חברים"
ב-2020 כבר נפגעו מספר כוכבות הוליוודיות, ובראשון אמה ווטסון וקריסטין בל, מסרטוני דיפ-פייק שהלבישו את פרצופן על גופן של שחקניות פורנו, שלא לדבר על זיופי פוטושופ פורנוגרפיים שמסתובבים באינטרנט מאז שנות ה-90, אך יצירות ה-AI הפורנוגרפיות נראות אינן עושות שימוש בדימויים קיימים ולכן נראות אותנטיות יותר. בשנה שעברה כב החלו מאמצי חקיקה בקונגרס שמטרתם לקטלג ייצור תמונות כאלה והפצתן כאקט של תקיפה מינית.
ביממה שלאחר הפצת התמונות השתלטו על טוויטר הסוויפטיות – מעריצות טיילור סוויפט המסורות ביותר – ופצחו בקמפיין שמטרתו הייתה לדחוק מרשימת הנושאים הטרנדיים את ההאשטג TaylorSwiftAI# והעלו לפסגה במקומו את ההאשטג ProtectTaylorSwift#. המעריצות לא היו לבד: גם נשיא ארצות הברית ג'ו ביידן ומנכ"ל מיקרוסופט סאטייה נדאלה התבטאו בחריפות נגד התופעה ונגד העוול שנגרם לסוויפט, כשאליהם מצטרף גם איגוד השחקנים החזק SAG-AFTRA בדרישה לחקיקה ולצעדי אכיפה נוקשים נגד יצרני תמונות מהסוג הזה.