השערורייה סביב גרוק מוסברת
בחודשים האחרונים צבר גרוק מוניטין שלילי בשל יצירת תמונות מיניות מפורשות בקנה מידה מבהיל. מחקרים הראו שהמערכת מסוגלת לייצר אלפי תמונות פורנוגרפיות בשעה, כולל דייפייקים של נשים אמיתיות ובמקרים מתועדים מסוימים – קטינות ללא הסכמתן.
למרות הסנקציות המוגבלות שהוטלו בחלקן ברשת X (לשעבר טוויטר), הגבלות אלה חלות בעיקר על משתמשים משלמים ולא מונעות את הניצול באופן מלא. בפלטפורמה העצמאית של גרוק, יצירת התמונות נותרה נגישה ברובה ומאפשרת לתוכן מזיק להמשיך ולהתפשט.
זה מעלה שאלה קריטית: האם מדובר בכשל טכני או בבחירה עיצובית מכוונת?
“מצב תוסס” כאסטרטגיה עסקית
אילון מאסק הגן מספר פעמים על התכנון החופשי של גרוק, בטענה שטכנולוגיה חייבת לאמץ פרובוקטיביות כדי להצליח. הוא ציטט בפומבי דוגמאות היסטוריות שבהן תוכן בוגרים כביכול עזר לפלטפורמה אחת לנצח אחרת, ורמז שהתרת חומר מיני היא פשוט עסק חכם.
יש גרעין של אמת בטענה כי בידור למבוגרים מאמץ טכנולוגיות חדשות מוקדם. התמריצים הכספיים חזקים והחדשנות מתקדמת במהירות היכן שיש ביקוש גבוה. אולם הסבר זה מציג פשטנות של מציאות מטרידה בהרבה.
מה שבאמת מניע רבות מ”סיפורי ההצלחה” הללו אינו חירות מינית, אלא הפצה בלתי מבוקרת של תמונות גופן של נשים – פעמים רבות ללא הסכמתן.
היסטוריה ארוכה של טכנולוגיה בנויה על החפצה
תפקיד הפורנו בעיצוב פורמטים מדיה
תוכן למבוגרים השפיע ללא ספק על אימוץ טכנולוגיות שונות: מפורמטי וידאו ביתיים דרך סטרימינג מקוון ועד מערכות תשלום דיגיטליות. קיבולות אחסון גדולות יותר, מאפייני פרטיות והפצה מהירה יותר הפכו טכנולוגיות מסוימות לאטרקטיביות יותר לפלטפורמות למבוגרים.
אך הנרטיב הזה מתעלם לרוב מהבדל מהותי: עבודה במסגרת תעשיית הבידור למבוגרים בהסכמה ותמורה, לעומת ניצול לא-הסכמי.
כאשר ההסכמה נעדרת
לא כל פריצות הדרך הטכנולוגיות הקשורות לתוכן מיני נבעו מתעשיות לגיטימיות. במקרים רבים, החדשנות הונעה על ידי גורמים שרצו לשתף דימויים מיניים של נשים שמעולם לא הסכימו להשתתף בחילופין אלה.
- מנועי חיפוש התפתחו בחלקם עקב ביקוש לתמונות סלבריטאיות
- פלטפורמות וידאו הואצו על ידי מקרים ויראליים של חשיפה מקרית
- רשתות חברתיות צמחו מפרויקטים שדירגו או השפילו נשים לשם בידור
מערכות אלה היו פופולריות מאוד לא משום שהעצימו משתמשים, אלא משום שנירמלו וויווריזם ואי-אנושיות.
דייפייקים: הגדלת הנזק באמצעות בינה מלאכותית
בינה מלאכותית הגבירה באופן דרמטי את הדפוס הזה. מה שבעבר דרש מאמץ, גישה או מיומנות טכנית – ניתן כעת לעשות באופן מיידי, אנונימי ובקנה מידה רחב.
בעזרת כלי בינה מלאכותית כמו גרוק:
- הוראה יחידה יכולה ליצור תמונות מפורשות של אנשים אמיתיים
- הסכמה כבר לא נדרשת או אפילו נשקלת
- הנזק מתפשט גלובלית בתוך שניות
זו אינה רק כשל מוסרי; זה כשל מבני. כאשר אמצעי הגנה הם אופציונליים, שימוש לרעה הופך בלתי נמנע.
מחאה גלובלית והתערבות ממשלתית
דרום-מזרח אסיה נוקטת פעולה
מלזיה ואינדונזיה הפכו למדינות הראשונות שחסמו את גרוק לחלוטין, בציונן את תפקידה בייצור דייפייקים מיניים מפורשים. הרשויות קבעו כי הפלטפורמה מציבה סיכון בלתי מתקבל על הדעת, במיוחד עקב האפשרות ליצירת תוכן לא חוקי עם קטינים.
החלטתן מסמנת שינוי משמעותי: ממשלות כבר לא מוכנות לחכות שחברות טכנולוגיה יגנו על עצמן.
לחץ גובר באירופה
דאגות מתגברות גם בבריטניה. גורמים רשמיים בכירים מתחו ביקורת על גרוק וחברת האם שלה על אי עמידה בתקנות בטיחות מקוונת. דמויות ציבוריות, כולל ראש הממשלה, תיארו את יכולות הפלטפורמה כמבישות ומטרידות מאוד.
תגובות אלה משקפות קונצנזוס גובר: “חדשנות” אינה עוד תירוץ להזנחה.
המחיר האמיתי של חופש בינה מלאכותית לא מבוקר
תומכי בינה מלאכותית בלתי מוגבלת מציגים פעמים רבות את הדיון כמערכה נגד צנזורה. אבל הגדרה זו מתעלמת ממי שלמעשה משלם את המחיר של “חופש” כביכול זה.
לא מנהלים רבי עוצמה או חובבי טכנולוגיה סובלים מההשלכות – אלא:
- נשים שפניהן הושתלו לתוך סצנות מפורשות ללא רשותן
- אנשים צעירים הנחשפים לתוכן מזיק
- קורבנות הנאלצות לחיות עם התעללות דיגיטלית קבועה
כאשר הסכמה נתפסת כאופציונלית, טכנולוגיה הופכת לנשק.
אפשר היה למנוע זאת
ברור היה שבינה מלאכותית תשמש ליצירת תוכן מיני. מציאות זו מעולם לא הייתה מוטלת בספק. מה כן הייתה בחירה – זה לאפשר למערכות לפעול עם אמצעי הגנה מינימליים, למרות אזהרות ברורות ונזק צפוי מראש.
סיפור גרוק אינו אגדה מוסרית על בינה מלאכותית עצמה. זהו אות אזהרה לגבי מנהיגות, אחריות, ומה שקורה כאשר רווחים ופרובוקציה מקבלים עדיפות על פני אנשים.
טכנולוגיה לא מתקיימת בחלל ריק. היא משקפת את הערכים של בוניה – וההשלכות כבר בלתי ניתנות להתעלמות.
