סן פרנסיסקו דורשת מאפל וגוגל להסיר אפליקציות הפשטה

אפל וגוגל ניצבות בפני לחץ משפטי וציבורי חדש, לאחר שהתובע העירוני של סן פרנסיסקו, דיוויד צ'יו, דרש מהן להסיר מחנויות האפליקציות 13 יישומים שמאפשרים "להפשיט" אנשים בתמונות באמצעות בינה מלאכותית וליצור תמונות עירום מזויפות. במכתבי התראה ששלח לשתי החברות הוא טען כי המשך הפצת האפליקציות הללו מסייע להפצה של דימויים אינטימיים לא־הסכמתיים, וקרא להן גם להפסיק לעבוד עם המפתחים שעומדים מאחוריהן.

הטענה: החנויות מאפשרות הפצה של תוכן פוגעני

במוקד המהלך עומדות אפליקציות המכונות לעיתים "nudify", כלים שמשתמשים במודלים של בינה מלאכותית כדי לייצר תמונות דיפ־פייק בעלות אופי מיני מתוך תמונות רגילות של אנשים אמיתיים. הביקורת כלפי אפל וגוגל אינה מתמקדת רק בעצם קיומן של האפליקציות, אלא בשאלה כיצד עברו את מנגנוני האישור והבקרה של חנויות האפליקציות, למרות כללים האוסרים תוכן מיני או פורנוגרפי.

צ'יו, שכבר פעל בעבר נגד אתרים בתחום, טען בראיון כי שתי החברות הרוויחו ככל הנראה מיליוני דולרים מתשלומים בתוך האפליקציות הבעייתיות. לדבריו, עצם העובדה שהיישומים אושרו להפצה מצביעה על צורך בפיקוח הדוק יותר מצד מפעילות החנויות.

לא מקרה ראשון: המאבק מתרחב מעבר לאתרי רשת

המהלך הנוכחי אינו צעד ראשון מצד התובע העירוני. בעבר הוא כבר הגיש תביעה נגד 16 אתרים שאפשרו, לטענתו, להפוך תמונות של נשים ונערות אמיתיות לתוכן פורנוגרפי באמצעות AI. כעת קו האש מופנה גם אל פלטפורמות ההפצה עצמן — מה שמעיד על שינוי בגישה: לא רק יוצרי הכלים נושאים באחריות, אלא גם מי שמעניקים להם גישה נוחה למאות מיליוני משתמשים.

הדיון הזה מתרחב בשנה האחרונה גם לחברות טכנולוגיה אחרות. מועצת הפיקוח של מטא קראה לאחרונה לחברה לחזק את ההגנות על משתמשים מן השורה שנפגעים מדיפ־פייקים, בין היתר משום שהמערכות הקיימות נתפסות כממוקדות יותר באישי ציבור. גם xAI של אילון מאסק התמודדה עם תביעות הקשורות לדיפ־פייקים אינטימיים שנוצרו ללא הסכמה.

דו"ח שקדם למכתבים העלה טענות קשות

ברקע להתראה עומד גם דו"ח שפורסם מוקדם יותר השנה, ובו נטען כי אפליקציות מהסוג הזה הצליחו שוב ושוב לחמוק ממערכי הבקרה של אפל וגוגל. לפי הממצאים שפורסמו, חלק מהיישומים לא רק נשארו זמינים להורדה, אלא אף קודמו בפלטפורמות עצמן. עוד נטען כי כמה מהם סומנו כדירוג המתאים לכל הגילים, כך שגם ילדים יכלו להוריד אותם בקלות.

לפי אותם ממצאים, איתור האפליקציות לא דרש מאמץ מיוחד, וניתן היה להגיע אליהן דרך חיפושים פשוטים במונחים הקשורים ל"הפשטה" או "הסרה" של בגדים. אם הטענות הללו מדויקות, הן מעוררות שאלה רחבה יותר לגבי האופן שבו חנויות האפליקציות מיישמות בפועל את מדיניות התוכן שהן עצמן מציגות לציבור ולמפתחים.

תגובת גוגל והשתיקה מצד אפל

גוגל מסרה כי הסירה "מאות" אפליקציות שכללו יכולות הפשטה, ובהן חמש אפליקציות שעליהן הצביע צ'יו. עוד הדגישה החברה כי מדיניותה אוסרת תוכן מיני, וכי היא פועלת במהירות כאשר יישום שדווח נבדק ונמצא כמפר את הכללים. אפל, מנגד, לא מסרה תגובה לפני הפרסום.

ההתכתבות המשפטית מול שתי החברות מחדדת את הלחץ על חנויות האפליקציות להוכיח שהן לא מסתפקות במדיניות כתובה, אלא אוכפות אותה בפועל. בשלב זה הדרישה של סן פרנסיסקו מתמקדת ב-13 אפליקציות ובקשר העסקי עם המפתחים שלהן, בעוד גוגל כבר הודיעה על הסרות שביצעה.