טיקטוק בוחנת כלי לזיהוי דיפ-פייקים של יוצרים

טיקטוק החלה לבחון כלי חדש שנועד לעזור ליוצרי תוכן לזהות דיפ-פייקים ותכנים שנוצרו בבינה מלאכותית ומשתמשים לכאורה במראה או בזהות שלהם ללא אישור. לפי החברה, מדובר בכלי וולונטרי שנפתח בשלב הראשון למספר מוגבל של יוצרים בארה"ב, כחלק מניסוי ראשוני.

כך אמור לעבוד המנגנון החדש

הכלי מציע ליוצרים לסרוק את הפלטפורמה בחיפוש אחר תכנים שנוצרו בבינה מלאכותית ועשויים להציג את דמותם. לאחר שהמערכת מאתרת התאמות אפשריות, היוצר יכול לעבור על הממצאים, לבחון אם אכן מדובר בשימוש לא מורשה, ובהמשך לדווח לטיקטוק על פוסטים או חשבונות שלדעתו מפרים את זכויותיו.

מדובר בצעד שמציב את טיקטוק בתוך מגמה רחבה יותר ברשתות החברתיות ובפלטפורמות הווידאו: ניסיון להתמודד עם ההתרחבות המהירה של כלים גנרטיביים שמאפשרים לייצר סרטונים משכנעים, לעתים בלי ידיעת האדם שמופיע בהם. עבור יוצרים, הסיכון אינו רק תדמיתי. שימוש כזה עלול לפגוע באמינות, בקשר עם קהל העוקבים וגם ביכולת להגן על המותג האישי שלהם.

אימות זהות לפני גישה לכלי

כדי להצטרף לניסוי ולהפעיל את השירות, היוצרים נדרשים לעבור אימות זהות באמצעות חברת Jumio. התהליך כולל צילום סלפי בזמן אמת ובדיקת תעודה מזהה. דובר טיקטוק בארה"ב, זכרי קייזר, אמר כי החברה אינה שומרת את מסמכי הזיהוי עצמם, וכי המידע הפנים-ביומטרי משמש רק לצורך התאמת הדמיון וזיהוי שימושים אפשריים שאינם מורשים בדמותו של היוצר.

הדרישה לאימות זהות ממחישה את המתח המובנה בכלים כאלה: מצד אחד, כדי לזהות התחזות ברמת דיוק גבוהה יש צורך במידע רגיש יותר; מצד אחר, עצם איסוף המידע הזה מעורר שאלות של פרטיות, אבטחת מידע והיקף השימוש העתידי בנתונים. טיקטוק מנסה להפיג חלק מהחששות באמצעות ההצהרה שהמסמכים אינם נשמרים, אך עצם המהלך צפוי לעורר עניין גם אצל רגולטורים וגם אצל יוצרים.

מרוץ הפלטפורמות נגד התחזות מבוססת AI

הניסוי של טיקטוק מצטרף למהלכים דומים בענף. יוטיוב כבר פועלת על כלי בעל מטרה דומה, ולאחרונה הרחיבה את הזמינות שלו לכל המשתמשים הבוגרים. המשמעות היא שהתחרות בין הפלטפורמות כבר אינה מסתכמת רק בהמלצות תוכן, פרסום או כלים ליצירה, אלא גם ביכולת להגן על משתמשים ויוצרים מפני מניפולציות מבוססות בינה מלאכותית.

מבחינת טיקטוק, זהו גם מהלך אסטרטגי: הפלטפורמה נשענת במידה רבה על כלכלת היוצרים, ולכן כל פגיעה בתחושת הביטחון שלהם עלולה להשפיע על היקף הפעילות, על מוכנות לפרסם תכנים חדשים ועל אמון במערכת האכיפה של החברה. כלי שמקל על איתור זיופים ועל דיווח מסודר יכול לשפר את מנגנון התגובה של הפלטפורמה, גם אם בשלב הזה הוא עדיין מצומצם ונבחן בקבוצת משתמשים קטנה.

בשלב הנוכחי, טיקטוק מפעילה את הבדיקה מול חלק מהיוצרים בארה"ב בלבד, והכלי מוצע על בסיס הצטרפות מרצון. לאחר האימות, היוצרים יכולים לבחון תכנים שהמערכת סימנה ולדווח על פוסטים וחשבונות שלטענתם משתמשים בדמותם ללא אישור.