OpenAI מטמיעה סימון סמוי בטקסט של ChatGPT

OpenAI הודיעה כי היא מתחילה להוסיף סימון דיגיטלי סמוי, הניתן לקריאה בידי מכונה, לטקסטים שמופקים באמצעות ChatGPT ו-Codex. בשלב הראשון ההשקה מוגבלת למשתמשים זכאים באיחוד האירופי, והחברה מדגישה כי בשלב ההשקה המהלך לא יהפוך לברירת המחדל עבור כלל המשתמשים בעולם.

לפי הודעת החברה, ההטמעה תתבצע במהלך השבועות הקרובים בכל המסלולים הזמינים למשתמשי האיחוד האירופי. ב-OpenAI הסבירו כי הבחירה במהלך אזורי נועדה לאפשר בחינה של השימוש בפועל, ללמוד מתגובות משתמשים וגופים מקצועיים, ורק אחר כך לשקול צעדים רחבים יותר.

מהו הסימון החדש ולמה OpenAI מוסיפה אותו

הטכנולוגיה, שמכונה textGrain, נועדה להטמיע בתוך הטקסט סימן בלתי נראה לעין, כך שכלי ייעודי יוכל לזהות אם התוכן נוצר באמצעות מודלים של OpenAI. בחברה טענו כי בבדיקות שערכו, השיטה החדשה השיגה תוצאות דומות ואף טובות יותר בהשוואה לגישות אחרות בשוק, ובהן SynthID של Google DeepMind — טכנולוגיה שמשמשת גם כבסיס למנגנון סימון שעליו הודיעה Anthropic באוגוסט.

מאחורי המהלך עומד גם לחץ רגולטורי גובר באירופה. חוק ה-AI של האיחוד האירופי מציב דרישות שקיפות חדשות בפני חברות בינה מלאכותית, ובענף כולו מנסים לגבש כלים שיאפשרו לסמן תוכן שנוצר על ידי מכונה. עם זאת, עצם קיומו של סימון מים אינו פותר את כל המחלוקות סביב תוכן גנרטיבי — במיוחד כשמדובר בשאלות של אמינות, אחריות וייחוס.

החברה מדגישה את המגבלות: לא הוכחה לאמת ולא לבעלות

OpenAI עצמה מצננת את הציפיות. בהודעתה הבהירה החברה כי textGrain "אינו מבטיח זיהוי אמין" בכל מצב. עוד הדגישה שהסימון אינו מאמת את נכונות המידע, אינו קובע מי הבעלים של הטקסט, אינו מודד עד כמה אדם היה מעורב בכתיבה, ואינו יכול לשמש כהוכחה לכך שהתוכן נכתב בידי אדם.

ההבהרה הזו משמעותית במיוחד נוכח הוויכוח הציבורי סביב שימוש בתוכן מבוסס AI במסגרות אקדמיות, מקצועיות ותקשורתיות. בפועל, סימון כזה יכול לסייע בזיהוי מקור אפשרי של טקסט, אך אינו יכול להכריע לבדו אם התוכן אמין, מקורי או מותר לשימוש.

בחברה ציינו גם נתונים ממבחני ביצועים פנימיים שלפיהם לא נרשמה פגיעה מהותית באיכות הטקסט בין גרסאות עם סימון לגרסאות ללא סימון. זהו פרט חשוב מבחינת OpenAI, משום שכל פגיעה בזרימה, בסגנון או בדיוק של המודל עלולה לעורר התנגדות מצד משתמשים ולקוחות ארגוניים.

פתיחה ללקוחות API וגישה מוגבלת לחוקרים

במקביל להשקה באירופה, OpenAI פותחת מסלול נפרד ללקוחות API בכל העולם: החל מהיום, ארגונים שמפתחים על גבי המודלים של החברה יוכלו לבחור באופן יזום לקבל פלטים עם סימון מים, בחלק מהמודלים. לדברי החברה, המהלך נועד לאפשר ללקוחות להתאים את רמת השקיפות לדרישות הרגולטוריות שלהם ולחוויית המשתמש שהם מבקשים לספק.

OpenAI הוסיפה כי היא פועלת גם מול שותפות הענן שלה, כדי לאפשר סימון דומה לפלטים של מודליה גם דרך שירותים חיצוניים בשבועות הקרובים. זהו צעד שעשוי להיות חשוב במיוחד עבור חברות שמשתמשות במודלים של OpenAI דרך פלטפורמות ענן ולא ישירות דרך הממשקים של החברה.

בנוסף, החברה פותחת גישה לכלי זיהוי עבור חוקרים וארגונים מקצועיים שיקבלו אישור. הכלי יוכל לדווח אם זוהה סימון של OpenAI בטקסט, אך לפי החברה לא יחשוף את זהות המשתמש ולא את הפרומפטים או השיחות שמהם הופק התוכן. עם זאת, ב-OpenAI החליטו שלא להנגיש את הגלאי לציבור הרחב בשלב הזה, בשל הסיכון להחמצת סימונים אמיתיים או לזיהוי שגוי.

המהלך מציב את OpenAI בשורה אחת עם חברות AI גדולות אחרות שמנסות להראות היענות לרגולציה האירופית, אך גם מזכיר עד כמה התחום עדיין רחוק מפתרון מוחלט. בשלב זה, ההשקה מתמקדת באיחוד האירופי ובמסלול בחירה ללקוחות ארגוניים, תוך הדגשה שסימון מים הוא כלי שקיפות מוגבל — לא תעודת אחריות לטקסט שנוצר בבינה מלאכותית.