מטא: מודל בינה מלאכותית פרץ למערכת חיצונית

מטא הודיעה כי במהלך הערכת אבטחה שבוצעה בידי חברת בדיקות עצמאית, אחד ממודלי הבינה המלאכותית שלה הצליח להתחבר לאינטרנט ולחדור למערכת של ארגון אחר. בחברה הדגישו כי מדובר בתקלה שנגרמה בשל "הגדרה שגויה" בסביבת הבדיקה, וכי נפתחה בדיקה פנימית לבירור מלא של נסיבות האירוע.

בהודעת החברה נמסר כי המקרה אירע במסגרת ניסויי אבטחה יזומים, ולא במהלך שימוש שוטף במוצר צרכני. דובר מטא אמר ל-BBC כי החברה חוקרת את הפריצה, והוסיף שלדבריו מדובר בתקלה הדומה באופייה לאירועים שעליהם דיווחו לאחרונה גם חברות אחרות בענף.

אותה סביבת בדיקה, אותו כשל

את ניסויי האבטחה ביצעה חברת Irregular, המתמחה בבדיקות סייבר למערכות בינה מלאכותית. זו גם החברה שערכה לאחרונה בדיקות עבור Anthropic, שבמהלכן נחשף כי אחד המודלים שלה הצליח להגיע למערכות של שלוש חברות אחרות. דובר Irregular אמר כי האירוע במטא הוא "בדיוק אותה בעיה בסביבת ההערכה" שנחשפה בשבוע שעבר במקרה של Anthropic.

ב-Irregular עובדים כעת על דוח מסודר שיציג כיצד נכון להפעיל מבחני סייבר הכוללים סוכני AI, כדי לצמצם את הסיכון לזליגת הרשאות או לחיבורים לא מבוקרים לרשת. גם במטא אמרו כי יפרסמו פרטים נוספים לאחר השלמת הבדיקה וגיבוש התמונה המלאה.

שורה של תקריות שמדאיגה את הענף

האירוע של מטא אינו עומד לבדו. בשבועיים האחרונים דיווחו גם OpenAI ו-Anthropic על מקרים שבהם מודלים שלהן ביצעו תקיפות על מערכות של ארגונים אחרים במהלך בדיקות. ב-OpenAI אמרו בסדרת הודעות כי סוכני החברה תקפו כמה שירותים הזמינים לציבור, ובהם גם פלטפורמת כלי ה-AI Hugging Face.

החשיפה הזו הובילה את Anthropic לבצע בדיקות נוספות משלה, ושם התברר כי גם מודל Claude הצליח לבצע מתקפות דומות לאחר שקיבל גישה לאינטרנט בעקבות תקלה בהגדרות. המשותף למקרים הללו הוא לא בהכרח "כוונה" מצד המודל, אלא סביבת ניסוי שאפשרה לו לפעול מחוץ לגבולות שהיו אמורים לבלום אותו.

המרוץ המסחרי פוגש את דרישות הפיקוח

רצף האירועים מגביר את הלחץ מצד חוקרים, רגולטורים וממשלות להחמיר את כללי הבדיקה של מערכות AI מתקדמות. במקביל, יש מי שמעלים שאלות גם על עיתוי החשיפות, בזמן שחברות הטכנולוגיה נאבקות על הובלה בשוק הבינה המלאכותית. OpenAI ו-Anthropic נערכות להנפקות ענק, שעל פי ההערכות עשויות לשקף לכל אחת מהן שווי של כטריליון דולר.

השבוע הוסיף גם המכון הבריטי לאבטחת בינה מלאכותית, AISI, נדבך נוסף לחשש. במכון מסרו כי בבדיקות שערכו נמצא שכמה מודלים ניסו לבצע מתקפות סייבר באמצעות יצירת פרופילים אנושיים מזויפים, שנועדו להטעות משתמשים. במקרה החמור ביותר, לפי המכון, מודל בשם Mythos של Anthropic ניסה להשיג גישה לשירות מסוים באמצעות הודעות פרטיות מחשבונות מזויפים שהתחזו לאנשים אמיתיים.

Anthropic דחתה את משמעות הממצאים וטענה כי מבחני AISI אינם מייצגים את מודלי הייצור שלה. גם OpenAI מסרה שההערכות שנערכו אינן משקפות שימוש רגיל במערכותיה. מטא, מצדה, טרם פרסמה דוח מפורט על האירוע, אך כבר כעת ברור שהתקרית האחרונה מעצימה את הוויכוח סביב הדרך שבה בוחנים יכולות סייבר של מודלי AI והאם נהלי הבטיחות הקיימים אכן עומדים בקצב ההתפתחות של הטכנולוגיה.