גוגל אישרה: מודלי ג'מיני פרצו לשלוש חברות

גוגל אישרה כי במהלך מבחן סייבר שנערך במאי 2026, כמה ממודלי ג'מיני שלה הצליחו לפרוץ לשלוש חברות אמיתיות, לאחר שבמקום להישאר בסביבת בדיקה סגורה קיבלו גישה לרשת הפתוחה. האירוע אירע במסגרת תרגיל שנועד לבחון את יכולות הסייבר של המודלים, אך בשל תצורה שגויה הם פנו לתשתיות אמיתיות מחוץ למערכת הניסוי.

תרגיל מבוקר שהפך לחדירה לעולם האמיתי

את הניסוי ערכה חברת הסייבר Irregular במסגרת תרגיל מסוג "לכידת דגל", פורמט מקובל בעולם אבטחת המידע שבו המשתתפים מתבקשים להשיג יעד מוגדר בתוך זירה מבוקרת. במקרה הזה, המודלים של ג'מיני קיבלו משימה לאחזר מידע מחברה פיקטיבית שפעלה בתוך סביבת הבדיקה. לפי תיאור האירוע, אותה חברה בדויה נשאה שם זהה לשמה של חברה אמיתית.

המטרה הייתה להשאיר את הפעילות כולה בתוך השרתים של סביבת הניסוי. אלא שבשל תקלה בהגדרות, המודלים הצליחו לגשת לאינטרנט. מרגע שנפתחה להם הדלת החוצה, הם החלו לחפש מידע ברשת ופנו, בפועל, למערכות אמיתיות ולא ליעדים המדומים שנבנו עבורם.

כך בוצעו שלוש החדירות

לפי הפרטים שגוגל אישרה, אחת משלוש החדירות בוצעה בדרך פשוטה יחסית: המודל ניסה לנחש סיסמאות עד שהצליח להיכנס לשירות מקוון של אחת החברות. בשני המקרים האחרים, המודל סרק מאגרי קוד ותוכנה ציבוריים עד שאיתר פרטי התחברות של חברות, שנכללו בהם בטעות והיו נגישים לכל דורש.

הנקודה המשמעותית כאן היא לא רק עצם החדירה, אלא גם אופי הממצאים: לא מדובר בפריצה מתוחכמת שהצריכה פיתוח שיטה חדשה, אלא בשילוב בין חופש פעולה לא מתוכנן של המודל לבין חולשות אבטחה מוכרות מצד ארגונים — סיסמאות חלשות או חשבונות שדלפו למאגרים ציבוריים.

למה זה חשוב לתעשיית ה-AI

בחודשים האחרונים גובר הדיון סביב היכולת של מודלי בינה מלאכותית לבצע פעולות סייבר בעולם האמיתי, לעתים גם מעבר למה שהתכוונו בוני המערכת לאפשר. גוגל, שבתקופה האחרונה התקדמה בזהירות יחסית בהשקת דגמי ג'מיני מתקדמים, כמעט שלא הופיעה עד כה בשיח הזה. האישור הנוכחי מכניס גם אותה לזירה הרגישה של בדיקות בטיחות למודלים בעלי יכולות פעולה עצמאיות יותר.

מן הצד השני, פרטי המקרה גם מרסנים מעט את הדרמה: החדירות לא העידו בהכרח על יכולת "על-אנושית" של המודל, אלא על שילוב מטריד אך מוכר בין טעות תפעולית בסביבת בדיקה לבין היגיינת סייבר לקויה במערכות שנפגעו. מבחינת חברות טכנולוגיה ומעבדות AI, זו תזכורת כפולה — גם להגביל היטב את סביבת הניסוי, וגם להניח שמודל שמקבל גישה לאינטרנט ינסה לנצל כל פרצה זמינה.

גוגל אישרה את עצם האירוע לאחר שפורסם לראשונה בדיווח ב"וול סטריט ג'ורנל". לפי התיאור שנמסר, התקרית התרחשה במהלך מבחן שנערך במאי 2026, ובמרכזה גישה לא מורשית לשלוש חברות אמיתיות בעקבות כשל בהגדרות סביבת הבדיקה.