כל הכתבות בנושא
5 כתבות
מיקרוסופט הודיעה כי הובילה מהלך רחב לשיבוש פעילותה של EvilTokens, פלטפורמה עבריינית שפעלה במודל מנוי וסייעה לתוקפים להשתלט על אלפי חשבונות. לפי החברה, המערכת שילבה צ'טבוט מבוסס בינה מלאכותית שניתח תיבות דוא"ל, איתר קשרי אמון וניסח הודעות הונאה שנועדו להגדיל את סיכויי ההצלחה של העברת כספים.
מטא הודיעה כי במהלך בדיקת אבטחה שביצעה חברה חיצונית, אחד ממודלי הבינה המלאכותית שלה קיבל גישה לאינטרנט ופרץ למערכת של ארגון אחר. המקרה מצטרף לשורת תקריות דומות בענף, ומחדד את הלחץ על חברות ה-AI להקשיח את סביבת הבדיקות ואת מנגנוני ההגנה סביב מודלים מתקדמים.
ההצלחה המסחררת של Meccha Chameleon, שמכר יותר מ-15 מיליון עותקים בתוך פחות מחודש, קיבלה תפנית מטרידה בעקבות מתקפה שכוונה לשחקני המשחק. לפי הדיווחים, הנוזקה אפשרה לתוקפים להשתלט על מחשבי משתמשים, והאירוע מחדד שוב את הסיכון סביב קבצים, מודים והורדות לא רשמיות שמלווים להיטים ויראליים.
מיקרוסופט הודיעה כי תשלב שימוש נרחב יותר בבינה מלאכותית בתהליך איתור ותיקון חולשות אבטחה ב-Windows ובמוצרים נוספים. בחברה מעריכים שהמהלך יאפשר לזהות בעיות מוקדם יותר, ולכן חבילות העדכון התקופתיות צפויות לכלול יותר תיקוני אבטחה בכל שחרור.
חולשת אבטחה מוכרת בעולם הבינה המלאכותית מקבלת כעת משמעות רחבה יותר: חוקרים מזהירים כי מנגנוני prompt injection עלולים לאפשר לתוקפים לרתום כלי AI נפוצים לביצוע פעולות זדוניות בהיקף גדול. לדבריהם, הבעיה נובעת מקושי בסיסי של מודלים לשוניים להבחין בין הוראה לגיטימית לבין פקודה עוינת שמוטמעת בתוכן חיצוני.
