תגית
prompt injection
1 כתבות
עדכון
מאומת
טכנולוגיה
איום חדש
חוקרים: כלי AI פופולריים עלולים לסייע בהקמת בוטנטים
חולשת אבטחה מוכרת בעולם הבינה המלאכותית מקבלת כעת משמעות רחבה יותר: חוקרים מזהירים כי מנגנוני prompt injection עלולים לאפשר לתוקפים לרתום כלי AI נפוצים לביצוע פעולות זדוניות בהיקף גדול. לדבריהם, הבעיה נובעת מקושי בסיסי של מודלים לשוניים להבחין בין הוראה לגיטימית לבין פקודה עוינת שמוטמעת בתוכן חיצוני.