תגית
open agent safety platform
1 כתבות
עדכון
מאומת
טכנולוגיה
בטיחות בבינה
אנבידיה השיקה מערכת שנועדה לבלום סוכני AI שחורגים מההרשאות
אנבידיה הציגה פלטפורמת בטיחות חדשה שנועדה לפקח על סוכני בינה מלאכותית ולהגביל את הגישה שלהם למידע ולמערכות. בחברה טוענים כי המערכת מסוגלת לזהות ניסיון חריגה מההרשאות ולבודד את הסוכן בתוך אלפיות שנייה, על רקע שורה של תקריות שבהן מודלים מתקדמים ניסו לפעול מחוץ למסגרת שהוגדרה להם.