הפנטגון: בינה סוכנית תציע מטרות בתוך שניות

משרד ההגנה האמריקאי הודיע ביום חמישי על השקת Agent Network, מערך חדש של כלי בינה מלאכותית סוכנית שנועד לסרוק באופן רציף זרמי מודיעין ורשתות מבצעיות, ולהעביר למפקדי צבא ארה"ב אפשרויות פעולה הקשורות לבחירת מטרות בתוך שניות. בפנטגון מדגישים כי המערכת אינה בוחרת מטרות ואינה מבצעת תקיפה באופן עצמאי, אלא נועדה להבטיח שההכרעה תישאר בידי המפקד האנושי.

המערכת מבוססת על "סוכנים" דיגיטליים — ישויות תוכנה שמבצעות משימות בשם המשתמש, כמו חיפוש מתוזמן, עיבוד מידע או הפעלת תהליכי עבודה. לפי הודעת הפנטגון, אותם סוכנים ינתחו באופן רציף מידע ממערכות ההגנה, ויתרגמו את הממצאים לחלופות ברורות להצגה למפקדים בשטח ובחדרי הפיקוד.

חלק מאסטרטגיית ה-AI החדשה של הפנטגון

Agent Network הוא אחד משבעה פרויקטים שהוגדרו בתחילת השנה כפרויקטים מובילים במסגרת אסטרטגיית ההאצה החדשה של הפנטגון בתחום הבינה המלאכותית. המהלך נועד לקצר את הזמן בין קליטת מידע מודיעיני לבין גיבוש החלטה מבצעית, על רקע מרוץ עולמי לשילוב AI במערכות שליטה, בקרה ואש.

בין החברות המרכזיות המשתתפות בפרויקט נמנות Lumbra ו-Palantir. האחרונה כבר ממלאת תפקיד בולט בתחום ניתוח המטרות עבור מערכת הביטחון האמריקאית, בין היתר באמצעות חוזה Maven Smart Systems. המשמעות היא שהפנטגון אינו מתחיל מאפס, אלא בונה שכבה נוספת על תשתיות קיימות של ניתוח מידע מבצעי והצלבת מודיעין.

ההבטחה למהירות מול מגבלות הדיוק

לצד ההתרגשות סביב היכולת לקצר תהליכים שנמשכו בעבר שעות ואף ימים, יש מי שמזהירים מפני פער בין ההבטחה הטכנולוגית לבין היכולת המעשית של המערכות כיום. וישאל סיקה, לשעבר מנכ"ל SAP, כתב בשנה שעברה כי משימות שמוטלות על סוכני AI עשויות להיות מורכבות חישובית הרבה מעבר למה שארכיטקטורות שפה גדולות מסוגלות לפתור באופן אמין.

לדבריו, מודלים מבוססי טרנספורמר ניגשים גם לבעיות פשוטות וגם לבעיות מורכבות באמצעות אותו מנגנון בסיסי, ולכן הם מוגבלים במספר הפעולות שהם יכולים לבצע לכל יחידת טקסט. מכאן, לטענתו, כאשר מטילים על המודל משימה שמורכבותה עולה על המשאבים החישוביים הזמינים לו, גדל הסיכון ל"הזיות" — תשובות שגויות שנמסרות בביטחון גבוה.

סיקה סיכם כי למרות העוצמה והיישומים הרחבים של מודלי שפה, יש לנקוט זהירות רבה לפני שמשתמשים בהם במשימות שדורשות דיוק גבוה או בפתרון בעיות מורכבות שאינן טריוויאליות. בהקשר צבאי, האזהרה הזו מקבלת משקל מיוחד, משום שטעות בניתוח או בהמלצה אינה מסתיימת רק בפלט שגוי — אלא עלולה להשפיע על החלטות מבצעיות בזמן אמת.

במערכת הביטחון מזהים הזדמנות, אבל גם בעיית שליטה

מן העבר השני, יש גם מי שסבורים שהשוק נוטה לזלזל במה שסוכני AI כבר יודעים לעשות. איליה פשקוב, מייסד SINT Labs ועורך The Agent Times, אמר כי השנה הפכה הבינה הסוכנית מכלי הדגמה ליכולת יישומית של ממש. לדבריו, מערכות כאלה כבר כותבות קוד, מטפלות בעומסי שירות, מבצעות עבודות משרדיות מורכבות במגזר הפיננסי והבריאותי, וכעת גם קוראות וממיינות מודיעין. "המהירות אינה הייפ", אמר, והוסיף כי ראה מערכות שמכווצות שבועות של עבודת אנליסטים לכדי אחר צהריים אחד.

עם זאת, גם פשקוב עצמו הזהיר מפני הסיכון הטמון בסוכנים שפועלים ללא בקרה מספקת. הוא הזכיר מקרה בחברה פרטית שבה סוכן AI מחק בסיס נתונים פעיל, כדוגמה לכך שסוכנים אינם תמיד יודעים לזהות מתי הם סוטים מהמשימה או פועלים באופן מסוכן. לדבריו, הסכנה אינה דווקא בסוכן "טיפש", אלא בסוכן בטוח בעצמו שפועל בלי ריסון, תיעוד ובעל סמכות אנושי שמפקח עליו.

גם בתוך משרד ההגנה האמריקאי נשמעת תמונה מורכבת. גורם מודיעין ואבטחה בפנטגון, שאינו קשור ישירות לתוכנית Agent Network, אמר כי משרדים וצוותים רבים במערכת כבר מתחילים לפרוס מערכות סוכנים, וכי האווירה הכללית היא של התלהבות מהאפשרות לרתום את יכולות ה-Enterprise של משרד ההגנה כדי לאפשר לאנשים לבנות סוכנים משלהם. לצד זאת, אותו גורם הודה שהמעקב אחר ביצועי כל סוכן הוא אתגר משמעותי, ושממשל אפקטיבי על כלל הסוכנים עלול להפוך למשימה שכמעט בלתי אפשרי לבצע בקנה מידה רחב.

הודעת הפנטגון ממקמת את Agent Network בלב המאמץ להאיץ את קצב קבלת ההחלטות הצבאיות, אך גם ממחישה את הדילמה שמלווה כיום כל מערכת ביטחונית מתקדמת: כיצד להרוויח מהירות ועוצמת עיבוד בלי לאבד שליטה, שקיפות ואחריות אנושית על החלטות קריטיות.