אנתרופיק: מפתחים מרוסיה נעזרו ב־Claude לפיתוח תוכנה לנחיל רחפני תקיפה

חברת הבינה המלאכותית האמריקאית אנתרופיק פרסמה דוח שבו היא טוענת כי זיהתה גורמים הנתמכים בידי הקרמלין כשהם משתמשים במודל Claude לצרכים התקפיים: מפיתוח רכיבים לרחפנים קטלניים אוטונומיים, דרך שיפור יכולות סייבר ועד בניית תשתיות לתעמולה ולהפצת מידע כוזב. לפי החברה, הפעילות אותרה ונבלמה, אך היא ממחישה עד כמה כלי AI מסחריים הפכו לחלק מארגז הכלים של מאמצי לחימה, ריגול והשפעה.

הטענה המרכזית: ניסיון לפתח רחפן שמזהה מטרה ונותן פקודת פיצוץ

לפי אנתרופיק, קבוצה רוסית שכונתה GTG-27005 השתמשה ב-Claude כדי לבנות מודל בינה מלאכותית קטן דיו להפעלה על מחשבים זעירים, אך בעל יכולת מספקת כדי לאפשר לרחפן לבחור מטרות ולהוציא פקודת פיצוץ ללא מפעיל אנושי ישיר. בדוח צוין כי בין קטגוריות המטרה שהוגדרו הופיעה גם קטגוריה של "אדם". עוד נטען כי אותה קבוצה נעזרה במודל כדי לפתח תוכנה שתאפשר לרחפנים אוטונומיים לתקשר זה עם זה ולשפר את הדיוק בבחירת מטרה.

לדברי החברה, המערכת לא נפרסה בשטח, אך במהלך הפעילות נרשמו בדיקות ששילבו חומרה אמיתית כחלק מהניסויים. בעקבות הזיהוי, אנתרופיק מסרה כי חסמה את הקבוצה, שילבה את הלקחים במנגנוני ההגנה שלה והעבירה את המידע לגורמים בתעשייה.

לא רק רחפנים: גם חדירה לחשבונות, נוזקות והסתרת עקבות

הדוח מתאר גם שימושים נוספים ב-Claude מצד קבוצות זרות, ובהם איסוף מודיעין על יעדים, איתור חולשות בחשבונות מקוונים, כתיבת נוזקות שמטרתן לעקוף מנגנוני אבטחה ולגנוב מידע, וכן כלים שנועדו לטשטש עקבות לאחר החדירה. באנְתרופיק טענו כי זוהו גם מאמצים להקים רשתות השפעה רחבות, כולל פרופילים מזויפים ברשתות חברתיות ואתרי חדשות שלמים שנבנו כדי להיראות אמינים.

לפי החברה, דפוסי הפעולה הללו מזכירים קמפיינים רוסיים קודמים, שבהם נעשה שימוש באתרי חדשות פיקטיביים ובזהויות של עיתונאים כדי לקדם מסרים כוזבים. ההבדל כעת, לשיטתה, הוא מהירות וקנה המידה: כלי AI מאפשרים לייצר יותר תכנים, לחדד התאמה לקהלי יעד מקומיים, ולבנות דמויות מקוונות משכנעות יותר מבעבר.

הזירה מתרחבת: גם סין, תימן ודרום-מזרח אסיה

אנתרופיק מסרה כי זיהתה גם קבוצות מסין ומתימן שניסו להשתמש ב-Claude לצורך תכנון נשק קונבנציונלי, וכי גם ניסיונות אלה שובשו. במקרה אחר, קבוצה שסומנה GTG-84005 השתמשה, לפי הדוח, בכלי AI כדי לאסוף נתוני מפקד ומידע ציבורי אחר לצורך התאמת מסרי תעמולה לקהלים מסוימים במלזיה. באנְתרופיק טענו כי במסגרת הפעילות הזו הוצגו תכנים של תקשורת מדינתית רוסית וסינית כאילו היו דיווחים עצמאיים.

עוד נכתב כי נעשה שימוש ב-AI גם לזיוף מסמכים שיוחסו לז'נדרמריה ולמשרד ההגנה של הרפובליקה המרכז-אפריקאית. אם הטענות הללו מדויקות, מדובר בעליית מדרגה ביכולת לייצר מסמכים, זהויות ותשתיות השפעה במהירות גבוהה ובעלות נמוכה יחסית.

אזהרה רחבה יותר על מירוץ ה-AI בין דמוקרטיות למשטרים עוינים

הממצאים של אנתרופיק מצטרפים לדיווחים קודמים מצד חברות AI וגופי מחקר. רק לפני כשבועיים דיווחה OpenAI כי זיהתה גורמים רוסים שהשתמשו ב-ChatGPT כדי להקים קהילת "מומחים" מזויפת שנועדה להפיץ מסרים לקהל בינלאומי. במכוני מחקר בארה"ב מזהירים בחודשים האחרונים כי רוסיה משתמשת בבינה מלאכותית כדי להרחיב ייצור של תכנים התואמים את נרטיב הקרמלין, ובמקביל מטפחת רשתות השפעה דרך הכשרות ויוזמות המכוונות לצעירים במדינות שונות.

לצד זאת, בארה"ב מתנהל ויכוח על עוצמת התגובה הממשלתית. חוקרים בניו אמריקה, דניאל קימג' ודריאן ווז'יצה, כתבו כי משטרים סמכותניים מאמצים מוקדם את ה-AI כדי לעצב את תפיסת המציאות לטובתם. לדבריהם, צעדים שננקטו בממשל טראמפ השני החלישו מנגנונים אמריקאיים שנועדו להיאבק בהשפעה זרה, ובהם פירוק כוח המשימה של ה-FBI להשפעה זרה וסגירת גוף במשרד החוץ שעסק במניפולציה והתערבות מידע זרה.

אנתרופיק מדגישה כי הצליחה לקטוע את הפעילויות שזיהתה, אך הדוח שלה ממחיש בעיה רחבה יותר: מודלים מסחריים שפותחו במערב אינם משמשים רק למחקר, עסקים ויצירה, אלא גם כפלטפורמה נגישה לשיפור יכולות מבצעיות של שחקנים עוינים בזירות צבאיות, קיברנטיות ותודעתיות.