אנבידיה בוחנת כיצד לשלב שני כלי תוכנה שפותחו באוניברסיטת מישיגן במערכת Megatron-LM, המשמשת לאימון מודלי בינה מלאכותית. כך הודיעה האוניברסיטה ב־12 באוקטובר. הכלים, Kareus ו־Perseus, נועדו לצמצם את האנרגיה הנדרשת לאימון באמצעות תיאום יעיל יותר של עבודת המעבדים הגרפיים, תוך שמירה על קצב האימון.
החוקרים עובדים עם אנבידיה על השילוב במערכת הקוד הפתוח שלה. מדובר בשלב של בחינה והטמעה מחקרית; לא פורסמה הודעה על הפעלה גורפת בכל מוצרי החברה.
אותה עבודה, פחות בזבוז
באימון של מודל גדול, מעבדים רבים מבצעים חישובים ומחליפים ביניהם נתונים. חלקם מסיימים את המשימה מוקדם וממתינים לאחרים. Perseus מתאים את מהירות העבודה במשימות שאפשר להאט בלי לעכב את התהליך כולו — וכך חוסך אנרגיה שאחרת הייתה מתבזבזת.
Kareus משפר גם את תזמון המשימות ואת חלוקת משאבי המעבד בין החישוב להעברת הנתונים. התיאום חשוב משום ששינוי במהירות המעבד משנה גם את הדרך היעילה ביותר לבצע כמה פעולות במקביל.
מה נמדד בפועל?
במחקר שהוצג בכנס OSDI ביולי 2026, החוקרים דיווחו על הפחתה נוספת של עד 28.3% באנרגיה לעומת Megatron-LM שכבר משתמש ב־Perseus, באותו זמן אימון. זהו השיפור המרבי בתנאים שנבדקו, ולא שיעור חיסכון אחיד לכל מודל.
הבדיקות כללו אימון של שני מודלים על 16 מעבדי NVIDIA A100. עבור מודל גדול יותר, בעל 70 מיליארד פרמטרים, נעשה שימוש באמולציה המבוססת על מדידות — ולא באימון מלא בקנה המידה הזה. הנתונים מתייחסים לאנרגיית האימון בתצורות שנבדקו, ולא לכלל החשמל שצורך מרכז נתונים.
ומה לגבי חיסכון של 50%?
לפי הודעת האוניברסיטה, החיסכון הכולל של הגישה המשולבת עשוי להתקרב ל־40%–50% במודלים גדולים. זו הערכת החוקרים, שיש להבחין בינה לבין השיפור הנוסף שנמדד במחקר. הבחינה עם אנבידיה נועדה לבדוק כיצד השיטה משתלבת בפלטפורמת האימון ובאילו תצורות נשמר היתרון.
