נאדלה מזהיר: שימוש ב-AI עלול לחשוף סודות עסקיים

מה קרה

מנכ"ל מיקרוסופט סאטיה נאדלה פרסם אזהרה חריגה כלפי חברות שמאמצות בינה מלאכותית מבוססת מודלים קנייניים. בפוסט שפרסם ביום ראשון הוא כתב כי לקוחות עסקיים משלמים, למעשה, פעמיים: פעם אחת על השימוש עצמו במודלים, ופעם נוספת בכך שהם חושפים בפני הספק מידע פנימי רגיש שנחוץ כדי להפיק מהמערכת תשובות מדויקות ושימושיות.

לדבריו, ככל שחברה רוצה לשפר את ביצועי המודל עבורה, כך היא נדרשת להזין יותר הקשר ארגוני: נהלים, תהליכים, סדרי עבודה, תיקונים, ומשוב אנושי. נאדלה טוען שזהו בדיוק סוג הידע שמגדיר את היתרון התחרותי של ארגון, ולכן עצם השימוש עשוי להפוך לתהליך שבו הלקוח מלמד את המערכת את העסק שלו.

הוא מדגיש במיוחד את נתוני השימוש עצמם: הפרומפטים שעובדים כותבים, הכלים שסוכני AI מפעילים, ובעיקר התיקונים שמבצעים אנשים כשהמודל טועה. בראייתו, כל תיקון כזה מזקק ידע מוסדי מצטבר — ידע שמתחרה לא יכול היה לרכוש בקלות בשוק הפתוח.

למה זה חשוב

הדברים של נאדלה חשובים משום שהם מגיעים ממי שעומד בראש אחת מחברות הענן והתוכנה הגדולות בעולם, וגם ממשקיעה מרכזית באקוסיסטם ה-AI. כאשר מנכ"ל מיקרוסופט מעלה בפומבי חשש מפני תלות במודלים קנייניים, הוא נותן לגיטימציה לדיון שכבר מתנהל זה זמן בקרב יזמים, קרנות הון סיכון ומנהלי טכנולוגיה בארגונים גדולים.

במרכז הוויכוח נמצאת שאלה פשוטה אך קריטית: מי באמת מחזיק בערך שנוצר בזמן העבודה עם AI. נאדלה טוען שחברות אינן צורכות רק אינטליגנציה, אלא גם מייצרות אינטליגנציה דרך האינטראקציה שלהן עם המערכות. אם כך, מבחינתו, הידע הזה צריך להישאר בבעלות הארגון, ולא להפוך באופן מובלע לנכס של ספק המודל.

נאדלה גם מציב קו טיעון נוסף: אם מפתחי המודלים נהנים מחופש רחב לאמן את המערכות שלהם על מידע ציבורי מהרשת, קשה להצדיק מצב שבו הם מגבילים באגרסיביות ארגונים שרוצים ללמוד מהפלט של המודלים עצמם. כאן הוא מתייחס ל"זיקוק" מודלים — תהליך שבו משתמשים בתשובות של מודל קיים כדי לאמן מודל אחר, לעתים זול יותר או מותאם יותר. מבחינתו, יש כאן פער בין הדרישה לפתיחות כלפי מקורות האימון לבין הרצון לסגור את הדלת כשאחרים מבקשים להפיק תובנות מהמודל המוגמר.

הוויכוח הזה כבר אינו תיאורטי. בחודשים האחרונים גובר העניין הארגוני במעבר למודלים פתוחים או להפעלות מקומיות בתוך הדאטה סנטר של החברה, כדי לצמצם זליגת מידע ולשמור שליטה טובה יותר על נתונים. אידית לוין, מייסדת ומנכ"לית Solo.io, אמרה בראיון כי היא רואה אצל לקוחותיה מעבר מעבודה ניסיונית עם מודלים קנייניים לשאלות מעשיות יותר: האם אפשר להריץ מודל קוד פתוח בתוך הארגון, לקבל רוב גדול מהיכולות, ולשלם פחות.

ההשלכות האפשריות

המשמעות האפשרית הראשונה היא האצה של מגמת ה"מולטי-מודל": ארגונים יבנו שכבות תזמור שיאפשרו להם לעבור בקלות בין ספקי AI שונים, במקום להיקשר לפלטפורמה אחת. נאדלה עצמו קורא להקים שכבות כאלה, שמטרתן למנוע נעילה טכנולוגית ולהעניק לארגון כוח מיקוח גדול יותר.

משמעות אפשרית נוספת היא התחזקות של מודלים פתוחים ומודלים המותקנים בתוך הארגון עצמו. לפי נתונים שהוצגו על ידי Vercel, מודלים פתוחים כבר היוו 29% מהתעבורה שעברה דרך שער המודלים שלה בחודש האחרון. גם OpenRouter מדווחת על עלייה בביקוש לניתוב בין מודלים שונים, תופעה שמעידה על רצון גובר של מפתחים וארגונים לשמור גמישות ולהפחית תלות.

עם זאת, הפתרון שמציג נאדלה אינו נטול אינטרס עסקי. הוא קורא ללקוחות לבנות סביבות לימוד פרטיות בענן ולשמור שם בעלות על המידע — מהלך שמתיישב היטב גם עם האינטרסים של ספקית ענן גדולה כמו מיקרוסופט Azure. לכן, לצד האזהרה העקרונית, ארגונים יצטרכו לבחון בקפדנות מה באמת מעניק להם עצמאות: מעבר לענן פרטי, עבודה היברידית, או דווקא הרצה מקומית של מודלים על תשתית שבשליטתם המלאה.

הזווית של פוז

הנקודה המרכזית כאן היא שהמאבק הבא בשוק ה-AI הארגוני עשוי להיות פחות על איכות המודל ויותר על בעלות על הידע שנוצר סביבו. המשמעות האפשרית היא שחברות יתחילו למדוד כלי AI לא רק לפי ביצועים ועלות, אלא לפי השאלה מי לומד ממי לאורך זמן. ייתכן שדווקא האזהרה של נאדלה, שמגיעה מלב התעשייה, תאיץ את המעבר למערכות פתוחות וגמישות יותר.