רגולטור בריטי: מרוץ חימוש סביב AI בפיננסים

רשות הפיקוח הפיננסית בבריטניה מאותתת כי שוק השירותים הפיננסיים נכנס לשלב חדש, שבו בינה מלאכותית כבר אינה רק כלי תפעולי פנימי של בנקים וחברות השקעה, אלא גם מנגנון שמשפיע ישירות על החלטות של צרכנים. שלדון מילס, מנהל בכיר ב-Financial Conduct Authority, הזהיר כי הרגולטורים נמצאים ב"מרוץ חימוש" מול קצב האימוץ של הטכנולוגיה, וקרא לבחון אם יש להחיל כללים ברורים גם על שימוש במודלי שפה גדולים כמו ChatGPT, Claude ו-Gemini.

החשש: ההשפעה על החלטות כספיות של הציבור

האזהרה של מילס נוגעת לא רק למוסדות הפיננסיים עצמם, אלא גם למיליוני משתמשים שפונים לכלי AI כדי לקבל עזרה בנושאים כמו חיסכון, השקעות, ניהול תקציב ובחירת מוצרים פיננסיים. ככל שהטכנולוגיה הופכת נגישה יותר, כך גובר החשש שהמלצות שניתנות בשפה בטוחה ומשכנעת ייתפסו בעיני הציבור כייעוץ אמין, גם כאשר הן חלקיות, שגויות או אינן מותאמות לנסיבות האישיות של המשתמש.

במובן הזה, השאלה הרגולטורית כבר אינה תיאורטית. אם עד לאחרונה הפיקוח התמקד בבנקים, מבטחים, יועצי השקעות ופלטפורמות מסחר, כעת עולה האפשרות שגם שכבת הטכנולוגיה שמתווכת מידע לצרכן תידרש לעמוד בכללים מחמירים יותר. מילס אמר בראיון כי הרשויות בבריטניה צריכות לבחון מחדש אם השימוש במודלים גנרטיביים בשירותים פיננסיים צריך להיות כפוף למסגרת הפיקוח הקיימת.

לא רק יותר חוקים, אלא גם יותר כלים לרגולטור

לדברי מילס, הבעיה אינה מסתכמת במחסור בכללים. הוא סבור כי לרגולטורים דרושות סמכויות רחבות יותר כדי לעמוד בקצב השינוי, משום שהטכנולוגיה מתפתחת במהירות גבוהה ומוטמעת בהיקפים גדלים בתוך זמן קצר. במציאות כזו, פיקוח שמתבסס רק על דיווחים תקופתיים, בדיקות ידניות או הליכי אכיפה איטיים עלול לפגר אחרי השוק.

לכן, לדבריו, גם גופי הפיקוח עצמם יצטרכו לאמץ בינה מלאכותית. המטרה, כפי שהציג אותה, היא להשתמש בכלים כאלה כדי לנטר התנהגויות, לזהות חריגות, ולאתר סיכונים מוקדם יותר. במילים אחרות, אם השחקנים המפוקחים נעזרים ב-AI כדי להאיץ קבלת החלטות, תמחור, שיווק ושירות, גם הרגולטור יידרש למערכות דומות כדי להבין בזמן אמת מה מתרחש בשוק.

הדוח שמתפרסם השבוע והמשמעות לשוק הבריטי

הדברים נאמרו לקראת פרסום דוח שהוזמן בידי ה-FCA ועוסק בהשפעת הבינה המלאכותית על השירותים הפיננסיים. עצם פרסום הדוח מלמד עד כמה הסוגיה עברה מהשוליים למרכז סדר היום של הרגולטורים: לא עוד שאלה של חדשנות בלבד, אלא סוגיה שנוגעת להגנת הצרכן, יציבות שוק, אחריות תאגידית ואכיפה.

בבריטניה, כמו במדינות נוספות, הדיון הזה מתנהל על רקע מאבק רחב יותר בין הרצון לעודד חדשנות ולמשוך השקעות טכנולוגיות, לבין הצורך להציב גבולות ברורים לשימוש בכלים שעשויים להשפיע על כספי הציבור. אם הרשויות יחליטו שמודלי שפה הם חלק מהמערך שמייצר בפועל הכוונה פיננסית, ההשלכות עשויות להיות רחבות: מחובות שקיפות ובקרת איכות, דרך אחריות על טעויות, ועד דרישות חדשות מחברות שמטמיעות את הכלים הללו במוצרים שלהן.

מילס הדגיש כי קצב, היקף ועוצמת השינוי שמביאה הבינה המלאכותית לשירותים הפיננסיים מחייבים את הרגולטורים להתאים את עצמם במהירות. הדוח של ה-FCA צפוי להתפרסם ביום שני, והוא מציב את שאלת הפיקוח על AI בלב הדיון על עתיד המערכת הפיננסית הבריטית.