הצוות הבין-משרדי לבחינת שימושי בינה מלאכותית (AI) במגזר הפיננסי, פרסם דוח ביניים הכולל המלצות ביחס לרגולציה על שימוש בטכנולוגיית AI, אשר יעצבו את עקרונות האסדרה שתחול בנושא זה בסקטור הפיננסי.

דוח הביניים הוא תוצר של צוות משותף של משרד המשפטים (ייעוץ וחקיקה), משרד האוצר, רשות התחרות, רשות ניירות ערך, רשות שוק ההון, ביטוח וחיסכון והפיקוח על הבנקים בבנק ישראל.

הדוח מציג את הפוטנציאל הגלום בשימוש ב-AI בתחום הפיננסי לשיפור איכות המוצרים והשירותים הפיננסיים, להוזלת עלויות, להנגשת שירותים פיננסיים לקהלים רחבים יותר, לשיפור הפעילות התפעולית, העסקית וניהול הסיכונים, ועוד. לצד זאת, הדוח מזהה את האתגרים הפוטנציאליים הכרוכים בשימוש בטכנולוגיה ובהם: חשש מפגיעה בפרטיות, הדרת אוכלוסיות משירותים פיננסיים, הבטחת הוגנות צרכנית, וכדומה.

הדוח עוסק בסוגיות הנובעות ממאפיינים ייחודיים של בינה מלאכותית, כגון סוגיית "הקופסה השחורה" והסברתיות, סוגיית המעורבות האנושית, כמו גם בשאלות המתעוררות לנוכח פעילות מבוססת AI בהקשרים של פרטיות, אפליה ואחריות. עוד עוסק הדוח בהשלכות רוחב שעשויות להיות לפעילות AI, בין היתר בהיבטי יציבות פיננסית, תחרות, סיכוני סייבר ודיסאינפורמציה.

מעבר לסוגיות הרוחב, הצוות התמקד בשלושה תחומי פעילות ספציפיים שבהם יש כבר שימוש מסוים בבינה מלאכותית: ייעוץ השקעות וניהול תיקים, חיתום אשראי וחיתום ביטוח.

בנוגע לכל אחת מהסוגיות שנדונו, בוצעו סקירה מקיפה של הדין הקיים בישראל ובעולם, ניתוח של סוגיות הליבה שמעוררת כניסת הבינה המלאכותית, והוצעו חלופות אפשריות לטיפול והמלצות מעשיות.

המלצות מרכזיות בדוח הביניים:

בדוח מצוין כי יש לעודד פעילות AI בסקטור הפיננסי, לצד קביעת רגולציה מותאמת מקום בו הדבר נדרש ולרוב באמצעות כלי אסדרה "רכים" וגמישים. כמו כן, אימוץ גישה מבוססת סיכונים, לפיה היקף הרגולציה יותאם למהותיות השירות הפיננסי והשפעתו על הלקוח. לדוגמה, צ'אטבוט AI המספק שירות לקוחות בסיסי יידרש לעמוד בדרישות רגולטוריות מצומצמות יותר בהשוואה למערכת חיתום אשראי מבוססת AI, שלהחלטותיה השפעה משמעותית על הפרט. גישה זו תאפשר לגופים הפיננסיים למקד משאבים בניהול סיכונים בשירותים המהותיים יותר.

הסברתיות: בעיית "הקופסה השחורה" לפיה לא ניתן להסביר באופן מלא את תוצריהן של מערכות AI היא אחד האתגרים המורכבים ביחס לטכנולוגיה זו. הדוח מבחין בין הסברתיות כללית, בנוגע לאופן פעולת המערכת, ובין הסברתיות פרטנית, בנוגע להחלטות ספציפיות. ההמלצה היא שתחול חובת הסברתיות כללית, בעוד שחובת הסברתיות פרטנית תיקבע בהתאם לנסיבות הנוגעות למהות ההחלטה, לקיומה של מעורבות אנושית, וכדומה.

מעורבות אנושית: בדוח עורך הצוות הבחנה בין סוגים שונים של מעורבות אנושית – מעורבות בזמן אמת מול מעורבות בדיעבד, מעורבות בכל החלטה פרטנית מול מעורבות על פעילות המערכת בכללותה. הצוות ממליץ על מודל מדורג של מעורבות אנושית, שיכלול חובת בקרה אנושית כללית, ומעורבות ישירה בהחלטות בשימושים שיסווגו בסיכון בינוני או גבוה (כגון החלטות מהותיות).

חובות יידוע וגילוי: יש ליידע את הציבור על שימוש במערכות AI או אינטראקציה עם מערכות כאלה בנוסף לחובות גילוי בדבר מאפייני הבינה המלאכותית והשלכותיה שישתלבו בדרישות הגילוי הקיימות בתחום הפיננסי. הצוות מדגיש את הצורך כי הגילוי ייעשה תוך מניעת ״“AI washing (הצגת שווא או הגזמה ביחס לשימוש ב-AI) וכן הקפדה שהיידוע והגילוי יהיו בשפה פשוטה וניטרלית.

הונאות ודיסאינפורמציה: הדוח מתייחס להשפעת התקדמות ה-AI על סיכוני הונאה ודיסאינפורמציה במערכת הפיננסית, החל מהתחזות ללקוחות ועד להשלכות מערכתיות רחבות, וממליץ לרגולטורים כיצד לעדכן ולהרחיב את מנגנוני ההתמודדות עם סיכונים אלה.

פרטיות והגנה על מידע אישי: הדוח כולל סקירה של האתגרים העומדים בפני ההגנה על הזכות לפרטיות הנובעים ממאפייני מערכות AI ורגישות המידע הפיננסי. הדוח כולל הצעות לכלים ואמצעים להתמודדות עם אתגרים אלה, ובין היתר ממליץ לרגולטורים הפיננסיים להכווין גופים מפוקחים לבצע הערכת סיכונים ביחס לזיהוי חוזר של מידע אישי, וכן לאמץ כלים ארגוניים לניהול וצמצום הסיכונים לפרטיות הכרוכים בפיתוח מערכות בינה מלאכותית כגון: תסקיר השפעה על פרטיות, יישום והטמעת תפיסות של עיצוב לפרטיות, וזאת בנוסף למינוי ממונה על הגנת הפרטיות.

הדוח כולל המלצות בתחומים רבים נוספים: כללי ממשל תאגידי שיאפשרו ניהול סיכונים ביחס לשימושי AI במוסד הפיננסי; כללי אחריות ביחס למערכות AI, המבהירים על מי מוטלת האחריות בנוגע לתפקוד המערכות; אמצעים למניעת אפליה; סיכונים והזדמנויות בהיבטי תחרות וכדומה.