מבוא

לאחר שנחשפנו השבוע כי אילון מאסק משפיע על האלגוריתם של אפליקציית הבינה המלאכותית שלו, גרוק, בדקתי אילו הטיות נוספות יש בבינה מלאכותית וכיצד הן משפיעות על ההחלטות בענף הביטוח. אין ספק כי הבינה המלאכותית (AI) משנה את פני התעשיות השונות, כולל תחום הביטוח. עם זאת, השימוש באלגוריתמים מבוססי AI עלול להוביל להטיות בלתי מכוונות, המשפיעות על קבלת החלטות בנושאים כמו חיתום, קביעת פרמיות ואישור תביעות. במאמר זה נבחן את ההשפעה של הטיות אלו, נתמוך בנתונים מספריים, ונדון במחקרים העוסקים בנושא.

הבנת ההטיות באלגוריתמים של בינה מלאכותית

הטיה אלגוריתמית מתרחשת כאשר מערכת AI מקבלת החלטות מוטות בשל נתוני אימון לא מאוזנים או הנחות שגויות בתכנון המודל. הטיות אלו עלולות להוביל לאפליה נגד קבוצות מסוימות, במיוחד כאשר הנתונים ההיסטוריים משקפים דפוסים מפלים. האפליות יכולות להיגרם במודל עצמו, באימון או עקב הטיות היסטוריות, מכיוון שתחום הביטוח שמנהל סיכונים משתמש בכמויות דאטה ובאקטואריה כדי לחזות סיכונים, לכניסה של מודלים בבינה מלאכותית יכולה להיות השפעה קריטית על התוצאות ועל האפליה בקבלה לביטוח והעלויות ובתשלום תביעות.

נתונים מספריים על השפעת ההטיות

א. אפליה במתן הלוואות וביטוח

מחקר שפורסם ב-2020 מצא כי אלגוריתמים המשמשים במתן הלוואות בארה"ב דחו בקשות של מיעוטים בשיעור גבוה ב-40-80% מאשר בקשות של לבנים, למרות נתונים פיננסיים דומים. ההפסד הכספי המצטבר למיעוטים עקב ריביות גבוהות יותר הוערך בכ-765 מיליון דולר בשנה.

ב. הטיות בזיהוי פנים

מחקר של המכון הלאומי לתקנים וטכנולוגיה (NIST) בארה"ב מצא כי מערכות זיהוי פנים הציגו שיעורי שגיאה גבוהים פי 10-100 בזיהוי אנשים ממוצא אפריקאי ואסיאתי בהשוואה לאנשים לבנים. הטיות אלו עלולות להשפיע על תהליכי אימות זהות בביטוח, כמו בעת הגשת תביעות.

השפעת ההטיות בתחום הביטוח

א. חיתום וקביעת פרמיות

אלגוריתמים המשמשים לחיתום עשויים להסתמך על נתונים היסטוריים המשקפים אפליה גזעית או מגדרית. לדוגמה, אם בעבר אוכלוסיות מסוימות קיבלו פחות אישורים לביטוח חיים, המודל ילמד דפוס זה וימשיך להפלות. כך, מועמדים מאוכלוסיות מוחלשות עלולים לשלם פרמיות גבוהות יותר או להידחות.

ב. אישור תביעות

מערכות AI המשמשות להערכת תביעות עשויות להטות נגד קבוצות מסוימות אם הנתונים ההיסטוריים מצביעים על שיעור תביעות גבוה יותר בקרבן, גם אם הסיבה לכך היא גורמים חיצוניים כמו תנאי מגורים. כך, מבוטחים מאזורים מסוימים עלולים להיתקל בדחיית תביעות או בקבלת פיצויים נמוכים יותר.

מחקרים על הטיות אלגוריתמיות

אפליה אלגוריתמית במערכות מבוססות בינה מלאכותית

מחקר של מרכז המחקר והמידע של הכנסת (2020) דן באפליה אלגוריתמית במערכות מבוססות .AI המחקר מציין כי הטיות בבסיסי הנתונים או בהנחיות המוזנות למערכות AI עשויות לגרום לאפליה של משתמשים מסוימים. לדוגמה, במערכות מיון מועמדים לעבודה, אלגוריתמים עשויים להעדיף גברים על פני נשים בשל נתוני אימון מוטים.

דרכים למזעור ההטיות

א. שקיפות ובקרה

חברות הביטוח צריכות להבטיח שקיפות בתהליכי פיתוח האלגוריתמים ולבצע ביקורות תקופתיות לזיהוי והפחתת הטיות. שימוש במגוון רחב של נתונים מאוזנים יכול לסייע בהפחתת ההטיות. במידה וחברות הביטוח משתמשות במודלים קיימים עליהן לאמן ולבדוק שאין הטיות ובמידה והן מפתחות בעצמן עליהן לדאוג לאלגוריתמים שלא מכווני הטיות.

ב. הכשרת צוותים

הכשרת צוותי הפיתוח והאנליסטים לזיהוי הטיות פוטנציאליות והבנת ההשפעה שלהן היא קריטית. הטמעת תהליכי בדיקה ובקרה במהלך פיתוח המודלים יכולה לסייע בזיהוי מוקדם של בעיות.

ג. שילוב פיקוח אנושי

למרות היתרונות של אוטומציה, חשוב לשלב פיקוח אנושי בהחלטות קריטיות, במיוחד במקרים של דחיית תביעות או קביעת פרמיות גבוהות. התערבות אנושית יכולה לספק פרספקטיבה רחבה יותר ולהתחשב בנסיבות שאינן נלקחות בחשבון על ידי האלגוריתם. כול עוד הבינה המלאכותית לא מספקת תשובה מלאה ב 100% יש צורך לבצע בדיקות מדגמיות והתערבות אנושית במקרים שניתן לחזות כי בעייתיים במודלים ובכך להבטיח איזון.

סיכום

לקראת כניסה הולכת וגוברת של פתרונות בינה מלאכותית לחברות ביטוח יש צורך לוודא כי ההטמעה אכן משפרת ומייעלת תהליכים לטובת הלקוחות, אך יש להיזהר מהטיות אלגוריתמיות שעלולות להוביל לאפליה ופגיעה באמון הלקוחות. באמצעות שקיפות, בקרה ופיקוח אנושי, ניתן למזער את ההשפעות השליליות ולהבטיח קבלת החלטות הוגנת ושוויונית.