הצד האפל של הבינה המלאכותית
מהפכת הבינה המלאכותית בעיצומה ואנו עדים לכלים רבי העוצמה והמודלים שמאפשרים לנו ליצור דברים חדשים כגון ציורים ותמונות, דיבוב של אנשים, הכנת סרטונים באמצעות הקלדת טקסט ועוד. יחד עם היתרונות הברורים של הבינה המלאכותית, אנו עדים כיום גם לצדדים השליליים שלה וליכולת לבצע הונאות בקלות רבה יותר ובכך לסכן את המשפחה שלנו ואת הנכסים שלנו. חשוב להכיר ולזהות את הסכנה ולהכיר את היכולות שרק השתכללו בעידן הבינה המלאכותית.
בשנים האחרונות חלה עלייה עצומה לא רק באיכות המדיה שנוצרה, מטקסט לאודיו ועד תמונות ווידאו, אלא גם באופן הזול והקל שבו ניתן ליצור מדיה זו. אותו סוג של כלי שעוזר לאמן קונספט של הדרכה איך להשקיע במניות, או מאפשר למי שאינו דובר שפת אם לשפר את השפה שלו ולתרגם במהירות לכל שפה.
לפני הסכנות וכיצד להתמודד מולן, חשוב להזכיר: כל מה שאתם מעלים לאינטרנט באתרים וכלי בינה מלאכותית, נאסף ונדגם. אם ניהלתם שיחה קולית עם בוט בחינם, אז הקול שלכם כבר נדגם ומעובד. השאלה מי חשוף לכך ומה יעשו אתו.
1. שיבוט קולי של בני משפחה וחברים
קולות סינתטיים קיימים כבר עשרות שנים, אבל רק בשנה-שנתיים האחרונות ההתקדמות הטכנולוגית אפשרה להפיק קול חדש משניות ספורות של אודיו. משמעות הדבר היא שכל מי שקולו שודר אי פעם בפומבי – למשל, בדיווח חדשותי, בסרטון יוטיוב או ברשתות החברתיות – חשוף לשיבוט קולו.
נוכלים השתמשו בטכנולוגיה זו כדי לייצר גרסאות מזויפות משכנעות של יקיריהם או חבריהם. אלה יכולים להיעשות כדי לומר כל דבר, כמובן, אבל בשירות הונאה, סביר להניח שהם עושים קליפ קול מבקש עזרה.
לדוגמה, הורה עשוי לקבל הודעה קולית ממספר לא ידוע שבה הקול נשמע כמו הקול של הבן שלו, שאומר שדברים שלו נגנבו בזמן נסיעה, והוא מתקשר מטלפון שאדם נתן לו, והאם אמא או אבא יכולים לשלוח קצת כסף לכתובת שהילד מבקש. אפשר בקלות לדמיין גרסאות עם בעיות ברכב ("הם לא ישחררו את המכונית שלי עד שמישהו ישלם להם"), בעיות רפואיות ("הטיפול הזה לא מכוסה על ידי ביטוח") וכן הלאה. הונאה מסוג זה כבר נעשתה באמצעות קולו של הנשיא ביידן, כך שאף אחד לא חסין.
איך להשיב מלחמה נגד שיבוט קול?
ראשית, אל תטרחו לנסות לזהות קול מזויף. הנוכלים משתפרים מדי יום, ויש הרבה דרכים להסוות בעיות איכות. אפילו מומחים מולכים שולל.
כל דבר שמגיע ממספר לא ידוע, מכתובת דוא"ל או מחשבון לא ידועים, צריך להיחשב חשוד באופן אוטומטי. אם מישהו אומר שהוא חבר או אהוב שלכם, צרו קשר עם האדם כפי שהייתם עושים בדרך כלל. הם בטח יאמרו לכם שהם בסדר ושזו (כפי שניחשתם) הונאה.
נוכלים נוטים לא לעקוב אחריכם אם אתם מתעלמים מהם – בעוד שבן משפחה כנראה ימשיך לנסות. זה בסדר להשאיר הודעה חשודה במצב קריאה בזמן שאתם שוקלים. רצוי לא להגיב ישר ולנסות לא להגיב בכלל, כדי לראות האם זו באמת הונאה או מדובר על קרוב משפחה.
2. דיוג וספאם מותאמים אישית באמצעות דוא"ל והודעות
כולנו מקבלים ספאם מדי פעם, אבל עם AI יצירת טקסט מאפשרת לשלוח דואר אלקטרוני בכמויות גדולות ומותאמות אישית לכל אדם. כאשר הפרות נתונים מתרחשות באופן קבוע (זוכרים שפייסבוק מכרה לחברת אנליטיקה לפני הבחירות בארה"ב דאטה של משתמשים?), הרבה מהנתונים האישיים שלנו נמצאים שם בחוץ והיום עקב המודלים של הבינה המלאכותית הן רק מתרבים והמידע עלינו הוא רב וזמין.
לקבל אחד מאותם הודעות דוא"ל הונאה של "לחץ כאן כדי לראות את החשבונית שלך!" עם קבצים מצורפים מפחידים בעליל שנראים כל כך במאמץ נמוך – זה דבר אחד. אבל עם אפילו קצת הקשר, הם פתאום הופכים אמינים למדי, באמצעות מיקומים אחרונים, רכישות והרגלים כדי לגרום לזה להיראות כמו אדם אמיתי או בעיה אמיתית. חמוש בכמה עובדות אישיות, מודל שפה יכול להתאים אישית הודעות דוא"ל אלה לאלפי נמענים בתוך שניות.
אז מה שהיה פעם "לקוח יקר, אנא מצא את החשבונית שלך מצורפת", הופך למשהו כמו "היי ישראל! מיטל מצוות הקידום של סמסונג, פריט שהסתכלת עליו לאחרונה הוא עכשיו ב-50% הנחה! והמשלוח לכתובת שלך ברחוב הכנרת ברמת גן הוא בחינם אם אתה משתמש בקישור זה כדי לתבוע את ההנחה". זו דוגמה פשוטה, עם שם אמיתי, הרגל קניות (קל לגלות), מיקום הכתובת שלי – ופתאום המייל נראה אמיתי ומזמין לפעולה.
בסופו של דבר, אלה עדיין רק ספאם. אבל סוג זה של ספאם מותאם אישית היה צריך להיעשות פעם על ידי אנשים בשכר נמוך בחוות תוכן במדינות זרות. עכשיו זה יכול להיעשות בקנה מידה רחב על ידי LLM עם כישורי כתיבה טובים יותר מאשר סופרים מקצועיים רבים.
איך להילחם נגד דואר זבל?
כמו עם דואר זבל מסורתי, ערנות היא הנשק הטוב ביותר שלכם. אבל אל תצפו לזהות טקסט שנוצר מטקסט שנכתב על ידי בני אדם. יש מעטים שיכולים, ובטח לא עם מודל של בינה מלאכותית.
משופר ככל שיהיה הטקסט, בסוג זה של הונאה יש עדיין את האתגר הבסיסי של לגרום לכם לפתוח קבצים מצורפים או קישורים רישומי. כמו תמיד – אלא אם כן אתם בטוחים ב-100% באותנטיות ובזהות השולח – אל תלחצו על קישורים או אל תפתחו דבר. אם אתם אפילו קצת לא בטוחים – וזה חוש טוב לפתח – אל תלחצו. יש לבדוק את המייל של השולח, את החתימה או ההצעה. אם מדובר באתר, ניתן לבדוק האם הוא מאובטח או לא בלחיצה על ה-URL. אתר סחר שלא מאובטח, כבר מדליק נורה אדומה.
3. הונאת זיהוי ואימות מזויפת
בשל מספר פריצות נתונים בשנים האחרונות, ניתן לומר בבטחה שכמעט לכולנו יש כמות נכבדה של נתונים אישיים שמרחפים ברשת האפלה (רשת שמתחת לרשת הרשמית ומצריכה ידע בהצפנה והתקנה של הדפדפנים במטרה שלא יזהו אתכם ברשת). אם אתם פועלים לפי נוהלי אבטחה מקוונים טובים, חלק גדול מהסכנה פוחת מכיוון ששיניתם את הסיסמאות שלכם, הפעלתם אימות רב-גורמי וכן הלאה. אבל בינה מלאכותית גנרטיבית עלולה להוות איום חדש ורציני בתחום זה.
עם כל כך הרבה נתונים על מישהו שזמינים באינטרנט ועבור רבים, אפילו קליפ או שניים עם הקול שלהם, מאפשר בקלות רבה יותר ויותר ליצור פרסונה AI שנשמעת כמו אדם יעד ויש לה גישה לחלק גדול מהעובדות המשמשות לאימות זהות.
תחשבו על זה ככה. אם הייתם נתקלים בבעיות התחברות, לא הצלחתם להגדיר את אפליקציית האימות שלכם כראוי או אם איבדתם את הטלפון שלכם, מה הייתם עושים? התקשרו לשירות הלקוחות, כנראה – והם "יאמתו" את זהותכם באמצעות עובדות טריוויאליות כמו תאריך הלידה שלכם, מספר הטלפון או תאריך הנפקת תעודת הזהות שלכם. שיטות מתקדמות עוד יותר כמו "צלם סלפי" הופכות לקלות יותר למשחק.
כמו עם ההונאות האחרות ברשימה זו, הסכנה היא שקל עלרמאים לבצע שוב ושוב סוג כזה של התקפה באופן נרחב.
לפני זמן לא רב, סוג זה של מתקפת התחזות היה יקר וגזל זמן, וכתוצאה מכך היה מוגבל למטרות בעלות ערך גבוה, כמו אנשים עשירים ומנכ"לים. כיום ניתן לבנות זרימת עבודה שיוצרת אלפי סוכני התחזות עם פיקוח מינימלי, וסוכנים אלו יכולים להתקשר באופן אוטונומי למספרי שירות הלקוחות בכל החשבונות הידועים של אדם – או אפילו ליצור חדשים. צריך להצליח רק עם קומץ כדי להצדיק את עלות ההתקפה.
איך להילחם נגד הונאת זהות?
בדיוק כפי שהיה לפני שהבינה המלאכותית באה לחזק את מאמצי הרמאים. אבטחת סייבר אקטיבית היא ההימור הטוב ביותר שלכם. הנתונים שלכם כברבחוץ; אי אפשר להחזיר את משחת השיניים לשפופרת. אבל אתם יכולים לוודא שהחשבונות שלכם מוגנים כראוי מפני ההתקפות הברורות ביותר.
אימות מולטי-פקטור הוא בקלות הצעד החשוב ביותר שכל אחד יכול לעשות כאן. כל סוג של פעילות רצינית בחשבון עובר ישירות לטלפון שלכם, וכניסות חשודות או ניסיונות לשנות סיסמאות יופיעו בדואר אלקטרוני. אל תזניחו את האזהרות האלה ואל תסמנו אותן כספאם, אפילו (במיוחד) אם אתם מקבלים הרבה. האימות הדו שלבי מאפשר לכם הגנה וקבלת הודעות אימות ישירות לטלפון או למייל ומרחיק הונאות בסקיילים גדולים. בצעו עוד היום אימות דו שלבי בכל אפליקציה ושירות שאתם משתמשים.
4. דיפ-פייק וסחיטה שנוצרו על ידי בינה מלאכותית
הצורה אולי המפחידה ביותר של הונאת AI מתהווה, היא האפשרות של סחיטה באמצעות תמונות דיפ-פייק שלכם או של אדם אהוב . אתם יכולים להודות לעולם המהיר של מודלים של תמונות פתוחות, על האפשרות העתידנית והמפחידה הזו. אנשים המעוניינים בהיבטים מסוימים של יצירת תמונות חדשניות, יצרו תהליכי עבודה לא רק לעיבוד מודלים בסיסיים, אלא גם הצמדתם לכל פרצוף שהם יכולים לקבל תמונה שלו. אני לא צריך לפרט איך זה כבר בשימוש.
אבל תוצאה לא מכוונת אחת היא הרחבה של ההונאה המכונה בדרך כלל "פורנו נקמה", אך נכון יותר לתאר אותה כהפצה לא מוסכמת של תמונות אינטימיות (אם כי כמו "דיפ-פייק", ייתכן שיהיה קשה להחליף את המונח המקורי). כאשר תמונות פרטיות של מישהו מתפרסמות באמצעות פריצה, לעיתים על ידי אקס נקמן, הן יכולות לשמש כסחיטה על ידי צד שלישי שמאיים לפרסם אותן באופן נרחב אם לא ישולם לו סכום כלשהו.
בינה מלאכותית מעצימה הונאה זו בכך שהיא הופכת אותה לכזו שלא יהיה צורך בתמונות אינטימיות ממשיות מלכתחילה. ניתן להוסיף את פניו של כל אחד לגוף שנוצר על ידי בינה מלאכותית, ולמרות שהתוצאות לא תמיד משכנעות, זה כנראה מספיק כדי לשטות בכם או באחרים אם הוא מפוקסל, ברזולוציה נמוכה או מטושטש חלקית אחרת. וזה כל מה שצריך כדי להפחיד מישהו לשלם כדי לשמור אותו בסוד – אם כי, כמו רוב הונאות הסחיטה, התשלום הראשון לא צפוי להיות האחרון.
איך להילחם בדיפ-פייק שנוצר על ידי בינה מלאכותית?
למרבה הצער, העולם אליו אנו נעים הוא עולם שבו תמונות עירום מזויפות של כמעט כל אחד יהיו זמינות לפי דרישה. זה מפחיד, מוזר ומגעיל, אבל לצערנו החתול יצא מהשק.
אף אחד לא מרוצה מהמצב הזה, חוץ מהרעים. מודלים אלו של תמונות עשויים לייצר גופים מציאותיים בדרכים מסוימות, אך כמו בינה מלאכותית גנרטיבית אחרת, הם יודעים רק על מה הם אומנו. כך שהתמונות המזויפות יהיו חסרות סימני הבחנה, למשל, וסביר להניח שהן שגויות. לכן חשוב להתעמק ולהסתכל כמה פעמים ולחפש סימנים מזהים כגון קעקוע, נקודת חן וסימנים מזהים ספציפיים שמכונה לא יכולה לזייף לכמות גדולה. כמו כן, רצוי להימנע כמה שיותר מלהעלות תמונות שלנו ושל הילדים בכמה זוויות ואופנים, שהבינה המלאכותית יכולה לסרוק ולהתאים.
לסיכום, אנו נעים בכיוון של פתרונות בינה מלאכותית מדהימים שמשפרים, מייעלים ואף מקדמים תרופות ומענים לשאלות מסובכות ומורכבות שבעבר הצריכו יכולת מחשוב ומשאבים רבים, לצד שימוש לרעה בכל התכונות הטובות שהזכרתי קודם.
מצב זה מכריח אותנו להיות ערניים יותר ולהבין כי היכולת היום "לפגוע" בנו ובמשפחה שלנו הפכה לקלה הרבה יותר עקב בינה מלאכותית. הדבר חמור שבעתיים כאשר אנו כבעלי עסק חשופים לא רק לתשלום כופר, אלא גם לפגיעה במוניטין ובדאטה החשובה שלנו.
• הכותב הינו מנהל קהילת עדיףTech
כתבות נוספות
שימוש בכלי AI להגדלת הלידים ושיפור המכירות
סוכני AI: עוצמות מול מיתוסים
כיצד בינה מלאכותית יכולה להוביל את סוכני הביטוח (SMB) לעידן החדש
2025: עידן הבינה המלאכותית והשפעתה על העולם העסקי והביטוח
בינה מלאכותית בענף הביטוח: ההזדמנויות, האתגרים, וההשפעות על מעסיקים
כניסה לחשבון שלי
(באמצעות סיסמה קבועה)שמסתיים בספרות {{phone-four-last-digits}}
אנא הזן את הקוד שקיבלת