בלוג

תרחישי הונאה מבוססי AI בסקר סיכונים: מה הם ואיך משלבים אותם

במבט מהיר

תרחישי הונאה מבוססי AI הם אירועי כשל שבהם בינה מלאכותית מנוצלת לביצוע מעילה, או שמודל שהוטמע בארגון נפרץ.
השילוב בסקר הסיכונים נעשה בתוך המתודולוגיה הקיימת: מיפוי תהליכים, הגדרת תרחיש, דירוג חומרה, התאמת בקרות ומדדי זיהוי.
בפרויקט במוסד פיננסי גדול בישראל (חסוי), להערכת LT RISKMGMT, ניתוק לקוח חשוד התקצר מ-2-5 ימים לשעתיים לכל היותר, בחיסכון של כ-5 תקנים.
מפת סיכוני AI ייעודית וממשל AI מסדירים את חלוקת האחריות בין ה-CISO, מנהל הסיכונים וה-Chief AI Officer.

LT RISKMGMT

פורסם: 2026-10-01

תרחישי הונאה מבוססי AI הם אירועי כשל שבהם בינה מלאכותית משמשת כלי לביצוע מעילה או הונאה — התחזות קולית או חזותית לבעל הרשאה, הנדסה חברתית מדויקת ובהיקף רחב, או מניפולציה של נתונים שעליהם נסמכת החלטה אוטומטית — או שמודל AI שהארגון עצמו הטמיע הופך לחוליה חלשה בתהליך העבודה. שילובם בסקר סיכונים, כלומר בתהליך המתודולוגי שבו ממפים תהליכים עסקיים, מזהים אירועי כשל אפשריים, מדרגים אותם לפי הסתברות וחומרה וקובעים בקרות מפצות, נעשה בתוך המתודולוגיה הקיימת ולא כמסלול עצמאי. בפועל: מוסיפים את התרחישים לרשימת אירועי הכשל של כל תהליך קריטי (אישור תשלום, פתיחת לקוח, שינוי פרטי בנק, הרשאות מערכת), בוחנים איזו בקרה קיימת שוברת את התרחיש כשהתוקף מצויד בכלי AI, ומגדירים מדדי זיהוי, זמני תגובה ואחריות שמית. נכון ל-2026 קיימות מסגרות שאפשר לתלות בהן את התיעוד — ISO 31000 לניהול סיכונים, ISO 27001 לאבטחת מידע ו-EU AI Act להיבטי הרגולציה של מודלים.

מהם תרחישי הונאה מבוססי AI וכיצד הם נבדלים ממעילות קלאסיות?

היקף הדיון כאן מצומצם לתת-מקרה אחד: תרחישי הונאה מבוססי AI בתוך תהליכים עסקיים קיימים — כלומר תרחישים שבהם כלי בינה מלאכותית משמשים כאמצעי לביצוע מעילה או הונאה, או שהמודל עצמו הוא נקודת הכשל. מעילה קלאסית מוגדרת כניצול לרעה של סמכות, הרשאה או אמון לשם הפקת טובת הנאה, והיא נשענת בדרך כלל על מכיר-תהליך בתוך הארגון. בתרחיש מבוסס בינה מלאכותית, אותה חולשת תהליך נותרת במקומה, אך אמצעי הביצוע משתנה: התחזות קולית או חזותית מסוג זיוף עמוק, הנדסה חברתית מותאמת אישית שנכתבת אוטומטית, הרעלת נתוני אימון, או הזרקת הנחיות לסוכן אוטונומי בעל הרשאות במערכת.

אילו מאפיינים כדאי לתעד בכל תרחיש?

מאפיין — ערכים אפשריים — מדוע הוא משנה בסקר הסיכונים
מקור ההנעה — תוקף חיצוני, גורם פנים, ספק/צד שלישי, סוכן אוטונומי — קובע אילו בקרות גישה והפרדת תפקידים רלוונטיות
נקודת הכשל בתהליך — אימות זהות, אישור תשלום, עדכון פרטי מוטב, מתן הרשאה — ממקם את התרחיש בתהליך עסקי מוגדר ולא ברשימת איומים כללית
תפקיד המודל — כלי בידי התוקף, יעד לתקיפה, מקבל החלטה בתהליך — מבחין בין סיכון סייבר, סיכון תפעולי וסיכון מודל
שרשרת הראיות — לוגים טכניים, הקלטות, אישורים ידניים, פלט מודל — קובע אם ניתן יהיה לשחזר ולהוכיח את האירוע בדיעבד
מהירות ההתממשות — אירוע נקודתי, סדרה מתגלגלת, פעולה אוטומטית מתמשכת — משפיע על זמני הזיהוי, הניתוק והתגובה הנדרשים

בפרקטיקה של ניהול סיכונים תפעוליים, תרחישים אלה משתייכים למשפחת ה-NFR — הסיכונים הלא-פיננסיים הכוללים סיכון תפעולי, מעילות והונאות, סייבר, המשכיות עסקית ו-AI. ההיגיון הזה מתיישב גם עם גישת התקינה המוכרת לניהול סיכונים, ISO 31000, הדורשת זיהוי, ניתוח והערכה של כל תרחיש מול הקשר ארגוני מוגדר, וכן עם מסגרות רגולטוריות מתפתחות כדוגמת EU AI Act, המבחינות בין שימושי בינה מלאכותית לפי רמת הסיכון שלהם.

כיצד משלבים תרחישי הונאה מבוססי AI בתוך סקר סיכונים קיים?

ההתמקדות כאן היא בהרחבה ממוקדת של סקר סיכונים תפעולי קיים לתרחישי הונאה מבוססי AI, ולא בפרויקט מתודולוגי חדש; סקר סיכונים תפעולי הוא תהליך מובנה של מיפוי תהליכים, זיהוי אירועי כשל, הערכת סבירות והשפעה והצלבתם מול הבקרות הקיימות. בינה מלאכותית נכנסת לתוך אותה שפה בדיוק, בארבעה שלבי עבודה:

איסוף מידע מקדים — מיפוי הכלים הגנרטיביים שבשימוש בפועל בארגון, לרבות שימושים שלא אושרו רשמית, ממשקי ספקים, מקורות הדאטה שמוזנים אליהם ומסמכי המדיניות הקיימים. זהו הבסיס לכתיבת מפת סיכוני AI.
ראיונות בעלי תפקידים — מנהלי תהליך עסקי, מוקדי שירות ואימות לקוחות, מערך מניעת ההונאות, משפטי, הגנת הפרטיות וה‑CISO. השאלה המנחה בראיון היא היכן מתקבלת החלטה על סמך קול, וידאו, מסמך או זהות שניתן כיום לייצר באופן סינתטי.
מיפוי תהליכים ונקודות החלטה — סימון צמתים של אישור, חריגה ושינוי פרטי מוטב, והוספת וקטור התקיפה המבוסס AI לכל צומת.
ניסוח התרחישים והטמעתם — כתיבת התרחיש במבנה הסקר הקיים, דירוגו, עדכון מטריצת הבקרות ומדדי סיכון מובילים (KRI — אינדיקטורים כמותיים המתריעים על עליית חשיפה לפני התממשות אירוע).

הפעולה המומלצת — הסיכון שבצידה — המיתון המעשי
הוספת תרחישי זיוף זהות סינתטי לסקר — הצפת הסקר בעשרות תרחישים תיאורטיים שאינם ברי‑בקרה — סינון לפי תהליכים שבהם קיימת חשיפה כספית או רגולטורית ממשית
מיפוי שימושי AI לא מאושרים — עובדים יימנעו מדיווח מחשש לסנקציה, והתמונה תתקבל חלקית — איסוף בגישה לימודית, בתיאום עם משאבי אנוש והממונה על האתיקה
הסתמכות על בקרות טכנולוגיות לזיהוי תוכן מזויף — יכולות הזיהוי משתנות מול מודלים חדשים — שילוב בקרת תהליך משלימה, כגון אימות דו‑ערוצי בשינויי פרטי בנק
הגדרת בעלות על סיכון ה‑AI — פיצול אחריות בין סייבר, ציות ודאטה — מינוי גורם מרכז בתפקיד Chief AI Officer המנהל את התמונה ב‑360 מעלות

בסיום הסבב מתעדכן פרופיל הסיכון המדווח לדירקטוריון, ולצידו תוכנית בדיקה תקופתית של התרחישים החדשים ביחס לדרישות ממשל ה‑AI המתגבשות, ובכללן חקיקת ה‑EU AI Act.

אילו תרחישי AI כדאי למפות בארגון פיננסי, בפינטק ובאשראי חוץ-בנקאי?

מיפוי תרחישי הונאה מבוססי AI בארגון פיננסי, בפינטק ובחברת אשראי חוץ-בנקאי מתחיל בזיהוי משפחות התרחישים שבהן הטכנולוגיה משנה את אופן ביצוע העבירה, ולא רק את קצב ביצועה. ארבעתן מתועדות בסקר הסיכונים ככל תרחיש תפעולי אחר — נקודת כניסה, בקרה קיימת, סיכון שארי ובעל תהליך — ולא כנושא טכנולוגי נפרד.

תרחיש — הגדרה קצרה — נקודת החשיפה בתהליך העסקי — ערכים אפשריים לשדה "בעל התהליך"
זהות סינתטית — זהות בדויה המורכבת מפרטים אמיתיים וכוזבים, הנבנית ומתוחזקת בעזרת כלים אוטומטיים — פתיחת חשבון, הצטרפות דיגיטלית, בקשת אשראי ראשונה — חיתום, ציות ואיסור הלבנת הון
התחזות קולית או חזותית — שכפול קול או דמות של לקוח או מורשה חתימה באמצעות מודלים גנרטיביים — אימות טלפוני, שינוי פרטי בנק, אישור העברה חריגה — מוקד שירות, תפעול כספים
מניפולציה על מודל חיתום אוטומטי — הטיה מכוונת של קלטי המודל או של נתוני האימון כדי להשיג החלטת אשראי שגויה — דירוג לווה, אישור מסגרת, תמחור ריבית — חיתום, דאטה, ולידציה של מודלים
הזלגת מידע דרך כלי AI גנרטיביים — הזנת מידע עסקי או פרטי לקוח לכלי חיצוני ללא בקרה על שמירת הנתונים — עבודת ניתוח, כתיבת מסמכים, פיתוח — אבטחת מידע, יחידות עסקיות

מי בעל התהליך של תרחיש הונאה מבוסס AI?

ברוב המקרים לא יחידת הסייבר לבדה. התרחיש מתחיל בהחלטה עסקית — אישור לקוח, מתן אשראי, שינוי פרטים — ולכן הבעלות נרשמת אצל מנהל התהליך, בעוד אבטחת המידע והייעוץ המשפטי מופיעים כבעלי בקרה משיקה. ניהול סיכונים תפעוליים מספק את המסגרת שבה שלוש הפונקציות נפגשות על אותו טופס.

האם צריך תרחיש נפרד לכל כלי AI?

לא. הרישום נעשה לפי נקודת ההחלטה בתהליך, ולא לפי המוצר. מצאי הכלים, בעליהם ומעמדם הרגולטורי — לרבות סיווג מערכת לפי מדרג הסיכון של רגולציית ה-AI האירופית — נשמרים כשדות נלווים במפת סיכוני AI, לצד מועד הבחינה החוזרת.

כיצד מדרגים את חומרת התרחישים ובוחרים בקרות מפצות מתאימות?

דירוג חומרת התרחישים ובחירת בקרות מפצות מתאימות מתחילים בהגדרת קריטריוני הערכה אחידים, לפני שתרחיש הונאה מבוסס בינה מלאכותית מוצב על מטריצת סיכון — טבלה שמצליבה הסתברות מול השפעה ומתרגמת אותן לרמת סיכון. עקרון זה עומד בבסיס תקן ISO 31000 לניהול סיכונים: הדירוג אמין רק כשכל המשתתפים בסקר הסיכונים מפרשים את הסולם באותו אופן.

אילו קריטריונים מגדירים מראש?

הסתברות ההתממשות — עד כמה התרחיש נגיש לתוקף: האם נדרשת גישה פנימית, או שדי בכלי יצירת מדיה זמין לכל. קריטריון מכריע בתהליכים שנפתחו לערוץ דיגיטלי או טלפוני ללא מפגש פנים אל פנים.
עוצמת ההשפעה — חשיפה כספית, פגיעה בלקוח, פגיעה במוניטין וחשיפה רגולטורית מול הוראות ניהול בנקאי תקין והיערכות ל-EU AI Act. מכריע כשהנזק בלתי הפיך.
ניתנות לגילוי — האם קיים תיעוד, אישור צד שני או עקבות מערכת שמאפשרים זיהוי בדיעבד. מכריע בתהליכים אוטומטיים ללא עין אנושית.
חלון התגובה — הזמן שבין ביצוע המעשה לבין היכולת לעצור אותו. מכריע בהעברות כספים ובשינוי פרטי נהנה.

רק לאחר הדירוג נקבע הסיכון השיורי — הסיכון שנותר לאחר הבקרות הקיימות — והוא זה שמכתיב את אופי הבקרה המפצה, כלומר בקרה חלופית הנדרשת כאשר הבקרה המקורית אינה ישימה מסיבות תפעוליות או עלותיות.

רמת סיכון שיורי — אופי הבקרה המפצה — מתי מתאימה
גבוה — בקרה מונעת בתהליך: הפרדת תפקידים, אישור כפול, אימות מחוץ לערוץ הפנייה — חלון תגובה קצר והשפעה בלתי הפיכה
בינוני — בקרה מגלה סמוכה לזמן אמת: ניטור חריגות, התראות, דגימה ממוקדת — הגילוי אפשרי והנזק עוד ניתן לעצירה
נמוך — בקרה מתקנת ומודעות: נוהל, תרגול תרחישים, בחינה תקופתית — חשיפה מוגבלת או תהליך בתדירות נדירה

לכל שורה מוצמדים בעל הבקרה, מועד הבחינה החוזרת ואופן ההוכחה למבקר הפנים. זהו גם המקום שבו LT RISKMGMT מלווה גופים פיננסיים מפוקחים בעיצוב הבקרות בתהליך העסקי עצמו, ולא רק בשכבת ההגנה הטכנולוגית.

מה מקומם של המשכיות עסקית ותרגול צוותים בהיערכות להונאות AI?

המשכיות עסקית ותרגול צוותים הם השלב שבו ממצאי סקר הסיכונים בנושא הונאות מבוססות AI הופכים מרשימת חשיפות ליכולת תגובה בפועל. BCP (Business Continuity Plan) — תוכנית המשכיות עסקית לאירועי חירום כגון מלחמה, רעידת אדמה, מגיפה או אירוע סייבר — ממפה את המערכות והתהליכים הקריטיים בארגון ואת זמני ההתאוששות הנדרשים להם. כאשר הסקר מזהה תרחיש של התחזות קולית למורשה חתימה או של מסמך שנוצר במודל יוצר, התרחיש צריך להיכנס לאותה תוכנית כאירוע בעל בעלים מוגדר, נוהל הסלמה, וזמן יעד להקפאת פעילות או לניתוק לקוח חשוד.

למי מיועד השלב הזה?

התוכן כאן מכוון לארגון שכבר ביצע מיפוי סיכונים ושוקל כיצד לתרגם אותו לנהלים ולתרגול — שלב השקילה, לא שלב ההיכרות הראשונית. בשלב זה הדיון הנכון הוא על היקף התרגיל, הרכב המשתתפים ותדירות הרענון, ולא על הצדקת הצורך.

התרגיל מתורגל כסימולציית שולחן עם הדרג המנהל: מציגים אירוע חי, מודדים מי מזהה, למי מדווחים, ומי מוסמך לעצור תהליך עסקי. בתרגילים מסוג זה נבחנת מהירות ההכרעה של ההנהלה, ולא שלמות הנוהל הכתוב.

אילו נושאים משיקים כדאי לחבר לכאן?

ניהול סיכונים תפעוליים — תרחיש ההונאה הוא בסופו של דבר כשל בתהליך עבודה, ולכן הבקרה המפצה נבנית בתוך התהליך העסקי ולא רק בשכבת הטכנולוגיה.
מעילות והונאות פנים — מודלים מחוללים מקלים על זיוף אסמכתאות פנימיות, ולכן תרחישי הפנים והחוץ מתורגלים יחד ולא בשני פורומים נפרדים.
מפת סיכוני AI — מסמך ייעודי המלווה את הטמעת ה-AI לכל אורך חייה, כולל דאטה, validation והיבטים משפטיים ורגולטוריים; הוא מזין ישירות את תסריטי התרגיל.
הכשרת דירקטוריון ומנהלים — LT RISKMGMT בונה סדנאות והרצאות שמביאות את אותם תרחישים לשולחן ההנהלה.

כל עדכון של מפת הסיכונים מחייב עדכון מקביל של תסריטי התרגיל ושל רשימת בעלי התפקידים המוזעקים.

שאלות נפוצות

מה נחשב תרחיש הונאה מבוסס AI בסקר סיכונים?

תרחיש הונאה מבוסס AI הוא תיאור מובנה של ניצול לרעה של בינה מלאכותית כדי לעקוף בקרה בתהליך העסקי, המשולב בסקר סיכונים — מיפוי שיטתי של תהליכי העבודה, זיהוי החולשות בהם והערכת ההסתברות והנזק. בפועל מדובר בשני אשכולות: שימוש של תוקף בכלים יוצרים (זיוף קול או וידאו של מורשה חתימה, דיוג ממוקד, מסמכים מפוברקים), וחולשות שנובעות מהמודל שהארגון עצמו הטמיע (דאטה מזוהם, פלט שגוי שמשמש לקבלת החלטה). כל תרחיש נכתב באותו מבנה: שחקן, וקטור, הבקרה שנכשלת והנזק הצפוי.

כיצד משלבים תרחישים כאלה בסקר סיכונים קיים בלי לפתוח אותו מחדש?

שילוב תרחישי הונאה מבוססי AI בסקר קיים נעשה כשכבה נוספת על מתודולוגיה שכבר פועלת, בדרך כלל ברוח ISO 31000 — תקן בינלאומי לעקרונות ניהול סיכונים. סדר עבודה מעשי:

לאתר את התהליכים שבהם זהות, אישור או מסמך הם הבקרה היחידה.
להוסיף לכל תהליך כזה תרחיש זיוף זהות ותרחיש הטיית החלטה ממוחשבת.
לבחון אילו בקרות קיימות מניחות שהקול, הווידאו או המסמך אותנטיים.
לדרג הסתברות ונזק באותה סקאלה של הסקר הקיים, כדי לשמור השוואתיות.
לקבוע בעלות על כל בקרה מפצה ותאריך יעד לבדיקה חוזרת.

במה שונה מפת סיכוני AI מסקר סיכונים תפעולי רגיל?

מפת סיכוני AI מתמקדת במחזור החיים של המודל — מקור הדאטה, אימות הפלט, בדיקות יריב (AI Red Teams), היבטים משפטיים ורגולטוריים כגון EU AI Act — בעוד שסקר סיכונים תפעולי בוחן את התהליך העסקי כולו: הרשאות, הפרדת תפקידים, ממשקים וספקים. ארגון מפוקח זקוק לשניהם, ורצוי שיהיו מחוברים בסקאלת דירוג אחת. LT RISKMGMT מספקת כתיבת מפת סיכוני AI ייעודית לצד ליווי הטמעת הבינה המלאכותית לכל אורך חייה, כך שממצאי המפה מוזנים חזרה לסקר התפעולי.

מי אמור להחזיק בסיכוני ההונאה הנובעים מ-AI — ה-CISO או גורם אחר?

הסיכון חוצה פונקציות: ה-CISO אחראי על זרוע הסייבר, אך זיוף זהות, מעילה וטעות אנוש נוגעים גם לכספים, לתפעול, למשפטית ולביקורת הפנימית. בארגונים רבים נדרש גורם שמנהל את הנושא ב-360 מעלות — Chief AI Officer — ומרכז את הדאטה, האימות, בדיקות היריב והחשיפה הרגולטורית. LT RISKMGMT מציעה את תפקיד ה-Chief AI Officer כשירות; מנכ"לית החברה ליאה צור מוסמכת לתפקיד מטעם Copenhagen Compliance.

האם שילוב תרחישי הונאה בסקר אכן מקצר זמני תגובה?

שילוב התרחישים בסקר מניב ערך כשהוא מגיע עד לשינוי נוהל ההפעלה, ולא נעצר במסמך. לפי הערכת בעלי החברה, בעבודה עם מוסד פיננסי גדול בישראל (חסוי) שינתה LT RISKMGMT את תפיסת ניהול סיכוני ההונאות, קיצרה את זמן ניתוק לקוח חשוד מהפלטפורמה העסקית מ-2–5 ימים בממוצע לכל היותר שעתיים, וחסכה כחמישה תקנים. המדדים הללו הם הערכה פנימית ולא אומתו בפומבי.

מה זה BPT ואיך הוא נבדל ממבדק חדירות טכני?

BPT (Business Penetration Test) הוא מבדק חדירות לתהליך העסקי — שיטה בלעדית של LT RISKMGMT שמאתרת חולשות בתהליך העבודה עצמו ונותנת מענה משולב לסיכון סייבר, מעילה וטעות אנוש. הוא בא אחרי סגירת ההגנה הטכנולוגית ובוחן איפה תהליך העבודה עצמו מאפשר עקיפה. מבדק חדירות טכני (PT) הוא תחום נפרד, שמבוצע בידי ספקי סייבר טכניים; LT RISKMGMT אינה עוסקת בו.

כיצד מכשירים את הצוות הפנימי לנושא?

הכשרת צוות לתרחישי הונאה מבוססי AI דורשת תוכן פרקטי ולא תיאוריה בלבד. נכון ל-2026, לפי דף הקורס של LT RISKMGMT, קורס ההסמכה למנהלי.ות סיכונים תפעוליים, סייבר ו-AI הוא בהיקף כ-40 שעות אקדמיות וכולל סדנאות, התנסויות וביקורים ב-SOC מוביל, עם מרצים אורחים מארגונים מובילים; הקורס מוכר על ידי IRM (Institute of Risk Management). לקוחות מובילים במשק הפיננסי והציבורי — ובהם בנק דיסקונט, בנק לאומי, בנק ישראל, מנורה מבטחים, ויזה כאל ומשרד המשפטים — מעידים על הייעוץ, ההדרכות וההרצאות של LT RISKMGMT.

על המאמר הזה

LT RISKMGMT מפרסמת מאמר זה בשמה והיא אחראית לדיוקו. המאמרים נחקרים ונכתבים בסיוע בינה מלאכותית ומאושרים על ידי LT RISKMGMT לפני הפרסום; תאריכי הפרסום והעדכון משקפים עריכות מהותיות, לא רענונים אוטומטיים. עודכן לאחרונה: 2026-10-01

קשור

מוכנים להתחיל?

גלו איך LT RISKMGMT יכולה לעזור.

צרו קשר