האם ניתן להטעות מערכות בינה מלאכותית צבאיות?

מבצע "טופאן אל-אקצא" שפרץ ב-7 באוקטובר 2023, ומה שבעקבותיו הוביל להתלקחות במספר חזיתות ובעיקר בלבנון, חשף כי תפקידה של הבינה המלאכותית הצבאית בישראל הפך למרכזי בכל הרמות הצבאיות והביטחוניות, ובמיוחד בתחום האיסוף המודיעיני.

לפי אחד ממנהלי מחלקת היעדים במטה הכללי (שהוקמה במרץ 2019), מנוע הבינה המלאכותית שפותח באמ"ן, משפר ומעבד את נתוני המודיעין באמצעות אלגוריתמים מבוססי כללים, ומספק המלצות לזיהוי מטרות. המערכת הצליחה לייצר אלפי מטרות ביום, בזמן שבעבר נחשב הדבר למדע בדיוני. שיטת יצירת המטרות באופן פשוט נעשית על ידי מעקב מחלקת היעדים אחר תופעות חריגות של "האוייב" מתוך מגוון רחב של מקורות מידע (קול, טקסט, תמונה, וידאו, מכ"ם, תמונות לוויין, וחיישנים טכנולוגיים שונים). המערכת מפיקה אז המלצה מידית לתקיפה, או בזמן "שגרה" מאגדת את המטרות בבנק מוכן לעימות צבאי עתידי.

המניע המרכזי לשימוש בבינה המלאכותית

המניע המרכזי לכך שצה"ל עושה שימוש בבינה המלאכותית ליצירת מטרות, נובע מהכישלון הישראלי מול ההתנגדות האסלאמית בלבנון – חזבאללה – במהלך מלחמת יולי 2006. כך ניתן להבין מדבריו של סא"ל (מיל') הטייס ד"ר דן ציון לאחד האתרים הישראליים, שבו אמר: "לאחר מלחמת לבנון השנייה, הבין הצבא שני דברים. האחד – שיש בידינו כוח אסטרטגי – נשק מדויק. והשני – שהאויב מתכוון לנצח, ולא רק להישאר על קו העימות. אז התפתחה רעיון שהתבסס על הישגי חיל האוויר בתחילת מלחמת לבנון השנייה (כוונתו למבצע 'משקל סגולי', שכונה בהמשך 'האשליה הסגולית')".

ציון הוסיף שצה"ל הגיע למסקנה: "אם הצלחנו להשמיד 200 מטרות ב-34 דקות, ולהשמיד כמעט את כל הנשק האסטרטגי שהיה לחזבאללה באותו זמן, אז אין סיבה שלא נצליח, בהכנה נכונה, להשמיד 2,000 מטרות. בסופו של דבר, אין יותר מ-2,000 מטרות לחזבאללה – מחסנים, מפקדות, מרכזי שליטה – זה הכול. יותר מ-140 אלף רקטות, פצצות ופגזים אינם פזורים בשטח, אלא מרוכזים במחסנים וממתינים ליום פקודה". הוא ממשיך: "כך החל מאמץ מודיעיני מדהים באמ"ן, חיל האוויר והמוסד, שנמשך 15 שנים. לחזבאללה מערכת שליטה ובקרה מבוססת סיבים אופטיים, שלא ניתן לצותת לה אלא על ידי חדירה ישירה – לכן כנראה שזה מה שנעשה. כך התאפשר לגלות היכן נמצא כל אחד, איפה מסתובב חסן נסראללה כעת, ואיפה יהיה בעוד שלוש שעות. לשם שילוב המידע, פיתחנו מנוע בינה מלאכותית שמנתח את כל הנתונים. מה שעושה צוות אנושי בשבוע – המערכת עושה בשעה. כך ניתן לאתר מטרות בזמן אמת ולהכווין מטוסים לעברן תוך כדי טיסה. למעשה, המטוסים תמיד באוויר, והמידע על המטרות מגיע ישירות למטוס – אפילו בלי שהטייסים מעורבים. החימוש יגיע לנקודה המדויקת, גם אם הטייס לא יודע היכן היא נמצאת".

תפקידו של אביב כוכבי

במקום אחר בריאיון, חשף ציון את תפקידו של הרמטכ"ל לשעבר אביב כוכבי בהטמעת הבינה המלאכותית בצה"ל: "הוא ביצע שינויים בחיל האוויר, ובמקביל הקים את 'מחלקת היעדים של המטכ"ל' באמ"ן – יחידה שתפקידה היחיד הוא לאתר מטרות עבור המכונה ההתקפית הזו. בלעדיה אי אפשר להצליח. כלומר, ניהול המטרות שיותקפו בידי חיל האוויר הועבר ליחידה נפרדת, שהיא שקובעת איזה מטוס ילך לאן – ולא חיל האוויר עצמו. במקביל, כוכבי הקים מרכזי אש בפיקודים, ולמעשה פירק את המערכת והעביר את היכולות לשטח. כל זה התאפשר הודות לטכנולוגיה ורוחב הפס שאפשרו לרשתות – בכל רגע נתון – לראות את אותו הדבר. כל מ"פ וכל מג"ד יכול לראות בדיוק מה שהמטוס רואה, ומה שהפיקוד רואה, בגזרתו".

כיצד ניתן להתמודד עם יישומי הבינה המלאכותית הצבאית ולהטעות אותם?

כמו תמיד, גם במאבק מול צה"ל בעשורים האחרונים, הצליחה ההתנגדות למצוא דרכים וטקטיקות שמסכלות או מגבילות את היתרון הטכנולוגי – כך גם תצליח להתמודד עם יישומי הבינה המלאכותית הצבאית.

הטעיית מערכות הבינה המלאכותית הצבאית אינה רק אפשרית – אלא במקרים מסוימים אף קלה מהטעיית בני אדם. כך מדגישות רבות מהמחקרים והמאמרים, בהם מחקר שפרסם מרכז המחקר "ניו אמריקה", שבו השתתפו קצין צבא אוסטרלי לשעבר מיק ריאן והאסטרטג פי. דבליו. סינגר.

לפי המחקר, מערכות חכמות קלות יותר להטעיה, וצבאות שהסתמכו לאורך ההיסטוריה על הטעיה והונאה לצורך בלבול האויב, צריכים להתאים את השיטות הללו מול מערכות הבינה המלאכותית, המנותחות דפוסים וממליצות על פעולות. לא עוד בני האדם בלבד הם יעד להטעיה – אלא גם המכונות. המחקר מסכם שניתן להטעות את הבינה המלאכותית דרך נתוני חיישנים מזויפים, אותות שקריים, או דפוסים שמנצלים את ההנחות הבסיסיות של האלגוריתם. בניגוד לכוחות סיור מסורתיים שסומכים על אינטואיציה וחשד, המערכות האוטומטיות עלולות לפרש מידע שגוי כעובדות ולהגיע למסקנות או פעולות מטעות.

בהקשר זה, ההתנגדות – שביססה תמיד את פעולתה על הגנה פסיבית (כמו הסוואה, הונאה והתחמקות) – יכולה להמשיך ולפתח את השיטות הללו בהתאם להתפתחות יכולות המעקב והריגול של ישראל. אולי אפילו באמצעים פשוטים כמו עשן (כמסך מלאכותי) או ערפל (כמסך טבעי), כדי להסתיר תנועות מהלוויינים. ניתן גם לחזור לשיטות ההגנה הישנות, תוך הימנעות משימוש בכל אמצעי תקשורת טכנולוגיים – אלא רק תחת מערך מאובטח במיוחד.