נשקים מבוססי בינה מלאכותית: המהפכה הצבאית הבאה

השימוש בבינה מלאכותית (AI) בצבאות מודרניים מציב שאלות מורכבות על אתיקה, יעילות ושליטה אנושית. מאמר שפורסם במגזין Foreign Affairs תחת הכותרת "נשקי הבינה המלאכותית והאשליה המסוכנת של שליטה אנושית" מתאר כיצד תהליך האוטומציה המואץ בשדה הקרב יוצר אתגר ממשי לתפיסה המסורתית של שליטה אנושית בהחלטות צבאיות קריטיות.

האשליה של שליטה אנושית

לפי המאמר, הסכנה האמיתית אינה חוסר היכולת האנושית לשלוט במערכות בינה מלאכותית, אלא האשליה שניתן לשלוט בהן. האמונה כי "אדם בלולאה" יוכל למנוע החלטות שגויות של מכונות היא נחמה כוזבת, במיוחד בעולם שבו הטכנולוגיה מתקדמת במהירות.

לדוגמה, מדיניות משרד ההגנה האמריקני מחייבת שמערכות נשק אוטונומיות יאפשרו התערבות אנושית, אך בפועל, רמת המורכבות והמהירות של מערכות AI מתקדמות מקשות על המפעילים האנושיים להבין או לפקח על פעולתן בזמן אמת.

האצה של שדה הקרב

המאמר מציין כי מלחמות העתיד יהיו "מהירות יותר, מבוססות נתונים ומתנהלות בלחץ גבוה." מערכות בינה מלאכותית, כמו להקות כטב"מים (כלי טיס בלתי מאוישים), יוכלו לפעול באופן אוטונומי ולבצע פעולות צבאיות ללא התערבות אנושית ישירה.

דוגמה לכך היא מלחמת אוקראינה, שבה הוכח כי הפרעות בתקשורת בין מפעילים לכלים בלתי מאוישים מאלצות שימוש ברמות עצמאות גבוהות יותר.

היבטים אתיים ומעשיים

המאמר מזהיר כי השימוש במערכות נשק אוטונומיות עלול להוביל להפרת עקרונות מוסריים מסורתיים, כמו הבחנה בין לוחמים לאזרחים או שמירה על יחסיות הנזק. בנוסף, קיים חשש כי מערכות אלו ינוצלו לרעה על ידי שחקנים לא מדינתיים או ישתבשו על ידי גורמים עוינים.

עם זאת, הניסיון לשלב שליטה אנושית בכל שלב עלול להאט את קבלת ההחלטות בשדה הקרב, ולפגוע ביכולת המבצעית של צבאות דמוקרטיים מול יריבים שמוכנים לאמץ אוטומציה מוחלטת.

המלצות מדיניות

במקום לשמר את האשליה שהחלטות קרביות יתבצעו בפיקוח אנושי מלא, מציע המאמר לפתח אמון במערכות אוטונומיות בתקופת שלום. יש לתכנת, לבדוק ולשפר את מערכות ה-AI כך שיפעלו ביעילות תחת תנאי לחץ, מתוך הבנה שהחלטות מבצעיות רבות יתקבלו בעתיד על ידי המכונות עצמן.

מבט לעתיד

בשנים הקרובות, הבינה המלאכותית תתפוס מקום מרכזי יותר ויותר בשדה הקרב. אימוץ גישה ריאליסטית לשילוב AI במערכות צבאיות, תוך בניית אמון ושיפור המערכות מראש, עשוי למנוע החלטות פזיזות בזמן מלחמה. ההסתמכות על "שליטה אנושית" בלבד עלולה להוביל להחלטות פחות מוסריות ולסיכון מיותר לחיי אדם.