מערכת שבתוןיובל שגב, סמנכ"ל הגנת סייבר Aidoc
פרשת 'בחוקותי' מציבה את האדם בפני בחירה: "אם בחוקותי תלכו… ואם לא תשמעו לי…". הבחירה החופשית היא אישית, עמוקה, לא טכנית – והשלכותיה מרחיקות לכת. גן עדן או גיהינום, לא רק בעולם הבא.
בדור שבו מערכות טכנולוגיות מקיפות אותנו מכל עבר, ראוי לשאול: האם אנחנו עדיין אלו שבוחרים – או שהעברנו את שרביט ההכרעה למכונה? כמה אנו מסוגלים להיות עם כושר שיפוטי ולהגיד למחשב – הפעם טעית.
סיפור על אדם אחד שהציל את העולם
ספטמבר 1983. שעת לילה מאוחרת בתחנת התרעה סובייטית בשם סרפוחוב-15, השוכנת ביער מרוחק מדרום למוסקבה. זהו אחד הרגעים המתוחים ביותר בתולדות המלחמה הקרה. רק שלושה שבועות קודם לכן, הפילה ברית המועצות מטוס נוסעים דרום-קוריאני שחדר בשוגג לשטחה האווירי. כל 269 הנוסעים נהרגו, ביניהם חברי קונגרס אמריקאים. העולם כולו מתנדנד על פי תהום של עימות גרעיני. החשד, הפחד והעצבנות ההדדית בשיאם.
ופתאום, אזעקה צורמת קורעת את הדממה. מערכת הלוויינים החדשה של ברית המועצות, שנקראת אוקו (עין), מדווחת: טיל בליסטי בין-יבשתי שוגר מארצות הברית לעבר ברית המועצות. כעבור שניות – התרעה נוספת. ואז עוד אחת. חמש התרעות רצופות. חמישה טילים גרעיניים, לכאורה, בדרכם אל תוך שטח רוסיה.
yogi-purnama
בחדר הבקרה, נורות אדומות מהבהבות. מסכים נדלקים. הלחץ בעיצומו. המחשב קובע בוודאות: שיגור אותנטי. הפרוטוקול הסובייטי ברור להפליא: יש להודיע מיידית למפקדת המטה הכללי, ולפתוח בנוהל תגובה גרעינית מקיפה. אבל אז – בתוך כל הסערה – עומד אדם אחד: סגן אלוף סטניסלב פטרוב, הקצין התורן באותו לילה.
המערכת אומרת לו: שיגור. אבל הוא מביט במסכים, שומע את הלב הפועם שלו, ואומר לעצמו: משהו לא הגיוני כאן. "חמישה טילים בלבד? זו לא מתקפה. זו טעות. אם זו הייתה מתקפה אמריקאית אמיתית – היינו רואים מאות שיגורים בו-זמנית. אין תגובות מגיבויים קרקעיים. אין רמז לתנועה בשטח. משהו פה פשוט לא מתאים".
צוותו נועץ בו עיניים רועדות. הדקות חולפות. הלחץ גובר. הוא יודע: אם אדווח עכשיו – ייתכן שיפתחו במלחמת עולם שלישית. הוא יודע גם: אם אני טועה – ארצי תושמד בעוד דקות. ועם כל זאת, הוא בוחר לא לדווח. הוא שובר את הכללים, חורג מהפקודות, ונושא על כתפיו החלטה שהעולם כולו תלוי בה.
כעבור זמן התברר: הוא צדק. זו הייתה אזעקת שווא – נדירה, אך אפשרית. השילוב בין עננים גבוהים, השתקפויות שמש ולוויינים לא מכוילים, יצר סימן שווא של שיגור. מערכת "אוקו" טעתה; פטרוב – האדם – לא. אם היה פועל אחרת, ייתכן שהכפתור האדום היה נלחץ – ואנושות שלמה הייתה משלמת מחיר נורא.
אדם אחר, טעות אחרת
סיפור מתחילת החודש בישראל: אברהים מחאג'נה, בעל חנות מחשבים, נדרש על ידי המשטרה לוותר על מכשיר הפלאפון שלו לצורך חקירה. במהלך ההליך, המדינה טענה בפני בית המשפט שקיים חוק המאפשר תפיסת "מחשב מוסדי", וטענה שהטלפון לא עומד בהגדרה זו. אלא שבמהלך הדיון התברר דבר בלתי ייאמן: החוק הזה כלל לא קיים. הוא נוצר ככל הנראה על ידי מערכת בינה מלאכותית, שכתבה נימוק שקרי, שהוגש לבית המשפט על ידי המדינה מבלי לוודא את קיומו!
השופט אהוד קפלן נדהם: "אם חשבתי שראיתי הכל ב-30 שנות שיפוטי – כנראה שטעיתי". הטעות, שנשענה על טקסט שיצרה ככל הנראה מערכת אוטומטית, כמעט הביאה לפגיעה בזכויות אדם בסיסיות.
דווקא בפרשת "בחוקותי", שמזכירה לנו את כוחה של הבחירה האנושית, אנו נדרשים לשאול: האם נדע להישאר בני אדם בעידן שבו המכונה נשמעת בטוחה, אבל לפעמים פשוט טועה? כי העתיד לא ייקבע רק לפי מה שהמחשב אומר – אלא לפי האם אנחנו עוד מסוגלים לחשוב, להכריע ולעמוד על האמת. האחריות – לא ניתנת להאצלה. היא תמיד בידיים אנושיות.
