אנו חיים בעולם שהוא מורכב יותר ויותר אוטומטי. אז בדיוק כפי שאנו נאלצים להתמודד עם בעיות מורכבות יותר, אוטומציה מובילה לניוון של כישורי אנוש העלולים להשאיר אותנו פגיעים יותר כאשר אנו מגיבים למצבים בלתי צפויים או כשדברים משתבשים. 
שקול את הדקות האחרונות של טיסה 447 של אייר פראנס, שהתרסק באוקיינוס האטלנטי במאי 2009 לאחר שעזב את ריו דה ז'ניירו, ברזיל, לפריז, צרפת.
מקליט הטיסה שלו נחשף בלבול מוחלט בתא הטייס. המטוס הוטה כלפי מעלה ב 15 מעלות בקול אוטומטי המכנה שוב ושוב "דוכן, דוכן". ובכל זאת הטייסים התפתלו, אחד קרא: "[...] אנחנו לא מבינים כלום."
זה לא המקום להיכנס לפרוטוקולים של אותה טיסה חסרת גורל, מלבד לציין כי כל מערכת שנועדה להתמודד אוטומטית עם מצבים רוב הזמן משאירה בסיס מיומנויות מושפל למיעוט המצבים שהמעצבים לא יכלו. לא חוזה.
אם כבר מדברים על וניטים פירים, נדין סארטר, מהנדסת תעשייה באוניברסיטת מישיגן, נזכרת בשיחה עם חמישה מהנדסים המעורבים בבניית מטוס מסוים.
התחלתי לשאול, 'נו, איך זה או אחר עובד?' והם לא יכלו להסכים על התשובות. אז חשבתי, אם חמשת המהנדסים האלה לא יכולים להסכים, הטייס המסכן, אם הוא נתקל אי פעם במצב המסוים הזה ... טוב, בהצלחה.
למעשה המורכבות של טיסות מטוסי הייטק מורכבים בתבונה הוטלה על רובוט, עם מהנדסי טיסה לכל דבר ועניין מתא הטייס. רק טייסים מבוגרים וטייסי חיל האוויר לשעבר שומרים על כישורים מפורטים אלה.
חזרה לטרא פירמה, בעולם נהיגה אוטונומי יכולים להיות דורות שלמים ללא שום ניסיון מעשי נהיגה וניווט רכב.
אנחנו כבר רואים אינדיקציה ל מה יכול להשתבש כשבני אדם משאירים את השליטה ל מערכות אוטונומיות.
חקירה בנושא התרסקות קטלנית של טסלה דגם S עם טייס אוטומטי ציין כי החברה מסרה מידע אודות "מגבלות מערכת" לנהגים. במקרה זה, עדיין על הנהגים לשים לב.
אבל איזה סיכוי יהיה לאדם להשתלט על בקרות כלשהן אם הדברים יתחילו להשתבש בעתידם רכב אוטונומי לחלוטין. האם הם בכלל יידעו לזהות את הסימנים המוקדמים לאסון המתקרב?
מאבדים את הדרך שלנו?
לנהוג בזה הוא דטרמיניזם טכנולוגי שמאמין שכל חדשנות וטובה מהותית. בעוד שטכנולוגיות מתפתחות עדיין עשויות להגדיר מה זה להיות אנושי, האתגר הוא לזהות את הסיכון ומה לעשות כדי לוודא שדברים לא משתבשים.
זה נהיה קשה יותר ככל שהוספנו למורכבות, במיוחד עם נהיגה אוטונומית של רכבות פרבריות, מוניות אוויר ו מל"טים למסירה.
מעצבי מערכות בנו מערכות גדולות ושזורות יותר בכדי לחלוק את עומס עיבוד המחשבים למרות שזה הופך את היצירות שלהם למועמדות ראשונות לפירוק. הם משקיפים על העובדה שברגע שהכל מתחבר, בעיות יכולות להתפשט בקלות כמו פתרונות, לפעמים יותר מכך.
המורכבות הגדלה והעצומה של עולם אוטומטי מהווה סיכונים דומים.
נקודות סכנה
בדיעבד, מה שצריך הוא יכולת לחתוך רשתות בחינם כשיש נקודות כשל, או לפחות לאטום חלקים מרשת אחת כשיש נקודות כשל במקום אחר בתוכה.
"אי" זה הוא מאפיין של רשתות חשמל חכמות המספקות מרחב לפצל את הרשת לשברים המסוגלים לקיים בעצמם את דרישת הכוח הפנימית שלהם. דוגמנות הראתה זאת פחות חיבורים יכולים להוביל לאבטחה רבה יותר.
האם מדע המורכבות המתהווה יכול לעזור לאתר היכן נקודות הסכנה עשויות להיות ברשתות מחוברות מאוד? מרטן שפר ועמיתיו כך חשבתי. הוא ראה דמיון בין התנהגותן של מערכות טבעיות (שלו) לבין מערכות כלכליות ופיננסיות.
שֶׁלוֹ עבודה קודמת על אגמים, שוניות אלמוגים, ים, יערות ואדמות, גילו כי סביבות הנתונות לשינויים הדרגתיים כמו אקלים, עומס תזונתי ואובדן בתי גידול יכולים להגיע לנקודות מפנה שהופכות אותם למצב נמוך לעיתים בלתי הפיך.
האם בנקאים וכלכלנים המתמודדים עם יציבות השווקים הפיננסיים יכולים ללמוד מחוקרים בתחום האקולוגיה, האפידמיולוגיה והאקלימטולוגיה כדי לפתח סמנים של קרבה לספים קריטיים ופירוק מערכות?
בפברואר 2016 הכל התכנס בצורה של מאמר על תורת המורכבות והרגולציה הפיננסית נכתב יחד עם מגוון רחב של מומחים, ביניהם כלכלן, בנקאי, פיזיקאי, אקלים, אקולוג, זואולוג, וטרינר ואפידמיולוג.
הם המליצו על שילוב מקוון של נתונים, שיטות ואינדיקטורים, תוך הזנה למבחני מאמץ למערכות סוציו-אקונומיות ופיננסיות גלובליות בזמן אמת. הראשון דומה למה שהושג בהתמודדות עם מערכות מורכבות אחרות כמו מזג האוויר.
אנו יכולים להתחיל לראות כיצד הדוגמה שלנו לעולם נהיגה אוטונומית מתקפלת לשאלות של יציבות רשת. תארו לעצמכם רשת מקושרת מאוד של כלי רכב אוטונומיים.
יש צורך ברור לדעת לזהות ולבודד נקודות כשל פוטנציאליות ברשת כזו לפני שהדברים ישתבשו עם השלכות עלולות להיות טרגיות. זה יותר מסתם הגנה על הנהג והנוסע מכל תקלה במערכת ברכב אוטונומי יחיד.
הגיע הזמן לחשוב כיצד אנו יכולים להשתמש באותם התקדמות רב תחומית בהבנת יציבותן של רשתות כה גדולות כדי למנוע השלכות דרסטיות.
על המחבר
פיטר פישר, פרופסור משנה, לימודי עולמי, עירוני וחברתי, אוניברסיטת רמיט
מאמר זה פורסם במקור ב שיחה. קרא את מאמר מקורי.
ספרים קשורים
at InnerSelf Market ואמזון
