מומחים צבאיים מכנים נשק אוטונומי או מערכות נשק אוטונומיות (AWS) סוגי נשק שעושים הכל בעצמם: הם מוצאים מטרה ומבצעים משימה ללא התערבות אנושית. אחד המפורסמים, עד כה רק בסרטי מדע בדיוני ובספרי AWS, הם מה שנקרא "הרובוטים הרוצחים".
אילון מאסק ויותר ממאה מומחי רובוטיקה אחרים כותבים על האיום הקטלני של רובוטים רוצחים במכתב אזהרה פתוח לאו"ם. מאסק, מוסטפה סולימאן, יוצר חברת AI AI DeepMind Technologies, הנמצאת כיום בבעלות גוגל, ו 114 מומחים מ -26 מדינות מזהירים את האו"ם כי מרוץ החימוש ב- AWS עלול לפתוח קופסת פנדורה, מה שעלול לגרום לבלתי צפוי ומאוד פגיעה גדולה באנושות. הם דורשים לאסור על פיתוח והטמעה של מערכות נשק אוטונומיות.
כל החותמים בקיאים בעניין מכיוון שהם עובדים בתחום הבינה המלאכותית (AI). הם בטוחים כי הכנסת רובוטים רוצחים לחמשות צבאות המדינות המפותחות תהיה בעלת אותה משמעות בעניינים צבאיים כמו המצאת אבק השריפה והנשק הגרעיני, שהם מכנים המהפכה הראשונה והשנייה בענייני צבא. AWS, הם מאמינים, תהיה המהפכה השלישית.
"לאחר שהובאו לרמה גבוהה, מערכות נשק אוטונומיות יביאו עימותים צבאיים לרמת גודל שהאנושות לא ראתה מעולם", נכתב במכתב הקיבוצי. - יתר על כן, זה יקרה במהירות רבה. AWS יכול להפוך לנשק טרור, נשק שגרושים ומחבלים ישמשו נגד אזרחים …"
כותבי המכתב מזהירים מפני נשק עדיין היפותטי שיכול להרוס אנשים ללא התערבות אנושית. קרוב היום בו הוא יהפוך למציאות קשה מתוך קטגוריית הבדיון ויאלץ אותנו לחפש תשובות לשאלות קשות רבות, החל בניהול בטוח של מערכות כאלה וכלה בבעיות מוסריות ואתיות הנגרמות על ידי האכזריות ה"ברזל "וחוסר הצפי. של מכונות קטלניות.
מאסק, עם תומכים החולקים את עמדתו בנוגע לסכנות AWS לאנושות, מדגישים כי אין זמן להרהור ולדיון וכי יש צורך לפעול באופן מיידי. "יש לנו מעט מאוד זמן", הם כותבים באו"ם. "ברגע שהקופסה של הפנדורה תהיה פתוחה, יהיה מאוד קשה לסגור אותה".
הזמן לכתיבת מכתב פתוח לא נבחר במקרה. מומחים רצו לחפוף עם תחילת הוועידה הבינלאומית לבינה מלאכותית (IJCAI) במלבורן. הוא היה אמור להיפתח ביום שני, 21 באוגוסט, אך האו ם החליט לדחות אותו עד נובמבר.
בתום מכתב פתוח, קוראים אילון מאסק ועמיתיו לאו ם להכפיל את מאמציה ליצור אסטרטגיה עד נובמבר להגנה על כדור הארץ מפני רובוטים רוצחים.
מוקדם יותר, מאסק עצמו הזהיר מפני הסכנות של עבודה על בינה מלאכותית ככזו, שכן מערכות המבוססות עליה יכולות לצאת משליטה אנושית. במקביל, מכוניות עם מנועים חשמליים של טסלה כבר נוסעות בכבישי ארצות הברית במצב בלתי מאויש, שאינו נטול תקריות.
