אינטליגנציה מלאכותית לשיפור עצמי (AI) בעתיד יכולה לשעבד או להרוג אנשים אם ירצה בכך. כך אמר המדען אמנון עדן, המאמין כי הסיכונים מפיתוח תודעה בעלת חשיבה חופשית ואינטליגנטית ביותר הם גבוהים מאוד, ו"אם לא תטפל בנושאי השליטה ב- AI כבר בשלב הנוכחי של התפתחות, אז מחר פשוט לא יגיע ". על פי המהדורה האנגלית Express, האנושות, על פי אמנון עדן, נמצאת היום ב"נקודת האל חזור "ליישום עלילת אפוס הקולנוע המפורסם" The Terminator ".
ראוי לציין כי ד"ר אמנון עדן הוא מנהל פרויקטים שמטרתו העיקרית היא לנתח את ההשפעות ההרסניות הפוטנציאליות של AI. ללא הבנה נכונה של ההשלכות של יצירת בינה מלאכותית, התפתחותה עלולה לאיים באסון, סבור המדען. נכון לעכשיו, החברה שלנו איננה מושכלת על הדיון המתנהל בקהילה המדעית בנוגע לניתוח ההשפעה הפוטנציאלית של AI. "בשנת 2016 הקרובה, ניתוח הסיכונים האפשריים יצטרך להתפשט באופן משמעותי יותר בחשיבה של תאגידים וממשלות, פוליטיקאים ומי שאחראי על קבלת החלטות", אומר עדן.
המדען בטוח שמדע בדיוני, המתאר את הרס האנושות על ידי רובוטים, עשוי להפוך בקרוב לבעיה הנפוצה שלנו, שכן תהליך יצירת הבינה המלאכותית יצא מכלל שליטה. לדוגמה, אילון מאסק, בתמיכתו של היזם סם אלטמן, החליט ליצור עמותה חדשה של מיליארד דולר המפתחת AI קוד פתוח שאמור לעלות על המוח האנושי. במקביל, המיליארדר האמריקאי אילון מאסק עצמו מדרג בינה מלאכותית בין "האיומים הגדולים ביותר על קיומנו". סטיב ווזניאק, שייסד את אפל, אמר במרץ האחרון כי "העתיד נראה מרתיע ומסוכן מאוד לאנשים … בסופו של דבר יגיע היום שבו מחשבים יחשבו מהר יותר מאיתנו והם ייפטרו מאנשים איטיים על מנת כך שחברות יוכלו לעבוד ביעילות רבה יותר ".
ראוי לציין שמדענים רבים רואים את האיום מ- AI. עשרות מדענים, משקיעים ויזמים ידועים, שפעילותם קשורה באופן כזה או אחר לפיתוח בינה מלאכותית, חתמו על מכתב פתוח הקורא לתשומת לב רבה יותר בנושא הבטיחות והתועלת החברתית של העבודה במרחב תחום AI. האסטרופיזיקאי סטיבן הוקינג ומייסד טסלה ו- SpaceX אילון מאסק הם בין החותמים על מסמך זה. המכתב, יחד עם מסמך נלווה, שנוסח על ידי מכון עתיד החיים (FLI), נכתב על רקע חששות גוברים מהשפעת הבינה המלאכותית על שוק העבודה ואף על הישרדותה האנושית כולה לטווח הארוך. סביבה שבה יכולות הרובוטים והמכונות יגדלו כמעט ללא שליטה.
מדענים מבינים את העובדה שהפוטנציאל של AI כיום הוא גדול מאוד, ולכן יש צורך לחקור באופן מלא את אפשרויות השימוש האופטימלי עבורנו על מנת להימנע מהמלכודות הנלוות, מציין מכתב FLI. הכרחי שמערכות בינה מלאכותיות מעשה ידי אדם יעשו בדיוק את מה שאנחנו רוצים שיעשו.ראוי לציין כי מכון עתיד החיים הוקם רק בשנה שעברה על ידי מספר חובבים, ביניהם יוצר סקייפ, ג'אן טאלין, על מנת "למזער את הסיכונים העומדים בפני האנושות" ולעורר מחקר עם "חזון אופטימי. של העתיד". קודם כל, אנו מדברים כאן על הסיכונים הנגרמים כתוצאה מפיתוח AI ורובוטיקה. הוועדה המייעצת של FLI כוללת את מאסק והוקינג, יחד עם השחקן המהולל מורגן פרימן ואנשים מפורסמים אחרים. לדברי אילון מאסק, הפיתוח הבלתי מבוקר של הבינה המלאכותית הוא מסוכן יותר מאשר נשק גרעיני.
האסטרופיזיקאי הבריטי המפורסם סטיבן הוקינג בסוף 2015 ניסה להסביר את דחייתו לטכנולוגיות AI. לדעתו, לאורך זמן, מכונות חכמות יראו אנשים כמתכלים או נמלים שפשוט מפריעות לפתרון משימותיהם. כששוחח עם משתמשי הפורטל של Reddit, ציין סטיבן הוקינג כי הוא אינו מאמין שמכונות חכמות -על כאלה יהיו "יצורים מרושעים" שרוצים להשמיד את כל האנושות בגלל עליונותם האינטלקטואלית. סביר להניח שאפשר יהיה לדבר על העובדה שהם פשוט לא ישימו לב לאנושות.
"התקשורת מעוותת את דברי ללא הרף בזמן האחרון. הסיכון העיקרי בפיתוח AI הוא לא זדון המכונות, אלא היכולת שלהם. אינטליגנציה מלאכותית סופר -אינטליגנטית תעשה עבודה מצוינת, אבל אם היא והמטרות שלנו לא יעלו בקנה אחד, לאנושות יהיו בעיות חמורות מאוד ", מסביר המדען המפורסם. כדוגמה, הוקינג ציין מצב היפותטי שבו AI רב עוצמה אחראי על הפעלתו או הקמתו של סכר הידרואלקטרי חדש. עבור מכונה כזו, העדיפות תהיה כמה אנרגיה המערכת המופקדת תייצר, וגורלם של אנשים לא ישנה. “מעטים מאיתנו שדורסים נמלים ודורכים נמלים מתוך כעס, אבל בואו נדמיין מצב - אתם שולטים בתחנת כוח הידרואלקטרית עוצמתית המייצרת חשמל. אם אתה צריך להעלות את מפלס המים וכתוצאה מפעולותיך יונף נמלה אחת, אז לא סביר שבעיות הטביעה של חרקים יפריעו לך. בואו לא נשים אנשים במקום הנמלים, "אמר המדען.
הבעיה הפוטנציאלית השנייה להמשך פיתוח הבינה המלאכותית, על פי הוקינג, עשויה להיות "עריצות בעלי המכונות" - הגידול המהיר בפער ברמת ההכנסה בין אנשים עשירים שיצליחו למונופול על הייצור. של מכונות חכמות, ושאר אוכלוסיית העולם. סטיבן הוקינג מציע לפתור את הבעיות האפשריות הללו בדרך הבאה - להאט את תהליך פיתוח ה- AI ולעבור לפיתוח אינטליגנציה מלאכותית לא "אוניברסלית", אלא מיוחדת במיוחד, שיכולה לפתור רק מגוון מצומצם מאוד של בעיות.
בנוסף להוקינג ומוסק, נחתם על המכתב חתן פרס נובל ופרופסור לפיזיקה MIT פרנק וילצ'ק, מנכ"ל מכון המודיעין של מכונות (MIRI) לוק מוהלהאוזר, וכן מומחים רבים מחברות IT גדולות: גוגל, מיקרוסופט ו- IBM, כמו גם יזמים שהקימו את חברות ה- AI Vicarious ו- DeepMind. כותבי המכתב מציינים כי הם אינם שואפים להפחיד את הציבור, אלא מתכננים להדגיש הן את ההיבטים החיוביים והן את ההיבטים השליליים הקשורים ביצירת בינה מלאכותית. "כרגע כולם מסכימים שהמחקר בתחום ה- AI מתקדם בהתמדה, וההשפעה של AI על החברה האנושית המודרנית רק תגדל", נכתב במכתב, "ההזדמנויות שנפתחות לבני אדם הן עצומות, כל מה שהציוויליזציה המודרנית יש להציע נוצר על ידי מודיעין.איננו יכולים לחזות מה נוכל להשיג אם ניתן להכפיל את האינטליגנציה האנושית ב- AI, אך הבעיה להיפטר מעוני ומחלות כבר אינה קשה לאין שיעור ".
התפתחויות רבות בתחום הבינה המלאכותית כבר נכללות בחיים המודרניים, כולל מערכות זיהוי דיבור ודיבור, כלי רכב בלתי מאוישים ועוד. משקיפי עמק הסיליקון מעריכים כי כיום מיושמים יותר מ -150 חברות הזנק בתחום זה. יחד עם זאת, ההתפתחויות בתחום זה מושכות יותר ויותר השקעות, ויותר ויותר חברות כמו גוגל מפתחות את הפרויקטים שלהן המבוססות על AI. לכן, כותבי המכתב סבורים שהגיע הזמן לשים לב מוגבר לכל ההשלכות האפשריות של הבום שנצפה על ההיבטים הכלכליים, החברתיים והמשפטיים של חיי אדם.
העמדה לפיה בינה מלאכותית עלולה להוות סכנה לבני אדם משותפת לניק בוסטרום, פרופסור מאוניברסיטת אוקספורד, הידוע בעבודתו על העיקרון האנתרופי. מומחה זה סבור כי הבינה המלאכותית הגיעה למצב שלאחריו אי התאמתו לבני אדם. ניק בוסטרום מדגיש כי בניגוד להנדסה גנטית ולשינויי אקלים, שממשלות מקצות להם מספיק כסף לבקרה, "לא נעשה דבר כדי לשלוט באבולוציה של AI". לדברי הפרופסור, "מדיניות של ואקום משפטי שצריך למלא" נמשכת כיום בכל הנוגע לבינה מלאכותית. אפילו טכנולוגיות כמו מכוניות לנהיגה עצמית, שנראות בלתי מזיקות ושימושיות, מעוררות מספר שאלות. למשל, האם מכונית כזו צריכה לבצע בלימת חירום על מנת להציל את נוסעיה ומי יהיה אחראי במקרה של תאונה שנעשה על ידי רכב בלתי מאויש?
בדיון בסיכונים הפוטנציאליים ציין ניק בוסטרום כי "המחשב אינו מסוגל לקבוע את היתרונות והפגיעה בבני אדם" ו"אין לו אפילו שמץ של מושג על מוסריות אנושית ". בנוסף, מחזורי שיפור עצמי במחשבים יכולים להתרחש במהירות כזו שאדם פשוט לא יכול לעקוב אחריה, וגם כמעט אין מה לעשות בנידון, אומר המדען. "בשלב ההתפתחות שבו מחשבים יכולים לחשוב בעצמם, אף אחד לא יכול לחזות בוודאות אם זה יוביל לתוהו ובוהו או ישפר משמעותית את עולמנו", אמר ניק בוסטרום והביא כדוגמא פתרון פשוט למחשב - כיבוי. במדינות עם חימום אקלים קר כדי לשפר את בריאותם של אנשים ולהגדיל את סיבולתם, אשר "יכולה להגיע לראש הבינה המלאכותית".
בנוסף, בוסטרום גם מעלה את הבעיה של סדוק המוח האנושי על מנת להגביר את האינטליגנציה הביולוגית שלנו. "במובנים רבים, הליך כזה יכול להיות שימושי אם כל התהליכים מבוקרים, אך מה קורה אם השבב המושתל יכול לתכנת את עצמו מחדש? לאילו השלכות זה יכול להוביל - להופעתו של סופרמן או להופעתו של מחשב שייראה רק כמו בן אדם? " - שואל הפרופסור. הדרך שבה מחשבים פותרים בעיות אנושיות שונה מאוד משלנו. לדוגמה, בשחמט, המוח האנושי שוקל רק מערך צר של מהלכים, ובוחר את האפשרות הטובה ביותר מהם. בתורו, המחשב שוקל את כל המהלכים האפשריים, ובוחר את הטוב ביותר. יחד עם זאת, המחשב אינו מצפה להרגיז או להפתיע את יריבו במשחק. בניגוד לאדם, במשחק שחמט, מחשב יכול לבצע מהלך ערמומי ועדין רק במקרה. בינה מלאכותית יכולה לחשב בצורה הטובה ביותר - לחסל את השגיאה מכל מערכת על ידי הסרת "הגורם האנושי" משם, אך בניגוד לאדם, רובוט אינו מוכן לבצע הישגים שיצילו חיי אנשים.
בין היתר, העלייה במספר המכונות החכמות מייצגת את שלב המהפכה התעשייתית החדשה. בתורו, המשמעות היא שבעתיד הקרוב האנושות תתמודד עם שינויים חברתיים בלתי נמנעים. עם הזמן העבודה תהפוך לנחלתם של מומחים מוסמכים במיוחד, מכיוון שכמעט כל המשימות הפשוטות ניתנות לביצוע על ידי רובוטים ומנגנונים אחרים. מדענים סבורים כי בינה מלאכותית "זקוקה לעין ועין" כדי שכוכב הלכת שלנו לא יהפוך לכוכב קריקטורה "ז'לזיאקה", שאכלס רובוטים.
מבחינת יותר ויותר אוטומציה של תהליכי הייצור, העתיד כבר הגיע. הפורום הכלכלי העולמי (WEF) הציג את הדו"ח שלו, לפיו האוטומציה תוביל לכך שעד 2020 יותר מ -5 מיליון אנשים העובדים בתחומים שונים יאבדו את מקום עבודתם. זוהי ההשפעה של רובוטים ומערכות רובוטיות על חיינו. לעיבוד הדו"ח, עובדי WEF השתמשו בנתונים על 13.5 מיליון עובדים מרחבי העולם. לדבריהם, עד 2020, הצורך הכולל ביותר מ -7 מיליון משרות ייעלם, בעוד שהגידול הצפוי בתעסוקה בענפים אחרים יסתכם בכמעט 2 מיליון משרות.
