לפניכם החלק השני של מאמר מתוך הסדרה "חכה, איך כל זה יכול להיות אמיתי, למה עדיין לא מדברים על זה בכל פינה". בסדרה הקודמת נודע כי פיצוץ של אינטליגנציה מתגנב בהדרגה לאנשי כדור הארץ, הוא מנסה להתפתח מאינטליגנציה צרה ועד אינטליגנציה אוניברסלית ולבסוף אינטליגנציה על מלאכותית.
"אולי אנו מתמודדים עם בעיה קשה ביותר, ולא ידוע כמה זמן מוקדש לפתרון שלה, אך עתידה של האנושות עשוי להיות תלוי בפתרונה." - ניק בוסטרום.
החלק הראשון של המאמר החל בתמימות מספקת. דנו בבינה מלאכותית ממוקדת מצומצמת (AI, המתמחה בפתרון בעיה ספציפית אחת כמו קביעת מסלולים או שחמט), יש הרבה מזה בעולם שלנו. אחר כך הם ניתחו מדוע כל כך קשה לגדל בינה מלאכותית כיוונית כללית (AGI, או AI, שמבחינת יכולות אינטלקטואליות יכולה להשוות עם אדם בפתרון כל בעיה), היא כה קשה. הגענו למסקנה כי קצב ההתקדמות הטכנולוגי מעריך כי AGI עשויה להיות מעבר לפינה בקרוב. בסופו של דבר, החלטנו שברגע שהמכונות יגיעו לאינטליגנציה האנושית, הדברים הבאים יכולים לקרות מיד:
כרגיל, אנו מסתכלים על המסך, לא מאמינים כי בינה על מלאכותי (ISI, שהוא הרבה יותר חכם מכל אדם) יכול להופיע במהלך חיינו, ובוחרים ברגשות שישקפו בצורה הטובה ביותר את דעתנו בנושא זה.
לפני שנצלול לפרטים של ISI, בואו נזכיר לעצמנו מה זה אומר שמכונה תהיה חכמה -על.
ההבדל העיקרי טמון בין אינטליגנציה על מהירה לבין אינטליגנציה על איכותית. לעתים קרובות הדבר הראשון שעולה על הדעת כשחושבים על מחשב חכם הוא שהוא יכול לחשוב הרבה יותר מהר מאדם - מיליוני פעמים מהר יותר, ותוך חמש דקות הוא יבין מה ייקח לאדם עשר שנים. ("אני יודע קונג פו!")
זה נשמע מרשים, ו- ISI באמת צריך לחשוב מהר יותר מכל האנשים - אבל התכונה המפרידה העיקרית תהיה איכות האינטליגנציה שלו, שהיא שונה בתכלית. בני אדם הרבה יותר חכמים מקופים, לא בגלל שהם חושבים מהר יותר, אלא כי המוח שלהם מכיל מספר מודולים קוגניטיביים גאוניים המבצעים ייצוגים לשוניים מורכבים, תכנון ארוך טווח, חשיבה מופשטת, שקופים אינם מסוגלים להם. אם תאיץ את מוחו של קוף אלף פעמים, הוא לא יהפוך לחכם מאיתנו - גם לאחר עשר שנים הוא לא יצליח להרכיב בונה לפי ההוראות, מה שייקח לאדם כמה שעות לכל היותר. יש דברים שקוף לעולם לא ילמד, לא משנה כמה שעות הוא מבלה או כמה מהר המוח שלו עובד.
בנוסף, הקוף אינו יודע עד כמה אנושית, מכיוון שמוחו פשוט אינו מסוגל לממש את קיומם של עולמות אחרים - הקוף אולי יודע מהו אדם ומהו גורד שחקים, אך לעולם לא יבין שגורד שחקים נבנה על ידי אֲנָשִׁים. בעולמה הכל שייך לטבע, והמקוק לא רק שלא יכול לבנות גורד שחקים, אלא גם להבין שכל אחד יכול לבנות אותו בכלל. וזאת תוצאה של הבדל קטן באיכות האינטליגנציה.
במערך האינטליגנציה הכללי שאנו מדברים עליו, או פשוט בסטנדרטים של יצורים ביולוגיים, ההבדל באיכות האינטליגנציה בין בני אדם לקופים הוא זעיר.במאמר הקודם הנחנו יכולות קוגניטיביות ביולוגיות בסולם:
כדי להבין עד כמה מכונה על -חכמה תהיה רצינית, הנח אותה בשני דרגות גבוה מהאדם בסולם. המכונה הזו אולי מעט סופר -אינטליגנטית, אבל העליונות שלה על היכולות הקוגניטיביות שלנו תהיה זהה לשלנו - על פני הקופים. וכפי ששימפנזה לעולם לא יבין שאפשר לבנות גורד שחקים, אולי אף פעם לא נבין מה מכונה שתעלה כמה צעדים גבוהים יותר, גם אם המכונה תנסה להסביר לנו את זה. אבל זה רק כמה צעדים. המכונה החכמה יותר תראה בנו נמלים - היא תלמד אותנו את הדברים הפשוטים ביותר מעמדה במשך שנים, והניסיונות הללו יהיו חסרי תקווה לחלוטין.
סוג המודיעין העל עליו נדבר היום נמצא הרבה מעבר לסולם הזה. זהו פיצוץ של אינטליגנציה - כאשר ככל שמכונית הופכת לחכמה יותר, היא יכולה להגביר את האינטליגנציה שלה מהר יותר, ולהגדיל את המומנטום בהדרגה. ייתכן שיידרשו שנים עד שמכונה כזו תעלה על שימפנזים במודיעין, אבל אולי כמה שעות תעלה עלינו בכמה דרגות. מאותו רגע, המכונית כבר יכולה לקפוץ מעל ארבעה צעדים בכל שנייה. לכן עלינו להבין שמהר מאוד לאחר הופעת החדשות הראשונות שהמכונה הגיעה לרמת האינטליגנציה האנושית, אנו עשויים להתמודד עם מציאות הדו קיום על פני כדור הארץ עם משהו שיהיה הרבה יותר גבוה מאיתנו בסולם הזה (או אולי, ויותר פי מיליונים):
ומכיוון שקבענו כי אין טעם לחלוטין לנסות להבין את העוצמה של מכונה שנמצאת רק שני צעדים מעלינו, בואו נגדיר אחת ולתמיד שאין דרך להבין מה תעשי ה- ISI ומה ההשלכות של זה יהיה בשבילנו. מי שטוען להיפך פשוט לא מבין מה המשמעות של אינטליגנציה על.
האבולוציה התפתחה לאט ובהדרגה את המוח הביולוגי במשך מאות מיליוני שנים, ואם בני אדם ייצרו מכונה על -חכמה, במובן מסוים נתעלה על האבולוציה. או שזה יהיה חלק מהאבולוציה - אולי האבולוציה פועלת באופן כזה שהאינטליגנציה מתפתחת בהדרגה עד שהיא מגיעה לנקודת מפנה שמבשרת עתיד חדש לכל היצורים החיים:
מסיבות שנדון בהם מאוחר יותר, חלק עצום מהקהילה המדעית סבור כי השאלה היא לא אם נגיע לנקודת מפנה זו, אלא מתי.
לאן נגיע בסופו של דבר?
אני חושב שאף אחד בעולם הזה, לא אני ולא אתה, לא יוכלו להגיד מה יקרה כשנגיע לנקודת המפנה. פילוסוף אוקספורד ותיאורטיקן AI המוביל ניק בוסטרום מאמין שנוכל להרתיח את כל התוצאות האפשריות לשתי קטגוריות רחבות.
ראשית, בהסתכלות על ההיסטוריה, אנו יודעים את הדברים הבאים על החיים: מינים מופיעים, קיימים לזמן מסוים, ואז נופלים בהכרח מקרן האיזון ומתים.
"כל המינים מתים" היה כלל מהימן בהיסטוריה כמו "כל האנשים מתים מתישהו". 99.9% מהמינים נפלו מיומן חיים, ודי ברור שאם מין תלוי על עץ זה זמן רב מדי, משב רוח טבעי או אסטרואיד פתאומי יהפכו את היומן. בוסטרום מכנה הכחדה למצב של מושך - מקום בו כל המינים מתאזנים כדי לא ליפול למקום בו עדיין לא חזרו מינים.
ולמרות שרוב המדענים מודים של- ISI תהיה היכולת לדון אנשים להכחדה, רבים גם מאמינים כי שימוש ביכולות ה- ISI יאפשר לאנשים (ולמין בכללותו) להשיג את המצב השני של המושך - אלמוות המינים. בוסטרום סבור שחיי האלמוות של מין היא מושכת לא פחות מהכחדתו של מין, כלומר אם נגיע לזה נידון לקיום נצחי. לפיכך, גם אם כל המינים עד עכשיו נפלו מהמקל הזה למערבולת ההכחדה, בוסטרום מאמין שלבולת יש שני צדדים, ופשוט לא הופיע על כדור הארץ אינטליגנציה כזו שתבין איך ליפול לצד השני.
אם בוסטרום ואחרים צודקים, ואם לשפוט לפי כל המידע העומד לרשותנו, יתכן שהם אכן כך, עלינו לקבל שתי עובדות מזעזעות מאוד:
הופעתה של ISI לראשונה בהיסטוריה תפתח את הדרך למין להשיג אלמוות וליפול ממעגל ההכחדה הקטלני.
להופעתו של ISI תהיה השפעה עצומה כל כך שלא ניתן להעלות על הדעת, שסביר להניח שהיא תדחוף את האנושות מהיומן הזה בכיוון זה או אחר.
יתכן שכאשר האבולוציה מגיעה לנקודת מפנה כזו, היא תמיד שמה קץ ליחסיהם של אנשים עם זרם החיים ויוצרת עולם חדש, עם אנשים או בלעדיהם.
זה מוביל לשאלה מעניינת שרק מהמם לא היה שואל: מתי נגיע לנקודת המפנה הזו והיכן היא תביא אותנו? אף אחד בעולם לא יודע את התשובה לשאלה הכפולה הזו, אבל אנשים חכמים רבים ניסו להבין את זה במשך עשרות שנים. להמשך המאמר נגלה מהיכן הם הגיעו.
* * *
נתחיל בחלק הראשון של שאלה זו: מתי עלינו להגיע לנקודת המפנה? במילים אחרות: כמה זמן נותר עד שהמכונה הראשונה תגיע לאינטליגנציה על?
הדעות משתנות ממקרה למקרה. רבים, כולל פרופסור ורנור וינגה, המדען בן הרצל, מייסד Sun Microsystems, ביל ג'וי, העתידני ריי קורצווייל, הסכימו עם מומחה למידת מכונות ג'רמי האוורד כשהציג את הגרף הבא ב- TED Talk:
אנשים אלה חולקים את הדעה כי ה- ISI יגיע בקרוב - הצמיחה האקספוננציאלית הזו, שנראית לנו איטית כיום, ממש תתפוצץ בעשורים הקרובים.
אחרים, כמו מייסד מיקרוסופט פול אלן, פסיכולוג המחקר גארי מרקוס, מומחה המחשבים ארנסט דייויס ויזם הטכנולוגיה מיטש קאפור, מאמינים כי הוגים כמו קורצוויל ממעיטים ברצינות בגודל הבעיה וחושבים שאנחנו לא קרובים כמעט לאדם. נקודת מפנה.
מחנהו של קורצווייל טוען כי ההערכה היחידה המתרחשת היא ההתעלמות מצמיחה מעריכית, וניתן להשוות את הספקות לאלה שהסתכלו על האינטרנט הפורחת לאט ב -1985 וטענו כי לא תהיה לכך כל השפעה על העולם בעתיד הקרוב.
ספקנים עשויים להדוף שקשה יותר להתקדמות לבצע כל צעד אחר כך בכל הנוגע להתפתחות מעריכית של האינטליגנציה, מה שמנטרל את האופי המעריכי הטיפוסי של ההתקדמות הטכנולוגית. וכו.
המחנה השלישי, שבו נמצא ניק בוסטרום, חולק על הראשון או על השני, וטען כי א) כל זה יכול לקרות בהחלט בעתיד הקרוב; וב) אין ערובה לכך שזה יקרה כלל או שייקח יותר זמן.
אחרים, כמו הפילוסוף הוברט דרייפוס, סבורים שכל שלוש הקבוצות מאמינות בתמימות שתהיה בכלל נקודת מפנה, וקרוב לוודאי שלעולם לא נגיע ל- ISI.
מה קורה כשאנחנו מרכיבים את כל הדעות האלה?
בשנת 2013 ערך בוסטרום סקר בו ראיין מאות מומחי AI בסדרת כנסים בנושא הבא: "מה יהיו התחזיות שלך להשגת AGI ברמה האנושית?" וביקש מאיתנו לציין שנה אופטימית (בה תהיה לנו AGI עם 10 אחוז סיכוי), הנחה ריאלית (שנה בה תהיה לנו AGI עם הסתברות של 50 אחוז) והנחה בטוחה (השנה המוקדמת ביותר שבה AGI יופיע מאז הסתברות של 90 אחוזים). להלן התוצאות:
* ממוצע שנה אופטימית (10%): 2022
* ממוצע שנה ריאלית (50%): 2040
* ממוצע שנה פסימית (90%): 2075
הנשאלים הממוצעים סבורים שבעוד 25 שנה תהיה לנו AGI במקום לא. סיכוי של 90 אחוז להתרחש ב- AGI עד שנת 2075 פירושו שאם אתה עדיין צעיר למדי, סביר להניח שזה יקרה בחייך.
מחקר נפרד שערך לאחרונה ג'יימס באראט (מחבר הספר הנודע והטוב מאוד ההמצאה האחרונה שלנו, קטעים מתוך הצגתי לידיעת הקוראים Hi-News.ru) ובן הרצל בוועידת AGI, ועידת AGI השנתית, פשוט הראו את דעותיהם של אנשים על השנה בה אנו מגיעים ל- AGI: 2030, 2050, 2100, מאוחר יותר או לעולם לא. להלן התוצאות:
* 2030: 42% מהנשאלים
* 2050: 25%
* 2100: 20%
אחרי 2100: 10%
לעולם: 2%
דומה לתוצאות של בוסטרום. בסקר של באראט, יותר משני שלישים מהנשאלים סבורים ש- AGI תהיה כאן עד 2050, ופחות ממחצית מאמינים ש- AGI תופיע ב -15 השנים הקרובות. כמו כן, בולט שרק 2% מהמשיבים, באופן עקרוני, אינם רואים את AGI בעתידנו.
אבל AGI אינה נקודת מפנה כמו ISI. מתי, על פי מומחים, יהיה לנו ISI?
בוסטרום שאל את המומחים מתי נגיע ל- ASI: א) שנתיים לאחר שהגענו ל- AGI (כלומר כמעט מיידית עקב פיצוץ מודיעיני); ב) לאחר 30 שנה. תוצאות?
הדעה הממוצעת היא שהמעבר המהיר מ- AGI ל- ISI יתרחש בהסתברות של 10%, אך בעוד 30 שנה או פחות הוא יתרחש בהסתברות של 75%.
מנתונים אלה, איננו יודעים באיזה תאריך המשיבים יקראו סיכוי של 50 אחוז ל- ASI, אך בהתבסס על שתי התשובות למעלה, נניח שמדובר ב -20 שנה. כלומר, מומחי ה- AI המובילים בעולם מאמינים כי נקודת המפנה תגיע בשנת 2060 (AGI יופיע בשנת 2040 + ייקח 20 שנה עד המעבר מ- AGI ל- ISI).
כמובן, כל הנתונים הסטטיסטיים לעיל הינם ספקולטיביים ופשוט מייצגים את דעתם של מומחים בתחום הבינה המלאכותית, אך הם גם מצביעים על כך שרוב המתעניינים מסכימים כי עד שנת 2060 צפוי להגיע AI. תוך 45 שנים בלבד.
בואו נעבור לשאלה השנייה. כאשר נגיע לנקודת המפנה, איזה צד של הבחירה הקטלנית יקבע אותנו?
למודיעין -על יהיה הכוח החזק ביותר, והשאלה הקריטית עבורנו תהיה הבאה:
מי או מה ישלוט בכוח זה ומה תהיה המוטיבציה שלהם?
התשובה לשאלה זו תהיה תלויה בשאלה האם ה- ISI זוכה להתפתחות עוצמתית להפליא, להתפתחות אימתנית לאין שיעור, או משהו בין לבין.
כמובן שקהילת המומחים מנסה לענות גם על שאלות אלו. הסקר של בוסטרום ניתח את הסבירות להשלכות אפשריות של ההשפעה של AGI על האנושות, והתברר שעם סיכוי של 52 אחוז הכל יסתדר טוב ועם 31 אחוז סיכוי שהכל ילך רע או רע מאוד. הסקר שצורף בסוף החלק הקודם של נושא זה, שנערך בקרבכם, קוראים יקרים של היי-ניוז, הראה בערך אותן תוצאות. לקבלת תוצאה ניטראלית יחסית, ההסתברות הייתה 17%בלבד. במילים אחרות, כולנו מאמינים ש- AGI תהיה עניין גדול. ראוי גם לציין כי סקר זה נוגע להופעת AGI - במקרה של ISI, אחוז הנייטרליות יהיה נמוך יותר.
לפני שנכנס לעומק לחשוב על הצד הטוב והרע של השאלה, בואו נשלב את שני הצדדים של השאלה - "מתי זה יקרה?" ו"זה טוב או רע? " לתוך טבלה המכסה את דעותיהם של רוב המומחים.
עוד מעט נדבר על המחנה הראשי, אך תחילה נחליט על עמדתך. רוב הסיכויים שאתה נמצא באותו מקום כמו שהייתי לפני שהתחלתי לעבוד בנושא זה. ישנן מספר סיבות לכך שאנשים כלל לא חושבים על הנושא הזה:
* כפי שהוזכר בחלק הראשון, הסרטים בלבלו ברצינות בין אנשים ועובדות, והציגו תרחישים לא מציאותיים עם בינה מלאכותית, מה שהוביל לכך שאסור לנו בכלל להתייחס לרצינות AI. ג'יימס באראט השווה את המצב הזה להוצאת המרכז לבקרת מחלות (CDC) באזהרה רצינית על ערפדים בעתידנו.
* בשל הטיות קוגניטיביות כביכול, קשה לנו מאוד להאמין שמשהו אמיתי עד שתהיה לנו הוכחה. אפשר לדמיין בביטחון את מדעני המחשב משנת 1988 דנים באופן קבוע בהשלכות מרחיקות הלכת של האינטרנט ועל מה שהוא יכול להפוך, אבל אנשים כמעט ולא האמינו שזה ישנה את חייהם עד שזה יקרה בפועל. רק שמחשבים לא ידעו כיצד לעשות זאת בשנת 1988, ואנשים פשוט הביטו במחשבים שלהם וחשבו, "באמת? האם זה מה שישנה את העולם? " דמיונם הוגבל על ידי מה שהם למדו מניסיון אישי, הם ידעו מהו מחשב, והיה קשה לדמיין למה יוכל מחשב בעתיד.אותו דבר קורה עכשיו עם AI. שמענו שזה יהפוך לדבר רציני, אך מכיוון שטרם נתקלנו בו פנים אל פנים ובכלל, אנו צופים בגילויים חלשים למדי של AI בעולם המודרני שלנו, קשה לנו להאמין שזה יקרה באופן קיצוני. לשנות את חיינו. בניגוד לדעות קדומות אלה מתנגדים מומחים רבים מכל המחנות, כמו גם מתעניינים בניסיון למשוך את תשומת ליבנו באמצעות רעש האגוצנטריות הקולקטיבית היומיומית.
* גם אם האמנו בכל זה - כמה פעמים חשבת היום על העובדה שתבלה את שארית הנצח בכדי? קצת, מסכים. גם אם עובדה זו חשובה הרבה יותר מכל מה שאתה עושה יום יום. הסיבה לכך היא שהמוח שלנו בדרך כלל מתמקד בדברים קטנים ויומיומיים, לא משנה כמה הזוי המצב לטווח הארוך שאנו נקלעים אליו. רק שאנחנו בנויות.
אחת המטרות של מאמר זה היא להוציא אותך מהמחנה שנקרא "אני אוהב לחשוב על דברים אחרים" ולהכניס אותך למחנה המומחים, גם אם אתה עומד רק בצומת דרכים בין שני הקווים המנוקדים בכיכר. למעלה, מתלבט לחלוטין.
במהלך המחקר מתברר שדעותיהם של רוב האנשים נסחפות במהירות לכיוון "המחנה הראשי", ושלושה רבעים מהמומחים נופלים לשתי מחנות משנה במחנה הראשי.
נבקר בשני המחנות הללו במלואם. נתחיל בכיף.
מדוע העתיד יכול להיות החלום הגדול ביותר שלנו?
כשאנחנו חוקרים את עולם הבינה המלאכותית, אנו מוצאים אנשים מפתיעים באזור הנוחות שלנו. האנשים בכיכר הימנית העליונה מזמזמים מהתרגשות. הם מאמינים כי ניפול על הצד הטוב של היומן, והם גם מאמינים שבאופן בלתי נמנע נגיע לזה. מבחינתם העתיד הוא רק הטוב ביותר שאפשר רק לחלום עליו.
הנקודה שמבדילה אנשים אלה מהוגים אחרים היא לא שהם רוצים להיות בצד המאושר - אלא שהם בטוחים שהיא זו שמחכה לנו.
הביטחון הזה יוצא ממחלוקת. המבקרים מאמינים שזה נובע מהתרגשות מסנוורת שמאפילה על צד שלילי פוטנציאלי. אבל התומכים אומרים כי תחזיות קודרות הן תמיד נאיביות; הטכנולוגיה ממשיכה ותמיד תעזור לנו יותר מאשר לפגוע בנו.
אתה חופשי לבחור בכל אחת מהדעות הללו, אך שים בצד את הספקנות והסתכל טוב על הצד המאושר של קורת האיזון, מנסה לקבל את העובדה שאולי כל מה שקראת עליו כבר קרה. אם הייתם מראים לציידים -לקטים את עולם הנוחות, הטכנולוגיה והשפע האינסופי שלנו, זה היה נראה להם פיקציה קסומה - ואנחנו מתנהגים בצורה צנועה למדי, לא יכולים להודות שאותו שינוי בלתי מובן מחכה לנו בעתיד.
ניק בוסטרום מתאר שלושה נתיבים שמערכת AI חכמה יכולה לנקוט בהם:
* אורקל שיכול לענות על כל שאלה מדויקת, כולל שאלות קשות שבני אדם לא יכולים לענות עליהן - למשל, "איך לייעל מנוע מכונית?" גוגל הוא סוג "אורקל" פרימיטיבי.
* איש גאון שיבצע כל פקודה ברמה גבוהה - באמצעות מכלול מולקולרי ליצירת גרסה חדשה ויעילה יותר של מנוע רכב - ויחכה לפקודה הבאה.
* ריבון שיהיה לו גישה רחבה ויכולת תפקוד חופשי בעולם, קבלת החלטות משלו ושיפור התהליך. הוא ימציא דרך תחבורה פרטית זולה יותר, מהירה ובטוחה יותר ממכונית.
השאלות והמשימות האלה, שנראות לנו קשות, ייראו למערכת העל -אינטליגנטית כאילו מישהו ביקש לשפר את המצב "העיפרון שלי נפל מהשולחן", שבו פשוט היית מרים אותו ומחזיר אותו.
אליעזר יודקובסקי, מומחה אמריקאי לבינה מלאכותית, ניסח זאת היטב:
“אין בעיות קשות, רק בעיות שקשות לרמה מסוימת של אינטליגנציה.לכו צעד אחד גבוה יותר (מבחינת האינטליגנציה), וכמה בעיות יעברו לפתע מהקטגוריה של "בלתי אפשרי" למחנה "מובן מאליו". צעד אחד גבוה יותר - וכולם יתבררו ".
יש הרבה מדענים, ממציאים ויזמים חסרי סבלנות שבחרו אזור של נוחות בטוחה מהשולחן שלנו, אבל אנחנו צריכים רק מדריך אחד כדי ללכת על הטוב ביותר בעולם הטוב הזה.
ריי קורצווייל מעורפל. חלקם מעריצים את הרעיונות שלו, חלק מתעבים אותו. חלקם נשארים באמצע - דאגלס הופשטאדטר, הדן ברעיונות של ספריו של קורצווייל, ציין ברהיטות כי "כאילו לקחת הרבה אוכל טוב וקצת כלבים ואז ערבבת הכל בצורה שאי אפשר להבין. מה טוב ומה רע ".
בין אם אתה אוהב את הרעיונות שלו ובין אם לא, אי אפשר לעבור אותם בלי צל של עניין. הוא החל להמציא דברים כנער, ובשנים שלאחר מכן המציא מספר דברים חשובים, כולל סורק המיטות הראשון, הסורק הראשון שהמיר טקסט לדיבור, סינטיסייזר המוזיקה הידוע של קורצווייל (הפסנתר החשמלי האמיתי הראשון), וכן מזהה הדיבור הראשון שהצליח מסחרית. הוא גם מחברם של חמישה ספרים סנסציוניים. קורצווייל זוכה להערכה על תחזיותיו הנועזות, והרקורד שלו די טוב - בסוף שנות ה -80, כשהאינטרנט עדיין היה בחיתוליו, הוא ניבא שעד שנות האלפיים הרשת תהפוך לתופעה עולמית. ב"וול סטריט ג'ורנל "קרא קורצווייל" גאון חסר מנוחה ", פורבס" מכונת חשיבה עולמית ". מגזין - "היורש החוקי של אדיסון", ביל גייטס - "הטוב מאלה שחוזים את עתיד הבינה המלאכותית". בשנת 2012 הזמין מייסד גוגל לארי פייג 'את קורצווייל לתפקיד CTO. בשנת 2011 הוא ייסד את אוניברסיטת Singularity, המארחת על ידי נאס"א ובחלקו בחסות Google.
הביוגרפיה שלו חשובה. כשקורצווייל מדבר על החזון שלו על העתיד, זה נשמע מטורף מטורף, אבל הדבר המשוגע באמת הוא שהוא רחוק מלהיות משוגע - הוא אדם חכם, משכיל ושפוי להפליא. אתה אולי חושב שהוא טועה בתחזיות שלו, אבל הוא לא טיפש. תחזיותיו של קורצווייל משותפות למומחים רבים של אזור הנוחות, פיטר דיאמנדיס ובן הרצל. זה מה שהוא חושב שיקרה.
כרונולוגיה
קורצווייל מאמין שמחשבים יגיעו לרמת הבינה המלאכותית הכללית (AGI) עד שנת 2029, ובשנת 2045 לא תהיה לנו רק אינטליגנציה על מלאכותית, אלא גם עולם חדש לגמרי - הזמן של מה שנקרא סינגולריות. הכרונולוגיה שלה של AI עדיין נחשבת מוגזמת להחריד, אך במהלך 15 השנים האחרונות הפיתוח המהיר של מערכות בינה מלאכותית ממוקדות מאוד (AI) אילץ מומחים רבים לצד את קורצווייל. התחזיות שלו עדיין שאפתניות יותר מהסקר של בוסטרום (AGI עד 2040, ISI עד 2060), אבל לא בהרבה.
לדברי קורצווייל, הסינגולריות של שנת 2045 מונעת על ידי שלוש מהפכות בו זמנית בביוטכנולוגיה, ננוטכנולוגיה ובעיקר, AI. אבל לפני שנמשיך - והננוטכנולוגיה עוקבת מקרוב אחרי הבינה המלאכותית - בואו ניקח רגע לננוטכנולוגיה.
כמה מילים על ננוטכנולוגיה
בדרך כלל אנו קוראים לטכנולוגיות ננו-טכנולוגיה העוסקות במניפולציה של חומר בטווח של 1-100 ננומטר. ננומטר הוא מיליארדית של מטר, או מיליונית של מילימטר; בטווח של 1-100 ננומטר, וירוסים (קוטר 100 ננומטר), DNA (רוחב 10 ננומטר), מולקולות המוגלובין (5 ננומטר), גלוקוז (1 ננומטר) ואחרות. אם הננוטכנולוגיה אי פעם תהיה כפופה לנו, השלב הבא יהיה מניפולציה של אטומים בודדים שהם פחות מסדר גודל אחד (~, 1 ננומטר).
כדי להבין היכן בני אדם נתקלים בבעיות בניסיון לתמרן חומר בקנה מידה כזה, בואו נקפוץ לקנה מידה גדול יותר. תחנת החלל הבינלאומית נמצאת 481 קילומטרים מעל כדור הארץ.אם בני אדם היו ענקים ופוגעים בראשם ב- ISS, הם היו גדולים פי 250,000 מכפי שהם כיום. אם אתה מגדיל משהו מ -1 עד 100 ננומטר 250,000 פעמים, אתה מקבל 2.5 סנטימטרים. ננוטכנולוגיה היא המקבילה לאדם, המקיף את ISS, מנסה לתמרן דברים בגודל של גרגר חול או גלגל עיניים. כדי להגיע לשלב הבא - השליטה באטומים בודדים - יצטרך הענק למקם בזהירות אובייקטים בקוטר של 1/40 מילימטר. אנשים רגילים יצטרכו מיקרוסקופ כדי לראות אותם.
בפעם הראשונה דיבר ריצ'רד פיינמן על ננוטכנולוגיה בשנת 1959. אחר כך אמר: "עקרונות הפיזיקה, למיטב ידיעתי, אינם מדברים נגד האפשרות לשלוט בדברים אטום אחר אטום. באופן עקרוני, פיזיקאי יכול לסנתז כל חומר כימי שרשום כימאי. אֵיך? על ידי הצבת אטומים במקום שהכימאי אומר לקבל את החומר ". זוהי כל הפשטות. אם אתה יודע להזיז מולקולות או אטומים בודדים, אתה יכול לעשות כמעט כל דבר.
הננוטכנולוגיה הפכה לתחום מדעי רציני בשנת 1986 כאשר המהנדס אריק דרקסלר הציג את יסודותיו בספרו המכונן "יצירת יצירות", אך דרקסלר עצמו סבור כי מי שרוצה ללמוד עוד על רעיונות מודרניים בננוטכנולוגיה צריך לקרוא את ספרו משנת 2013. מלא שפע "(רדיקלי) שפע).
כמה מילים על "גו אפור"
אנו מתעמקים בננוטכנולוגיה. בפרט, הנושא של "גו אפור" הוא אחד הנושאים הלא נעימים במיוחד בתחום הננו -טכנולוגיה, שלא ניתן להתעלם מהם. גרסאות ישנות יותר של תורת הננו-טכנולוגיה הציעו שיטת הרכבת ננו הכוללת יצירת טריליוני ננו-רובוטים זעירים שיעבדו יחד כדי ליצור משהו. אחת הדרכים ליצור טריליוני ננו-רובוטים היא ליצור אחד שיכול לשכפל את עצמו, כלומר מאחד לשניים, משניים עד ארבעה וכן הלאה. כמה טריליון ננו -רובוטים יופיעו ביום. זהו כוחה של צמיחה מעריכית. מצחיק, לא?
זה מצחיק, אבל בדיוק עד שהוא מוביל לאפוקליפסה. הבעיה היא שכוח הצמיחה האקספוננציאלית, מה שהופך אותה לדרך נוחה למדי ליצור טריליון ננו-בוטים, הופך שכפול עצמי לדבר מפחיד בטווח הארוך. מה אם המערכת תקרוס, ובמקום לעצור את השכפול של טריליון זוגות, ננו -רובוטים ממשיכים להתרבות? מה אם כל התהליך הזה תלוי בפחמן? הביומסה של כדור הארץ מכילה 10 ^ 45 אטומי פחמן. ננובוט צריך להיות בסדר גודל של 10 ^ 6 אטומי פחמן, כך ש -10 ^ 39 ננו -בוטים יטרפו את כל החיים על פני כדור הארץ ב -130 העתקות בלבד. אוקיינוס של ננו -בוטים ("גו אפור") יציף את כדור הארץ. מדענים חושבים שננו -בוטים יכולים לשכפל תוך 100 שניות, כלומר טעות פשוטה יכולה להרוג את כל החיים על פני כדור הארץ תוך 3.5 שעות בלבד.
זה יכול להיות אפילו יותר גרוע - אם טרוריסטים ומומחים שליליים יגיעו לידיו של הננו -טכנולוגיה. הם יכולים ליצור כמה טריליון ננו -בוטים ולתכנת אותם להתפשט בשקט ברחבי העולם תוך שבועיים. ואז, בלחיצת כפתור אחת, תוך 90 דקות בלבד הם יאכלו הכל בכלל, ללא סיכוי.
אף על פי שסיפור האימה הזה נדון בהרחבה במשך שנים, החדשות הטובות הן שזהו רק סיפור אימה. אריק דרקסלר, שטבע את המונח "גו אפור", אמר לאחרונה את הדברים הבאים: "אנשים אוהבים סיפורי אימה, וזה אחד מסיפורי האימה הזומבים. הרעיון הזה כשלעצמו כבר אוכל מוחות ".
ברגע שנגיע לתחתית הננו -טכנולוגיה, אנו יכולים להשתמש בה ליצירת מכשירים טכניים, ביגוד, מזון, מוצרי ביו - תאי דם, לוחמי וירוסים וסרטן, רקמות שרירים וכן הלאה - מה שלא יהיה. ובעולם שמשתמש בננו -טכנולוגיה, מחיר החומר כבר לא יהיה קשור למחסור שלו או למורכבות תהליך הייצור שלו, אלא למורכבות המבנה האטומי שלו. בעולם הננו -טכנולוגיה יהלום יכול להיות זול יותר ממחק.
אנחנו אפילו לא סגורים שם עדיין.ולא ברור לגמרי אם אנו ממעיטים או מעריכים יתר על המידה את מורכבות הדרך הזו. עם זאת, הכל מגיע עד כדי כך שהננוטכנולוגיה לא רחוקה. קורצווייל מניח שעד שנות ה -2020 יהיו לנו אותם. מדינות העולם יודעות שננוטכנולוגיה יכולה להבטיח עתיד גדול, ולכן הן משקיעות בה מיליארדים רבים.
רק תארו לעצמכם אילו אפשרויות יקבל מחשב חכם אם יגיע למרכיב ננו אמין. אבל ננוטכנולוגיה היא הרעיון שלנו, ואנחנו מנסים לרכוב עליו, קשה לנו. מה אם הם רק בדיחה עבור מערכת ה- ISI, וה- ISI עצמו יעלה טכנולוגיות שיהיו חזקות פי כמה מכל מה שנוכל, באופן עקרוני, להניח? הסכמנו: אף אחד לא יכול לדמיין למה תוכל בינה -על מלאכותית? הוא האמין כי המוח שלנו אינו מסוגל לחזות אפילו את המינימום של מה שיקרה.
מה AI יכול לעשות עבורנו?
חמושים באינטליגנציה -על ובכל הטכנולוגיה שיכולה ליצור אינטליגנציה -על, ISI ככל הנראה תוכל לפתור את כל בעיות האנושות. התחממות גלובלית? ISI תחילה תפסיק את פליטת הפחמן על ידי המצאת שלל דרכים יעילות לייצר אנרגיה שאינה קשורה לדלקים מאובנים. לאחר מכן הוא ימצא דרך יעילה וחדשנית להסרת עודפי CO2 מהאטמוספירה. סרטן ומחלות אחרות? אין בעיה - שירותי הבריאות והתרופות ישתנו בדרכים שאין להעלות על הדעת. רעב עולמי? ISI תשתמש בננו -טכנולוגיה ליצירת בשר זהה לבשר אמיתי, מאפס.
ננוטכנולוגיה תוכל להפוך ערימת אשפה למיכל בשר טרי או מזון אחר (לא בהכרח אפילו בצורתה הרגילה - דמיינו קוביית תפוחים ענקית) ולהפיץ את כל המזון הזה ברחבי העולם באמצעות מערכות הובלה מתקדמות. כמובן, זה יהיה נהדר עבור בעלי חיים שכבר לא צריכים למות בגלל מזון. ISI יכול גם לעשות דברים רבים אחרים, כמו שימור מינים בסכנת הכחדה, או אפילו החזרת נכחדים מה- DNA המאוחסן. ISI יכול לפתור את הבעיות המאקרו כלכליות הקשות ביותר שלנו - הדיונים הכלכליים הקשים ביותר שלנו, סוגיות אתיות ופילוסופיות, סחר גלובלי - כל אלה יהיו ברורים עד כאב עבור ISI.
אבל יש משהו מאוד מיוחד ש- ISI יכול לעשות בשבילנו. מפתה ומפתה שישנה הכל: ISI יכול לעזור לנו להתמודד עם התמותה … אם תבינו בהדרגה את יכולות AI, אולי תשקלו מחדש את כל הרעיונות שלכם לגבי מוות.
לא הייתה שום סיבה לאבולוציה להאריך את תוחלת החיים שלנו יותר ממה שהיא עושה עכשיו. אם אנו חיים מספיק זמן כדי ללדת ולגדל ילדים עד כדי כך שהם יכולים להתמודד עם עצמם, האבולוציה מספיקה. מנקודת מבט אבולוציונית, 30+ שנים מספיקות להתפתחות, ואין סיבה שמוטציות יאריכו את החיים ויפחיתו את ערך הברירה הטבעית. וויליאם באטלר ייטס כינה את המינים שלנו "נשמה המחוברת לחיה גוססת". לא הרבה כיף.
ומכיוון שכולנו מתים יום אחד, אנו חיים עם הרעיון שהמוות הוא בלתי נמנע. אנו חושבים על הזדקנות לאורך זמן - ממשיכים להתקדם ולא מצליחים לעצור את התהליך הזה. אבל המחשבה על המוות בוגדנית: לכודים בו אנו שוכחים לחיות. ריצ'רד פיינמן כתב:
"יש דבר נפלא בביולוגיה: אין שום דבר במדע הזה שידבר על הכרח המוות. אם אנו רוצים ליצור מכונת תנועה תמידית, אנו מבינים שמצאנו מספיק חוקים בפיזיקה שמעידים על חוסר האפשרות לכך, או שהחוקים אינם נכונים. אבל אין שום דבר בביולוגיה שיצביע על הבלתי נמנע של המוות. זה מוביל אותי להאמין שזה לא כל כך בלתי נמנע, וזה רק עניין של זמן עד שהביולוגים יגלו את הסיבה לבעיה הזו, את המחלה האוניברסלית הנוראה הזו, היא תירפא ".
העובדה היא שלהזדקנות אין שום קשר לזמן.ההזדקנות היא כאשר החומרים הפיזיים של הגוף נשחקים. גם חלקי רכב מתדרדרים - אך האם הזדקנות היא בלתי נמנעת? אם תתקן את המכונית שלך כשהחלקים נשחקים, היא תימשך לנצח. גוף האדם אינו שונה - רק מורכב יותר.
קורצווייל מדבר על ננו-בוטים חכמים המחוברים ל- Wi-Fi במחזור הדם שיכולים לבצע אינספור משימות לבריאות האדם, כולל תיקון או החלפה של תאים שחוקים באופן קבוע בכל מקום בגוף. שיפור תהליך זה (או מציאת אלטרנטיבה המוצעת על ידי ASI חכם יותר) לא רק ישמור על בריאות הגוף, הוא יכול להפוך את ההזדקנות. ההבדל בין גופתו של ילד בן 60 לילד בן 30 הוא קומץ נושאים פיזיים שניתן לתקן בעזרת הטכנולוגיה הנכונה. ISI יכול לבנות מכונית שאדם יכנס אליה כשהוא בן 60 ויעזוב כשהוא בן 30.
אפילו מוח מושפל יכול להתחדש. ה- ISI בוודאי ידע כיצד לעשות זאת מבלי להשפיע על נתוני המוח (אישיות, זיכרונות וכו '). גבר בן 90 הסובל מהידרדרות מוחית מוחלטת יכול לעבור הסבה, חידוש וחזרה לתחילת חייו. זה אולי נראה אבסורדי, אבל הגוף הוא קומץ אטומים, וה- ISI בהחלט יכול לתפעל אותם, בכל מבנה אטומי. זה לא כזה אבסורדי.
קורצווייל גם מאמין שחומרים מלאכותיים ישתלבו יותר ויותר בגוף ככל שחולף הזמן. בתור התחלה, ניתן היה להחליף את האיברים בגרסאות מכונה סופר מתקדמות שיימשכו לנצח ולעולם לא ייכשלו. לאחר מכן נוכל לבצע עיצוב גוף מלא, להחליף את תאי הדם האדומים בננו -בוטים מושלמים שנעים מעצמם, ולבטל את הצורך בלב כליל. נוכל גם לשפר את היכולות הקוגניטיביות שלנו, להתחיל לחשוב מהר יותר מיליארדי פעמים ולגשת לכל המידע העומד לרשות האנושות באמצעות הענן.
האפשרויות להבנת אופקים חדשים יהיו באמת אינסופיים. אנשים הצליחו להעניק למין מטרה חדשה, הם עושים זאת להנאה, לא רק לרבייה. קורצווייל מאמין שנוכל לעשות אותו דבר עם אוכל. Nanobots יכולים לספק תזונה אידיאלית ישירות לתאי הגוף, ומאפשרים לחומרים לא בריאים לעבור בגוף. תיאורטיקן הננו -טכנולוגיה רוברט פרייטאס כבר פיתח תחליף לתאי דם, שכאשר הוא מיושם בגוף האדם, יכול לאפשר לו לא לנשום במשך 15 דקות - וזה הומצא על ידי אדם. תארו לעצמכם מתי ה- ISI ישיג כוח.
אחרי הכל, קורצווייל מאמין שבני אדם יגיעו לנקודה שבה הם הופכים להיות מלאכותיים לחלוטין; הזמן שבו אנו מסתכלים על חומרים ביולוגיים וחושבים עד כמה הם היו פרימיטיביים; זמן בו נקרא על השלבים המוקדמים של ההיסטוריה האנושית, המופתעים כיצד חיידקים, תאונות, מחלות או פשוט זקנה יכולים להרוג אדם בניגוד לרצונו. בסופו של דבר בני אדם ינצחו את הביולוגיה שלהם ויהפכו לנצחיים - זו הדרך לצד המאושר של קרן האיזון עליה דיברנו כבר מההתחלה. ואנשים שמאמינים בזה בטוחים גם שעתיד כזה מחכה לנו בקרוב מאוד מאוד.
סביר להניח שלא תתפלאו שרעיונותיו של קורצווייל עוררו ביקורת חריפה. ייחודו בשנת 2045 וחיי הנצח שלאחר מכן לאנשים כונו "עליית החנונים" או "יצירה אינטליגנטית של אנשים עם מנת משכל של 140". אחרים הטילו ספק בטווח הזמן האופטימי, בהבנת הגוף והמוח האנושי, הזכירו את חוק מור שטרם נעלם. לכל מומחה שמאמין ברעיונות של קורצווייל, יש שלושה שחושבים שהוא טועה.
אבל הדבר הכי מעניין בזה הוא שרוב המומחים שחולקים עליו, בסך הכל, לא אומרים שזה בלתי אפשרי.במקום להגיד "שטויות, זה לעולם לא יקרה", הם אומרים משהו כמו "כל זה יקרה אם נגיע ל- ISI, אבל זו הבעיה". בוסטרום, אחד ממומחי AI המוערכים המזהירים מפני סכנות AI, מודה גם הוא:
"כמעט ולא נותרה שום בעיה שמודיעין -על לא יכול לפתור, או אפילו לעזור לנו לפתור. מחלות, עוני, הרס סביבתי, סבל מכל הסוגים - כל המודיעין העל הזה בעזרת ננוטכנולוגיה יכול לפתור ברגע. אינטליגנציה על יכולה גם לתת לנו תוחלת חיים בלתי מוגבלת על ידי עצירה והיפוך תהליך ההזדקנות באמצעות ננו -רפואה או היכולת להעלות אותנו לענן. אינטליגנציה על יכולה גם ליצור הזדמנויות לעלייה אינסופית ביכולות האינטלקטואליות והרגשיות; הוא יכול לעזור לנו ליצור עולם בו נחיה בשמחה ובהבנה, ניגש לאידיאלים שלנו ונגשים את חלומותינו באופן קבוע ".
אולם זהו ציטוט של אחד ממבקרי קורצווייל, המודה שכל זה אפשרי אם נוכל ליצור ASI מאובטח. קורצווייל פשוט הגדיר למה צריכה להיות אינטליגנציה על מלאכותית, אם בכלל אפשרית. ואם הוא אל טוב.
הביקורת הברורה ביותר על תומכי אזור הנוחות היא שאפשר לטעות בהם כאשר הם מעריכים את עתידו של ISI. בספרו The Singularity הקדיש קורצווייל 20 עמודים מתוך 700 איומי ISI פוטנציאליים. השאלה היא לא כאשר נגיע ל- ISI, השאלה היא מה תהיה המוטיבציה שלו. קורצווייל עונה על שאלה זו בזהירות: "דאעש נובע ממאמצים רבים ושונים וישתלב עמוק בתשתית הציוויליזציה שלנו. למעשה, הוא יהיה מוטבע באופן הדוק בגופנו ובמוחנו. הוא ישקף את הערכים שלנו כי הוא יהיה אחד איתנו ".
אבל אם התשובה היא, מדוע כל כך הרבה אנשים חכמים בעולם הזה דואגים לעתיד הבינה המלאכותית? מדוע סטיבן הוקינג אומר שפיתוח ה- ISI "יכול להיות סוף הגזע האנושי"? ביל גייטס אומר שהוא "לא מבין אנשים שלא מוטרדים" בעניין. אילון מאסק חושש שאנו "מזמנים שד". מדוע מומחים רבים רואים ב- ISI את האיום הגדול ביותר על האנושות?
נדבר על זה בפעם הבאה.
