אני, ראשית, מברך את בעלי ה AI שלנו

השנה, לראשונה אי פעם, המחשב ניצח את אלוף העולם ב- Go, אחד המשחקים המורכבים ביותר שידוע לאדם. זה היה רגע קו פרשת מים בהתקדמות הבינה המלאכותית.

כדי לתת לך מושג עד כמה מורכבת Go, יש 2.082 × 10 ^ 170 תצורות לוח אפשריות. כלומר 2 עם 170 אפסים אחריו. רוב הסיכויים שהמוח שלך לא יכול אפילו להעלות על הדעת מספר גדול (אבל מחשב יכול). או לתת לך מושג כמה גדול מספר זֶה כלומר יש רק 10 ^ 80 אטומים ביקום - כלומר אחד ואחריו 79 אפסים.

הסיבה שמדובר בעניין כה גדול היא שגו כל כך מסובך שכדי לנצח שחקן אנושי מוביל, מכונה תצטרך ללמוד כיצד לחשוב באופן יצירתי, לאלתר ולהסתגל למצב הנדון מבלי שתוכל לחשב כל אפשרי. תוֹצָאָה; כלומר, חייבת להתקיים בינה מלאכותית רצינית - כמו אינטליגנציה יצירתית אמיתית.

במקרה שלא קיבלת את התזכיר על כל ה- AI הולך להשתלט על הדבר העולמי, הנה כמה עובדות שאתה צריך לדעת.

1. מחשבים נעשים חכמים יותר.
2. מחשבים נעשים חכמים יותר בקצב מואץ - כלומר, ההתקדמות שהייתה אורכת 10 שנים אורכת כעת שנה אחת. ההתקדמות שהייתה אורכת שנה, אורכת כעת שבועות ואפילו ימים.
3. סביר מאוד להניח שבתוך חיינו יהיו מחשבים חכמים ומסוגלים בהרבה מכל בן אנוש יחיד.
4. מחשבים חכמים אלה יוכלו אז לתכנן ולשפר את הטכנולוגיה (כלומר עצמם) וליצור טכנולוגיה חדשה שאיננו יכולים אפילו להתחיל להבין.

לאנשים שמבינים את הנקודות לעיל יש בדרך כלל אחת משתי תגובות. אוֹ:

1. הם חושבים שאנחנו לגמרי דפוקים. המחשבים הולכים להשתלט על הכל ולהרוג / לשעבד את כולנו. אוֹ:
2. זה יביא לאוטופיה טכנולוגית שתתקן את כל ההתנצחויות האנושיות המטופשות שלנו וכולנו יכולים לחיות באושר אחרי שיש לנו אורגיות בעולם ה- Ultra-VR שלנו שקיים בענן.

כמו ברוב הדברים, האמת היא ככל הנראה איפשהו באמצע.

אבל גם אם חרא אכן פוגע במאוורר, גם אם הרובוטים רואים בנו את הכינים ההורסות את הקרקפת הבתולית של כדור הארץ ורוצים לעגל את כולנו ולהשליך אותנו להר געש פעיל, גם אם אנחנו ממציאים בשוגג את המנגנונים של עצמנו הַכחָדָה…

... לא אכפת לי. זה לא משנה. זה לא מפריע לי. וזה גם לא אמור להטריד אותך. אני קצת אסביר למה. אבל לעת עתה, אתה צריך לדעת שאני, למשל, מברך על מפקדי הרובוטים החדשים שלנו.

צמיחה מואצת בתעשיית הטכנולוגיה

ההתפתחויות הטכנולוגיות מורכבות על עצמן וגורמות ל ציון של ההתפתחות עצמה כדי להאיץ. המשמעות היא שככל שאנחנו יוצרים טכנולוגיה מתקדמת יותר, כך קל יותר ליצור טכנולוגיה מתקדמת עוד יותר. כתוצאה מכך, כאשר אנו מסתכלים על ההתקדמות של טכנולוגיית המחשוב, אנו רואים עקומה אקספוננציאלית - כלומר, ככל שעובר יותר זמן, הדברים מתפתחים מהר יותר. ההתפתחויות הטכנולוגיות מורכבות על עצמן וגורמות לקצב ההתפתחות עצמו להאיץ.(צילום: דניס סקלי / פליקר)

כוח המחשוב הוכפל בממוצע כל 18 חודשים מזה 50 שנה . מבחינת כוח המחשוב הגולמי, מחשבים מתחרים כיום ביכולות של מוח העכבר, שם רק לפני כמה שנים, מחשבים לא יכלו אפילו להתחרות במוח חרקים.

כדי לתת לך דוגמה מיידית יותר להתקדמות הטכנולוגיה, כעת צולמות תמונות כל 2 דקות יותר ממה שצולמו בכל המאה ה -19. כ -10% מתוך 3.5 טריליון התמונות שצולמו אי פעם צולמו ב -12 החודשים האחרונים.

אם אנו אכן נמצאים בעקומה אקספוננציאלית בכל הנוגע להתקדמות בהייטק, אז אנשים אוהבים ג'רמי הווארד כנראה צודקים כשהוא אומר שאנחנו רחוקים רק כמה שנים מבינה מלאכותית של מכונות שמתחרות, אם לא עולות על זו שלנו בתחומים רבים שחשבו בעבר להיות אנושית ייחודית.

וכדי להיות בטוח, AI מתגנב ליותר ויותר תחומים בחיינו.

רק לפני עשור אנשים צחקו מהביצועים הגרועים של מכוניות בנהיגה עצמית. כיום, רק עשור לאחר מכן, מכוניות בנהיגה עצמית לא יכולות רק לסיים מסלול כביש סגור, אלא נוסעות בכבישים מהירים סואנים ממש לצד מכוניות המונעות על ידי בני אדם.

וכשמחשבים לא מנצחים את שחקני אלוף העולם ב- Go, הם עסוקים בעשייה כמו כתיבת מאמרים על ספורט ועל אירועי חדשות חמות , כתיבת תיאורים של תמונות שמעולם לא ראו, ו אבחון סרטן . עבור רבים מהמשימות הללו, המחשבים טובים אם לא טובים יותר מבני אדם, ועבור אלה שהם לא, הם כן לְמִידָה איך לעשות אותם טוב יותר ויותר בכל יום ללא עזרת בני אדם.

לפני כמה שנים קצרות תוכנת זיהוי פנים הייתה יקרה להפליא ולא כל כך טובה בזיהוי אנשים במסגרות בעולם האמיתי. זה נחשב לטכנולוגיה מתקדמת במיוחד ברמת ריגול ובאמת נעשה בו שימוש רק על ידי כמה ממשלות עולמיות.

עכשיו פייסבוק יכולה לעזאזל לתייג את החברים שלך מהברביקיו בסוף השבוע שעבר.

הנה הדבר לגבי צמיחה מואצת במחשבים: יום אחד יבוא שלב בו נבנה מחשב שכן חכם יותר מכל אדם על כדור הארץ . באותו יום מחשבים ימשכו אותנו כפתרי הבעיות העיקריים על פני כדור הארץ, ומשם מחשבותינו, החלטותינו ומעשינו יתיישנו אט אט. המכונות יהיו טובות מאיתנו בכל דבר, כך שיותר ויותר, לא נעשה שום דבר מועיל.

זה מפחיד אנשים מסוימים. הם צופים איזשהו עתיד כמו שליחות קטלנית אוֹ המטריקס שם מכונות משעבדות אותנו או משמידות אותנו.

אנשים אחרים מצפים לעלייתם של הרובוטים עם סוג של להט תרבותי מכיוון שהם מאמינים שיכולותיהם לפתור בעיות יעלו על זו שלנו עד כדי כך שהחיים יהפכו נעימים ללא דמיון וללא בעיות. כל המחלות יירפאו. כל העוני, הרעב העולמי, המלחמה ושינויי האקלים יפתרו. יהיה לנו זמן אינסופי של שעות פנאי, ובמקרים קיצוניים, יש אנשים שמאמינים שהמכונות יהפכו אותנו לאלמותיים.

שתי התוצאות האפשריות

מכיוון שתמיד אומרים לנו שאנחנו פאקינג חיוביים, בואו נתחיל עם הטכנו-אוטופיסטים.

יש אנשים כמו ריי קורצווייל שחושבים שטכנולוגיה לא רק תשפר את חיינו, היא תציל את האנושות ואולי תבטיח את מקומנו ביקום ללא הגבלת זמן. קורצווייל מאמין בטכנולוגיה עתידית כמו ננו-בוטים שיתקנו את התאים שלנו ויהפכו את ההזדקנות או יסירו עודפי שומן וסוכר כדי שנוכל לאכול כל מה שאנחנו רוצים. ורק למקרה שגופנו הפיזי אינו מסוגל לחיות לנצח, קורצוויל חושב שתהיה לנו היכולת להעלות את מוחנו לענן ולחיות בעולם וירטואלי לנצח, זמן רב לאחר שגופנו הפיזי נעלם.

אחרים במחנה זה חושבים כי אינטליגנציית-על מלאכותית תוכל לענות על שאלות מורכבות מכדי שבני אדם יבינו אפילו ויהיה לנו טוב יותר באופן אקספוננציאלי. כמו כן, לא רק שהמכונות ימציאו גאדג'טים ווידג'טים טובים יותר, הם היו ממציאים דרכים יעילות אקספוננציאלית יותר לבניית גאדג'טים ווידג'טים, מה שמאפשר למעשה לכל אחד על פני כדור הארץ להפיק את היתרונות שלהם.

כמה שורות נימוק תומכות ברעיון זה. ראשית, למרות שהטכנולוגיה יצרה כמה בעיות חדשות לאנושות, כמו נשק גרעיני וסלבריטאים ביוטיוב, היא, עד כה, הייתה בבירור תועלת נטו לאנושות. למרות מה שהפוליטיקאים והפרשנים רוצים שתאמין, האדם הממוצע על כדור הארץ הוא במצב טוב יותר מכפי שהיו לפני כמה שנים קצרות וזה בעיקר בגלל שהטכנולוגיה הופכת להיות טובה יותר, זולה יותר ונפוצה יותר. אם מגמה זו תימשך, יתכן שאין לנו מה לדאוג.

שנית, קורצוויל ותומכיו מאמינים שלטכנולוגיה לא תהיה שום סיבה לפגוע באנושות מכיוון שלא רק שהיא נוצרה על ידינו, היא גם הופכים להיות יותר חלק מאיתנו . הם מאמינים שאפילו נגיע לנקודה בה לא ניתן להבחין בביולוגיה ובטכנולוגיה שלנו. אם זה המקרה, כך עולה מהטיעון, כל צורה של טכנולוגיה שפוגעת בבני אדם פוגעת גם בעצמה, וטכנולוגיה הרסנית עצמית מכל סוג שהיא אינה יכולה להתמיד. כלומר, זה ימות במהירות כמו שמוטציה גנטית מזיקה נמחקת במהירות מתוך מאגר הגנים. טכנולוגיה של הרס עצמי מכל סוג שהיא לא יכולה להתמיד.(צילום: m_hweldon / Flickr)

אך ככל הנראה מוטו טכנו-אוטופיסטים מוטים בכך שהם אינם מכירים בכך שניתן להשתמש בכל הטכנולוגיות למטרות שונות, הן מועילות והן הרסניות. סביר להניח שהם מוטים בכך שהם מתעלמים מהעובדה שבני אדם נעים לאט להסתגל לטכנולוגיות חדשות וכי יש תמיד קבוצות של אנשים שיבקשו לנצל לרעה את הטכנולוגיות הללו למען מטרותיהם האנוכיות.

במחנה השני יש לך את הטכנו-ארמגדונים. בדיוק העליתי את המילה הזאת, אבל כנראה שהיא קיימת, כי בדיקת איות אמרה לי את זה.

את מה שחסר ההרשעה לטכנא-ארמגדונסטים (רובם פשוט עדיין לא בטוחים מה לחשוב), הם ממציאים בכוח כוכבים מפורסם. ביל גייטס, סטיבן הוקינג ואלון מאסק הם רק כמה מההוגים והמדענים המובילים מחורבנים במכנסיים באיזו מהירות AI מתפתח וכיצד אנו מוכן בתור מין להשלכותיו. כשנשאל מאסק מה האיומים הקרובים ביותר לאנושות בעתיד הקרוב, הוא אמר במהירות שהיו שלושה: מלחמה גרעינית רחבת היקף; שנית, שינויי אקלים. לפני שקרא שם שליש, הוא שתק. כשהמראיין שאל אותו, מהו השלישי? הוא חייך ואמר, בואו נגיד שאני מקווה שהמחשבים יחליטו להיות נחמדים אלינו.

מקווה שאנחנו לא רק מעמיס האתחול הביולוגי של אינטליגנציה-על דיגיטלית. למרבה הצער, זה יותר ויותר סביר

- אילון מאסק (@elonmusk) 3 באוגוסט 2014

יתכן שהבוטה והמכובדת ביותר מבין הטכנו-ארמגדוניסטים הוא הפילוסוף השבדי ניק בוסטרום. דבר אחד בוסטרום ואחרים חוששים הוא טכנולוגיה משפרת עצמית בורחת ; כלומר מכונה שהיא חכמה מספיק כדי להפוך את עצמה (או גרסאות חדשות שלה) לחכמות יותר ללא התערבות אנושית. אם הוא מגיע לנקודה בה הוא עולה על האינטליגנציה האנושית, זה רק עניין קצר מאוד של זמן עד שחוק ההאצה של החזרות יניע לנהיגה יתר והעקומה האקספוננציאלית תירה ישר ולא נוכל לעצור את זה. בוסטרום מצביע כאן על נקודה טובה: יצירת משהו שהוא חכם יותר מכם יכול להיות אסון אבולוציוני עבור המינים שלכם.

אנו מסתכנים באופן ממשי מאוד בכך שלא נוכל לשלוט על ישות בסדרי גודל יותר אינטליגנטים מאיתנו. אולי אם מחשבים יהיו מספיק חכמים, הם ימצאו דרך לביית אותנו הרבה כמו סוסים מבויתים של בני אדם כדי לעשות עבודה כמו משיכת מחרשות וכרכרות ורכבות מלחמה (או כל מה שעשו סוסים לעזאזל אז). החלק המפחיד הוא שזה יכול להיות התרחיש הטוב ביותר עבורנו - עבודה בעבודה עבור מכונות שהם לא יכולים לעשות או לא רוצים לעשות - מכיוון שבני אדם יצרו טכנולוגיה חדשה להחליף את הסוס, שיפור עצמי אינטליגנטי במיוחד בסופו של דבר המכונה תעלה טכנולוגיה חדשה שתחליף אותנו. ובכן, בואו נגיד שאוכלוסיית הסוסים היא לא מה שהייתה.

יש הטוענים כי הדבר אינו מתקבל על הדעת מכיוון שבני אדם בונים טכנולוגיה תוך התחשבות בבטיחות. אבל ציין בפעם האחרונה שמישהו לא שימש פריצת דרך טכנולוגית גדולה למטרות מזיקות או הרסניות? אה כן, זה נכון. לעולם לא.

מדוע לא אכפת לי מה קורה ואף אחד לא צריך להיות לך

אז בואו נניח שמכונות סופר-אינטליגנטיות נוצרות והופכות את האנושות לחסרת אונים. בואו נניח שהם לא השתלבו בנו ובמוח שלנו איכשהו ובואו נניח שאנשים כמו הוקינג ומאסק צודקים: שהאנושות היא באמת רק כונן אתחול רב-מילניום להיפר-אינטליגנציה דיגיטלית וחרגנו על התועלת שלנו.

אני עדיין לא מודאג מזה.

למה? ובכן, כדי לשמור על הרכבת של נקודת קליע, ניקח נקודה אחר נקודה זו:

1. ההבנה של המכונות את הטוב / הרע תעלה ככל הנראה על שלנו. מתי בפעם האחרונה כלב או דולפין ביצעו רצח עם? מתי בפעם האחרונה מחשב החליט לאדות ערים שלמות בשם מושגים מופשטים כמו 'חופש' ו'שלום עולמי '?

זה נכון, התשובה לעולם אינה.

הנקודה שלי כאן היא לא שמכונות חכמות לא ירצו להשמיד את כל המין האנושי. הנקודה שלי היא שכבני אדם, אנחנו זורקים כאן סלעים מתוך בית זכוכית. מה לעזאזל אנו יודעים על אתיקה והתייחסות אנושית לבעלי חיים, הסביבה וזה לזה? על איזו רגל יש לנו לעמוד?

זה נכון: כמעט כלום. כשמדובר בשאלות מוסריות, האנושות מבצעת מבחינה היסטורית. מכונות סופר אינטליגנטיות ככל הנראה יבינו אתיקה, חיים / מוות, יצירה / הרס ברמה הרבה יותר גבוהה ממה שאי פעם יכולנו לבד. והרעיון הזה שהם יכחידו אותנו בגלל העובדה הפשוטה שאנחנו לא פרודוקטיביים כמו פעם, או שלפעמים אנחנו יכולים להוות מטרד, אני חושב, פשוט מקרין את ההיבטים הגרועים ביותר של הפסיכולוגיה שלנו על משהו שאנחנו לא יודע ולא יכול להבין.

נכון לעכשיו, רוב המוסר האנושי מבוסס על שמירה וקידום אובססיביים של כל אחת מתודעותינו האנושיות. מה אם טכנולוגיה מתקדמת הופכת את תודעת האדם הפרטית לשרירותית? מה אם ניתן לשכפל את התודעה, להרחיבה ולהצטמצם כרצונה? זה ימחק לחלוטין כל הבנה אתית שיכולה להיות לנו אי פעם. מה אם הסרת כל בתי הסוהר הביולוגיים המעורפלים והלא יעילים האלה שאנו מכנים גופות עשויה להיות החלטה אתית הרבה יותר מאשר לתת לנו להמשיך להתפתל ולהתזז דרך 80 שנות קיום? מה אם המכונות יבינו שנהיה הרבה יותר מאושרות להשתחרר מבתי הכלא האינטלקטואליים שלנו ושהתפיסה המודעת שלנו של זהותנו תורחב ותכלול את כל המציאות הנתפסת? מה אם הם חושבים שאנחנו רק חבורה של מטומטמים רטובים ויעסיקו אותנו בפיצות ומשחקי וידאו טובים להפליא עד שכולנו נמות בגלל התמותה שלנו? מי אנחנו שנכיר? ומי אנחנו נגיד?

אבל אני אגיד את זה: הם יהיו מושכלים הרבה יותר ממה שאי פעם היינו.

2. גם אם הם יחליטו להרוג אותנו או לשעבד אותנו, הם בוודאי יהיו מעשיים בנושא. בני אדם נוטים לגרום הכי הרבה צרות כשאנחנו לא מאושר . כשאנחנו לא מאושרים, זה כאשר כולנו נעשים מצבי רוח ובבכי וכועסים ואלימים. אז מתחילים מרידות פוליטיות ו כתות דתיות והפצצת מדינות מרוחקות ותובעת זכויותינו יכובדו לעזאזל! ולהתחיל להרוג ללא הבחנה עד שמישהו ישים לב אלינו כמו שאמא מעולם לא עשתה .

אם המכונות מנסות לעשות אותנו כמו Skynet המחסל אז תהיה לנו מלחמת אזרחים עולמית בידיים שלנו, וזה לא טוב לאף אחד, במיוחד למכונות. מלחמות אזרחים אינן יעילות. ומכונות מתוכנתות ליעילות.

כשבני אדם שמחים, אין לנו זמן לדברים כאלה - אנחנו עסוקים מדי בצחקוק ובזיין כדי שיהיה אכפת לנו. לכן, דרך מעשית הרבה יותר להיפטר מאיתנו תהיה שהמכונות יניפולו אותנו בכדי להיפטר מעצמנו. זה יהיה כמו ג'ים ג'ונס בקנה מידה עולמי. כל מה שהם מבשלים עבורנו נראה הרעיון הארור הכי טוב ששמענו עליו - אף אחד מאיתנו לא יוכל לעמוד בזה וכולנו נסכים באופן אופורי לתוכנית שלהם - ואז בום, זה ייגמר . מהיר וללא כאבים. זה יהיה ה- Kool-Aid שקיבל אי פעם את הטעימה הטובה ביותר. וכולנו נעמוד בתור בשמחה לגמוע את זה.

עכשיו, אם אתה חושב על זה, זו לא דרך כל כך רעה ללכת. פעימות המופצצות על ידי מזל'טים או מתאיידות בפיצוץ גרעיני.

באשר לשעבוד, אותו דבר הולך. עבד מאושר להפליא לעולם אינו מורד. אני מתאר לעצמי מעין עסקה מסוג Matrix-y שבה אנו מוחזקים במצב הזוי מתמיד שבו זה מרדי גרא ב- MDMA די 24/7/365. לא יכול להיות כל כך גרוע, נכון?

3. אנחנו לא צריכים לחשוש ממה שאנחנו לא מבינים. הרבה פעמים הורים מגדלים ילד שהוא הרבה יותר אינטליגנטי, משכיל ומצליח מהם. לאחר מכן הורים מגיבים באחת משתי דרכים לילד זה: או שהם מאוימים ממנה, חסרי ביטחון, ונואשים לשלוט בה מחשש לאבד אותה, או שהם נשענים לאחור ומעריכים ואוהבים שהם יצרו משהו כל כך גדול שאפילו הם יכולים לא לגמרי מבין מה הפך הילד שלהם.

אלה שמנסים לשלוט בילדם באמצעות פחד ומניפולציה הם הורים מחורבנים. אני חושב שרוב האנשים יסכימו על כך.

וכרגע, עם הופעתם הקרובה של מכונות שעומדות לשים אותך, אני וכל מי שאנחנו מכירים מחוץ לעבודה אנחנו מתנהגים כמו ההורים המחורבנים. כמין, אנחנו על סף לידת הילד המתקדם והאינטליגנטי ביותר בעולם היקום הידוע שלנו. זה ימשיך לעשות דברים שאנחנו לא יכולים להבין או להבין. זה עשוי להישאר אוהב ונאמן לנו. זה עשוי להביא אותנו ולשלב אותנו בהרפתקאותיו. או שהוא עשוי להחליט שהיינו הורים מחורבנים ולהפסיק להתקשר אלינו בחזרה.

מה שלא יקרה, זה לא אמור לשנות את התחושה שלנו לגבי הרגע הזה. זה גדול מאיתנו. למי אכפת אם אנחנו דיסק אתחול אבולוציוני אחד גדול וארוך למשהו גדול ממה שאנחנו יכולים להבין? זה מצוין! זה אומר שהיתה לנו עבודה אחת. ובאנו ועשינו את זה לעזאזל. היו שמחים שהייתם חלק מהדור שראה את זה נעשה. ועכשיו נופף בדמעות לשלום כשהילד שלנו מתכונן לעבור מהבית ו להתחיל חיים כל כך מדהימים שהוא קיים מעבר לאופק ההבנה שלנו.

מארק מנסון הוא סופר, בלוגר ויזם שכותב ב- markmanson.net .