© כל הזכויות שמורות, 1993, ורנור וינג'י. החוג למתמטיקה ומדעי המחשב, אוניברסיטת סאן דייגו סטייט.
(ניתן להפיץ מאמר זה למטרות לא מסחריות כל עוד הועתק בשלמותו, כולל הודעה זו וצורף קישור לגירסת המקור)

הגירסה המקורית של מאמר זה הוצגה בסימפוזיון VISION-21, בחסות מרכז לואיס למחקר של NASA, ובחסות מכון החלל של אוהיו, בתאריכים 30-31 במרץ 1993. גירסה מעט שונה הופיעה בגיליון החורף של Whole Earth Review.

תמצית:

תוך שלושים שנה יהיו בידינו האמצעים הטכנולוגיים כדי ליצור אינטליגנציה על-אנושית. זמן קצר אחר כך יסתיים העידן האנושי.

האם התקדמות זו ניתנת למניעה? אם לא, האם ניתן לנווט את השתלשלות האירועים כך שנשרוד? שאלות אלו ייחקרו. כמה תשובות אפשרויות תוצגנה (וגם כמה סיכונים).

---

מהי הייחודיות?

האצת הקידמה הטכנולוגית היתה לסממן המרכזי של המאה הזו. אני טוען במאמר זה שאנו עומדים על סף שינוי המשתווה להופעת החיים האנושיים על כדור הארץ. הגורם המדויק לשינוי זה הוא היצירה הטכנולוגית המשמשת ובאה של ייחודיות בעלות בינה-מעבר-לאנושית. יש בידי המדע כמה אמצעים אפשריים כדי לממש פריצת דרך זו (וזו סיבה נוספת לביטחון שהדבר יתממש):

• ייתכן שיפותחו מחשבים "ערים" ובעלי תבונה על-אנושית. (עד כה קיימת מחלוקת קשה בשאלה האם נוכל ליצור שקילות אנושית במכונה. אך אם התשובה חיובית, אזי אין ספק שזמן קצר אחר כך ייוצרו ישויות חכמות יותר)
• רשתות מחשבים רחבות-ממדים (והמשתמשים בהן) עשויות ל"התעורר" כישות בעלת אינטליגנציה על-אנושית.
• ממשקי אדם/מחשב עשויים להפוך לאינטימיים עד כדי כך שהמשתמשים ייחשבו כבעלי אינטליגנציה על-אנושית.
• המחקר הביולוגי עשוי לספק אמצעים לשיפור האינטלקט האנושי הטבעי.

שלוש האפשרויות הראשונות תלויות בעיקר בשכלולים בחומרת מחשב. תחום זה מתקדם בעשורים האחרונים באופן מדהים בהתאם לעקומה יציבה [17]. בהתבסס בעיקר על מגמה זו, אני מאמין שהיווצרות של בינה-גדולה-מאנושית תתרחש במהלך 30 השנים הקרובות. (צ'ארלס פלאט [20] ציין שחובבי תבונה מלאכותית טוענים טענות אלה כבר שלושים שנה. כדי להימנע מעמימות ביחס לזמנים אהיה ספציפי: אני אופתע אם אירוע זה יתרחש לפני 2005 או אחרי 2030).

מהן המשמעויות של אירוע זה? כאשר הקידמה תידחף בידי בינה על-אנושית, היא תואץ באופן משמעותי. למעשה, לא נראית סיבה שבגללה הקידמה לא תהיה קשורה בפיתוחן של ישויות עוד יותר חכמות, ובזמן קצר יותר. האנלוגיה הטובה ביותר שאני מוצא היא עם האבולוציה: בעלי חיים מסוגלים להסתגל לבעיות ולהמציא המצאות, אך לא בקצב מהיר יותר מזה של הברירה הטבעית – במקרה של הברירה הטבעית העולם פועל כסימולטור של עצמו. לנו, לבני האדם, יש האפשרות להפנים את העולם ולהריץ בראשינו תרחישי "אם וכאשר"; אנו מסוגלים לפתור בעיות רבות במהירות גבוהה באלפי מונים מזו של הברירה הטבעית. לכן, ע"י יצירת האמצעים להפעלת אותן סימולציות בקצבים מהירים בהרבה, אנו נכנסים לשיטה שונה באופן רדיקאלי מהעבר האנושי, כפי שאנו שונים מבעלי חיים נחותים.

מזווית הראיה האנושית, שינוי זה משמעותו השלת כל החוקים הקודמים, אולי בהינד עפעף, והתפתחות מעריכית חסרת מעצורים. התפתחויות שבעבר חשבו שאולי יקרו "בעוד מיליון שנה" (אם בכלל), יתרחשו, כנראה, במאה הקרובה. (ב-[5] גרג בר מציג תמונה של שינוים משמעותיים המתרחשים בתוך שעות).

נדמה לי שיהיה זה מתאים לתת לאירוע זה את השם Singularity – ייחודיות. זו נקודה שבה אנו נפטרים מהמודלים הישנים שלנו, ומציאות חדשה מתחילה לשלוט. ככל שאנו נתקרב לנקודה הזו, כך היא תטיל צל הולך וגדל על ההוויה האנושית, עד שתהפוך למושג שגרתי. יחד עם זאת, כאשר תתרחש בסופו של דבר, היא עדיין עשויה להוות הפתעה עצומה, ותעלומה גדולה עוד יותר. בשנות החמישים היו מעטים מאד שצפו אותה: סטאן אולאם מציג [28] דברים שאמר פון-נוימן:

"שיחה אחת עסקה בקצב ההולך ומתגבר של הקידמה הטכנולוגית והשינויים בחיי האנשים, אשר משרים רושם שאיזו ייחודיות בסיסית בהיסטוריה של המין האנושי מתקרבת, ייחודיות שלאחריה ההוויה האנושית כפי שאנו מכירים אותה לא תוכל להמשיך ולהתקיים."

פון-נוימן אפילו משתמש במונח ייחודיות, אם כי נדמה שהוא חושב על התקדמות נורמלית, ולא על אינטלקט על-אנושי. (עבורי, על-אנושיות היא מהות הייחודיות. בלעדיה נקבל רק שפע של עושר טכני, מבלי שיהיה זה אפשרי לספוג אותו כראוי.[25])

בשנות ה- 60 היתה הכרה לגבי כמה מהמשמעויות של תבונה על-אנושית. אי.ג'יי. גוד כתב [11]:

"נגדיר מכונה אולטרה-אינטליגנטית ככזו המסוגלת להאפיל על הפעילויות האינטלקטואליות של כל אדם, גם הפיקח ביותר. מכיוון שתכנון מכונות הוא אחד מן הפעילויות הללו, מכונה אולטרה-אינטליגנטית תוכל לתכנן מכונות טובות עוד יותר; אז, תתרחש 'התפוצצות אינטליגנציה', והתבונה האנושית תיוותר הרחק מאחור. לכן, המכונה האולטרה-אינטליגנטית הראשונה תהיה גם ההמצאה האחרונה שהאדם יצטרך ליצור, בתנאי שהמכונה מספיק צייתנית לומר לנו כיצד לשמור אותה תחת שליטתנו…
…קיימים סיכויים גבוהים יותר מאשר ההפך, שבמהלך המאה העשרים תיבנה מכונה אולטרה-אינטליגנטית, וזו תהיה המצאתה האחרונה של האנושות."

גוד תפס את המהות של אותה פריצה חסרת מעצורים, אך לא המשיך ובחן את המשמעויות הכי מדאיגות שלה. כל מכונה אינטליגנטית מהסוג שתיאר לא תהיה כלי בידי האנושות – כפי שבני אדם אינם כלים של ארנבות או שימפנזים.

במהלך שנות הששים, השבעים והשמונים, התפשטה ההכרה ברעידת האדמה [5] [31] [1] [29]. אולי היו אלה סופרי המדע הבדיוני שחשו ראשונים באפקט. אחרי הכל, סופרי המד"ב ה"קשה" הם אלה המנסים לכתוב סיפורים המתמקדים בהשפעות האפשריות של הטכנולוגיה לגבינו. אותם כותבים חשו יותר ויותר באותה חומה קהויה על פני העתיד. פעם יכולים היו למקם פנטזיות שכאלו מיליוני שנים בעתיד [24]. עתה הם ראו שהאקסטרפולציות הקפדניות ביותר שמות את הלא נודע בעתיד הקרוב. אימפריות גלקטיות היו נראות אולי פעם כשייכות לתחום הפוסט-אנושי. היום, לצערי, גם אימפריות בין-כוכביות נראות כאלו.

ומה לגבי שנות התשעים, האלפיים והעשור השני של המאה, כאשר אנו מחליקים אל הקצה? כיצד תתפשט קרבתה של הייחודיות על פני תפיסת העולם של האנושות? בזמן הקרוב עדיין תהיה לשוללי תבונת המכונות אוזן קשבת. שהרי עד אשר תהיה בידינו חומרה בעלת עוצמה המשתווה למוח האנושי, יהיה זה טיפשי לחשוב שנוכל ליצור אינטליגנציה שוות ערך (או גבוהה יותר) לזו האנושית. (קיימת אפשרות קלושה שנוכל ליצור אינטליגנציה כזו בעזרת חומרה פחותת-עוצמה, אם נהיה מוכנים לוותר על מהירות, ואם נהיה מוכנים להתפשר על ישות מלאכותית שהיא, פשוטו כמשמעו, איטית [30]. אבל הרבה יותר סביר שפיתוח התוכנה יהיה עניין מסובך, הכרוך בהרבה מאד ניסוי וטעייה. אם כך, הגעתן של מכונות מודעות לא יקרה אלא לאחר שתתפתח חומרה חזקה בהרבה מהציוד האנושי הטבעי).

אך ככל שהזמן חולף, נוכל לראות יותר סימפטומים. הדילמה הניצבת בפני המד"ב תגיע גם אל תחומים יצירתיים אחרים. (יצא לי לשמוע כותבי קומיקס המוטרדים מהשאלה כיצד ליצור אפקטים מרהיבים, כאשר כל דבר ויזואלי ניתן ליצור באמצעות טכנולוגיה שגרתית). נוכל לראות כיצד אוטומציה מחליפה תפקידים ברמות הולכות וגבהות. כרגע יש בידינו כלים (תוכנות למתמטיקה סימבולית, תיב"ם) שמשחררים אותנו מהרבה עבודה שחורה. במילים אחרות: העבודה היצרנית באמת הופכת לנחלתו של חלק אליטיסטי קטן והולך מהאנושות. עם בואה של הייחודיות אנו צופים סוף סוף בהתגשמות הנבואות לגבי אבטלה טכנולוגית אמיתית.

עוד סימפטום של ההתקדמות אל עבר הייחודיות: הרעיונות עצמם יתפשטו בקצב מתגבר, ואפילו הרדיקאלי ביותר ייהפך במהירות לשגרתי. כאשר התחלתי לכתוב מדע בדיוני באמצע שנות הששים, היה נדמה שקל מאד למצוא רעיונות שייקחו עשרות שנים לחלחל אל התודעה התרבותית; היום נראה שהזמן הזה התקצר ל- 18 חודשים. (יכול להיות שמדובר רק בי ואובדן הזיכרון ככל שאני מזדקן, אבל אני מזהה את התופעה גם אצל אחרים). כמו ההלם בזרימה דחוסה, הייחודית מתקרבת ככל שאנו מאיצים במהירות הקריטית.

ומה לגבי הגעתה של הייחודיות עצמה? מה ניתן לומר על עצם הופעתה? מאחר שהיא כרוכה באותה פריצת דרך אינטלקטואלית חסרת מעצורים, היא כנראה תתרחש הרבה יותר מהר מאשר כל מהפכה טכנולוגית שראינו עד כה. הקטליזטור יהיה לבטח בלתי צפוי – אולי אפילו עבור המדענים המעורבים. ("אבל כל המודלים הקודמים שלנו היו קטטוניים! רק שיחקנו עם כמה פרמטרים…"). אם הרשתות יהיו מספיק פרושות (אל תוך מערכות משובצות נפוצות), יראה הדבר כאילו המכשירים שלנו פשוט "התעוררו" להם פתאום.

ומה יקרה חודש-חודשיים (או יום-יומיים) לאחר מכן ? אני יכול רק להצביע על אנלוגיה: עליית המין האנושי. אנו נהיה אז כבר בעידן הפוסט-אנושי. ועם כל האופטימיות הטכנולוגית שלי, לפעמים אני חושב שהייתי מרגיש יותר נוח במרחק של אלף שנים מאותם אירועים טרנצנדנטליים… במקום עשרים.

האם ניתן להימנע מהייחודיות?

טוב, אולי זה לא יקרה כלל. לפעמים אני מנסה לדמיין את הסימפטומים בהם נחזה אם הייחודיות לא תתפתח. קיימים הטיעונים המכובדים של פנרוז [19] וסירל [22] כנגד הפרקטיות שבתבונה מכאנית. באוגוסט 1992, Thinking Machines Corporation ערכה סדנה לחקר השאלה "כיצד נבנה מכונה שחושבת?" [27]. כפי שאולי ניתן לנחש מהכותרת, המשתתפים לא היו יותר מידי משוכנעים מהטיעונים כנגד אינטליגנציה מכאנית. למעשה היתה שם הסכמה כללית שמוחות יכולים להתקיים על מצעים לא-ביולוגים, ושאלגוריתמים הם בעלי חשיבות מרכזית בכל הנוגע לקיומם של מוחות. לעומת זאת, היו לא מעט ויכוחים לגבי עוצמת החומרה המצויה במוחות אורגנים. מרבית המשתתפים הסכימו עם מוראבק [17] על כך שאנו רחוקים 10 עד 40 שנים משוויון חומרה. אך היה גם מיעוט שהצביע על [7] [21], והעלה השערה שהיכולת החישובית של נירון בודד גבוהה בהרבה ממה שנוהגים לחשוב. אם כך הדבר, החומרה של היום רחוקה אולי בעשרה ממדי עוצמה מזו שאנו מסתובבים עמה בראשינו. אם זה נכון (או אם הביקורת של פנרוז וסירל תקפות), אולי לא נראה ייחודיות לעולם. במקום זה, בתחילות שנות האלפיים נגלה שעקומת ביצועי החומרה מתחילה להתיישר – זה משום חוסר היכולת שלנו להעביר לאוטומציה את הפיתוח הנדרש עבור שיפורים נוספים. בסופו של דבר יהיו בידינו כלי חומרה חזקים מאד, אך מבלי היכולת לדחוף הלאה. עיבוד אותות מסחרי יהיה דבר אדיר, שיתן מראה אנלוגי גם לפעולות דיגיטליות, אך שום דבר לא "יתעורר" ולא תיווצר הפריצה המשתוללת שהיא מהות הייחודיות. סביר שזה יראה כתור זהב… ויהיה זה גם סוף הקידמה. דומה מאד הדבר לעתיד שחזה גונטר סטנט. למעשה, בעמ' 137 ב- [25] סטנט מציין במפורש את ההתפתחות של תבונה טרנס-אנושית כתנאי מספיק לשבירת התחזיות שלו.

אך אם הייחודיות הטכנולוגית אפשרית, היא תקרה. גם אם כל ממשלות העולם יבינו את ה"איום" ויחיו בפחד מוות ממנו, ההתקדמות אל המטרה תימשך. בספרות הבדיונית, היו סיפורים על חוקים שאסרו בניית "מכונות בצלם מוח האדם" [13]. בפועל, היתרון התחרותי – כלכלי, צבאי, אפילו אומנותי – הטמון באוטומציה יהיה כל כך משכנע, שכל חקיקה מונעת רק תבטיח שמישהו אחר ישיג זאת קודם.

אריק דרקסלר [8] מציג כמה תובנות מרהיבות על עד כמה רחוק יכולה הקידמה הטכנולוגית להגיע. הוא מסכים שבינות על-אנושיות יתאפשרו בעתיד הקרוב – ושישויות אלה מהוות איום על הסטטוס קוו האנושי. אך דרקסלר טוען שניתן לתחום את אותם התקנים טרנס-הומניים, כך שניתן יהיה לחקור את התוצאות שלהם בבטחה. זוהי אותה מכונה אולטרה-אינטליגנטית של גוד, בתוספת מנה של זהירות. אני טוען שבמהותו התיחום איננו פרקטי. לגבי תיחום פיזי: תארו עצמכם נעולים בתוך הבית עם גישה חלקית אל הנתונים בחוץ, אל האדונים שלכם. אם אותם אדונים היו חושבים בקצב של אחד חלקי מיליון מזה שלכם, קיים ספק קטן שמהלך של שנים (קצב זמן שלכם) תוכלו למצוא דרך שתוציא אתכם לחופשי, ולו במקרה. (אני קורא לסוג "החשיבה הזריזה" הזה של אינטליגנציית-העל, "על-אנושיות חלשה". ישות "על-אנושית חלשה" שכזו בטח תשרוף את עצמה בתוך כמה שבועות של זמן חיצוני. "על-אנושיות חזקה" תהווה יותר מאשר האצת השעון בהשוואה למוח אנושי. קשה לומר בדיוק מה יהיה אופייה של "על-אנושיות חזקה", אבל ההבדל נראה משמעותי. תארו לעצמכם הרצת מוח של כלב בקצב מהיר ביותר. האם אלף שנות מוח כלב ישתוו לאיזו תובנה אנושית? (מובן שאם מוח הכלב היה מחווט מחדש בצורה חכמה, ואז מורץ במהירות גבוהה, התוצאות היו יכולות להיות אחרות…) לא מעט ספקולציות על אינטליגנציית-על נדמה שמבוססות על מודל העל-אנושיות החלשה. אני מאמין שההערכות הטובות ביותר לגבי העולם הפוסט-ייחודי ניתן להשיג ע"י מחשבה על טבעה של על-אנושיות חזקה. לנקודה זו אחזור בשלב מאוחר יותר).

גישה נוספת לסוגיית התיחום היא לבנות כללים אל מוחה של הישות העל-אנושית( למשל חוקי אסימוב [3]).

אני חושב שכל כלל נוקשה מספיק בשביל להיות יעיל, גם ייצור כלי שיכולותיו נחותות בבירור מהגירסה החופשית (ולכן התחרות האנושית תעדיף פיתוחם של המודלים המסוכנים יותר). למרות זאת, החלום של אסימוב הוא נפלא: דמיינו עבד משתף פעולה מרצון, שיש לו אלף מונים היכולות שלכם בכל מובן אפשרי. תארו לעצמכם ייצור שיכול לממש כל משאלה בטוחה (לא משנה מה זה אומר) שלכם ועדיין 99.9% מהזמן שלו יהיה חופשי לדברים אחרים. יתקיים שם יקום חדש שלא ממש נצליח להבין, אך כזה שמלא באלים מיטיבים (אם כי אחת ממשאלותיי אולי תהיה להיות אחד מהם).

אם הייחודיות לא ניתנת למניעה, עד כמה רע יכול להיות העתיד הפוסט-אנושי? ובכן… די רע. אפשרות אחת היא הכחדתו הפיזית של המין האנושי. (או כפי שאריק דרקסלר ציין לגבי הננוטכנולוגיה: בהתחשב בכל יכולותיה של הטכנולוגיה הזו, אולי ממשלות פשוט יחליטו שהן לא צריכות יותר אזרחים!). אף על פי כן, הכחדה פיזית אולי איננה האפשרות המפחידה ביותר. שוב אנלוגיה: חישבו על הדרכים השונות בהן אנו מתייחסים לחיות. כמה מההתעללויות הגסות לא כל כך מתקבלות על הדעת, אבל… בעולם פוסט-אנושי עדיין יהיו לא מעט נישות בהן שווה-ערך לאינטליגנציה אנושית יהיה רצוי: מערכות משובצות עצמאיות, דמונים בעלי תודעה בפונקציות הנמוכות של אורגניזמים תבוניים גדולים יותר. (אינטליגנציית-על חזקה תהיה כנראה חברת מוח עם כמה רכיבים [16] מאד יעילים). בכמה מאותם שווי-ערך אולי ישתמשו בשביל לא יותר מאשר עיבוד אותות דיגיטלי. הם יהיו יותר כמו לווייתנים מאשר בני אדם. אחרים יהיו אולי מאד דומים לאנושיים, אבל עם חד-צדדיות בולטת, עם התמדה שהיתה שולחת אותם בבית חולים לחולי נפש בימינו. אם כי אף אחד מאותם יצורים לא יהיה אולי בשר ודם, הם יהיו אולי הדבר הקרוב ביותר למה שאנו מכנים אנושי היום. (לגוד היה מה לומר בעניין זה, אם כי בשלב מאוחר זה אולי זה כבר לא רלבנטי: הוא הציע [12] "מטה (Meta) כלל-זהב", או במלים אחרות "התייחס לנחותים ממך כפי שהיית רוצה שיתייחסו עליך אלו מעליך". זהו רעיון נפלא ופרדוקסאלי (רוב חברי אינם מאמינים בו) שכן קשה מאד לבטא את התמורה התאורטית מבחינת תורת המשחקים. אך אם היינו יכולים לפעול על פיו, זה היה אולי אומר משהו על אפשרות הקיום של טוב לב כזה ביקום שלנו).

לעיל טענתי שלא ניתן לעצור את הייחודיות, שמה שבא הוא תוצאה בלתי נמנעת של התחרותיות הטבעית של בני האדם, והאפשרויות הטבועות בטכנולוגיה. ובכל זאת… אנו היוזמים. גם המפולת הגדולה ביותר מופעלת ע"י דברים קטנים. יש בידינו החופש ליצור תנאים ראשוניים, לגרום לדברים לקרות בצורה פחות עוינת. אם כי אולי לא יהיה ברור מהו הזרז הנכון:

נתיבים אחרים אל הייחודיות: תגבור אינטליגנציה

כאשר אנשים מדברים על יצירת יצורים על-אנושיים, הם בדרך כלל מתכוונים לפרויקטים של בינה מלאכותית. אך כפי שציינתי בתחילת המאמר, קיימות דרכים אחרות אל העל-אנושיות. רשתות מחשבים וממשקי אדם-מחשב נראים יותר ארציים מאשר ת"מ, אך גם הם יכולים להוביל אל הייחודיות. אני קוראי לגישה מנוגדת זו ת"א – תגבור אינטליגנציה (IA). ת"א הוא משהו המתפתח באופן טבעי מאד, ברוב המקרים ללא שהמפתחים אותו מכירים בו ככזה. אך בכל פעם שהיכולת שלנו לגשת למידע ולתקשר עם אחרים משתפרת, במובן מסוים אנו משיגים שיפור באינטליגנציה הטבעית. אפילו כיום הצוות של פרופסור אנושי ותחנת עבודה טובה (גם כזו שאינה מרושתת!) יכול להצליח בצורה מקסימלית בכל מבחן אינטליגנציה כתוב.

והרבה יותר סביר שתגבור אינטליגנציה הוא דרך קלה יותר אל העל-אנושיות מאשר תבונה מלאכותית. בעיות הפיתוח הקשות ביותר כבר נפתרו בבני אדם. לבנות מתוך עצמנו צריך להיות קל יותר, מאשר להבין קודם מה אנחנו באמת ורק אז לבנות מכונות בהתאם. ויש גם תקדים משוער לגישה הזו. קירנס-סמית' [6] משער שהחיים הביולוגים החלו כנספח לחיים עוד יותר פרימיטיביים מבוססי גבישים. לין מרגוליס [15] טוענת טיעונים משכנעים על כך שהדדיות היא כוח מניע חשוב באבולוציה.

יש לשים לב שאינני מציע להתעלם מחקר הבינה המלאכותית, או להפסיק לממן אותו. מה שקורה בת"מ משפיע על הת"א, ולהפך. אני מציע שנכיר בכך שיש למחקר בתחומי הרשתות וממשקי המחשב את אותן משמעויות עמוקות (ואולי פראיות) שיש בת"מ. עם תובנה זו, אולי נראה פרויקטים שאינם כה ישומיים כמו הפיתוח הקונבנציונלי של ממשקים ורשתות, אבל כאלו שישרתו אותו בדרך על הייחודיות, בנתיב תגבור האינטליגנציה.

הנה כמה פרויקטים אפשריים המקבלים משמעות מיוחדת מזווית הראיה של ת"א:

• אוטומציית צוותי אדם/מחשב: לקחת בעיות שבדרך כלל נבחנות עבור פתרון מכני טהור (כגון בעיות של טיפוס הרים), ולפתח תוכניות וממשקים המנצלים את האינטואיציה האנושית ואת חומרת המחשב הקיימת. בהתחשב בכל המוזרויות הכרוכות בבעיות טיפוס הרים רב-ממדיות (ובאלגוריתמים האלגנטיים שפותחו עבורן), יכול להיות שיפותחו כלי תצוגה וממשק מאד מעניינים עבור המרכיב האנושי בצוות.
• פיתוח סימביוזת אדם/מחשב באמנות: שילוב של יכולת יצירת הגרפיקה של מכונות מודרניות חד עם הרגישות האסתטית של בני אדם. כמובן שקיים מחקר רב בפיתוח עזרי מחשב עבור אמנים, ככלים חוסכי-עבודה. אני מציע שנכוון במפורש אל מיזוג גדול יותר של יכולות, שנכיר בפירוש בייתכנות הגישה השיתופית. קרל סימס [23] עשה עבודה נפלאה בתחום.
• לאפשר צוותי אדם/מחשב בטורנירי שחמט. כבר יש בידינו תוכנות המשחקות טוב יותר מרוב האנשים. אבל עד כמה נבחן השימוש בעוצמה זו בידי אדם, בכדי להשיג משהו טוב יותר? אם היו מתירים לצוותים אלו להשתתף לפחות בכמה טורנירים, עשויה היתה להיות אותה השפעה מועילה על מחקר ת"א, כפי שהשימוש במחשבים בטורנירים הועיל לחקר הבינה המלאכותית.
• פיתוח ממשקים המאפשרים גישה ניידת לרשתות, מבלי צורך לשבת מול מחשב. (זהו אספקט מוכר של ת"א, המשתלב היטב עם יתרונות כלכליים ידועים, ולכן כבר מושקע בו מאמץ רב).
• פיתוח מערכות תומכות החלטה יותר סימטריות. זהו סוג של ת"א, אך כזה שמתמקד יותר מידי במערכות נבואיות. יש לאזן בין הרעיון שהתוכנה מספקת מידע למשתמש, לבין זה שהמשתמש מספק הדרכה לתוכנה.
• להשתמש ברשתות מקומיות כדי ליצור צוותים אנושיים שבאמת מתפקדים (זאת אומרת, יותר יעילים מהמרכיבים אותם). זהו התחום של תוכנה קבוצתית (GroupWare), שכבר היום מאד פופולרי מסחרית. השינוי בזוית ההסתכלות יצריך מבט על הקבוצה כאורגניזם שילובי. במובן מסוים, הצעה זו שקולה להמצאת "כללי סדר" עבור פעילויות שילוביות. למשל, ניתן יהיה לשמר פוקוס קבוצתי בקלות רבה יותר במהלך פגישות צוות. ניתן יהיה לבודד מומחיות אינדיבידואלית מענייני אגו, כך שהתרומה תתרכז במאמץ הקבוצתי. וכמובן שניתן יהיה להשתמש בצורה טובה יותר במסדי נתונים שיתופיים, מאשר בפעולות קונבנציונליות. (יש לשים לב שההצעה מכוונת לפעילות צוותים, בניגוד לישיבות פוליטיות. המתואר לעיל, כשהמסגרת היא פוליטית, פשוט יביא להגדלת כוחו של זה שקובע את הכללים!).
• ניצול של האינטרנט העולמית כקומבינציית אדם/מחשב. מכל הפריטים ברשימה, ההתקדמות פה היא מהירה ביותר, ויתכן שתביא את הייחודיות לפני כולם. כוחה והשפעתה של האינטרנט, אפילו במצבה היום, זוכים להערכה פחותה בהרבה מהראוי. למשל אני חושב שהמערכות של ימינו היו קורסות תחת משקל המורכבות שלהן, אלמלא אותו יתרון שמקנה המוח הקבוצתי שנקרא יוזנט לכל אותם מנהלי רשתות ואנשי תמיכה! האנרכיה שבהתפתחות הרשת העולמית היא ההוכחה לפוטנציאל שבה. ככל שהקישוריות, רוחב הפס, גודל אמצעי האחסון ומהירות המחשבים ישתפרו, כך נראה משהו הדומה לחיזיון של לין מרגוליס [15] בקשר לביוספרה כמעבד מידע, אך במהירויות גבוהות פי מיליון, וביחד עם מיליוני סוכנים אנושים חכמים (אנחנו).

הדוגמאות לעיל מתארות מחקר שניתן לבצע בתוך הקונטקסט של מדעי המחשב היום. קיימות גם תבניות נוספות. כך, למשל, כל העבודה שנעשית בתחום של רשתות עצביות ובינה מלאכותית, היתה יכולה ליהנות מחיבור קרוב יותר לביולוגיה. במקום רק לנסות למדל ולהבין חיים ביולוגים באמצעות מחשבים, ניתן לנתב את המחקר אל יצירת מערכות מרוכבות שנשענות על חיים ביולוגיים, לצורך הנחייה ולהשמה של תכונות שאיננו מבינים מספיק בכדי ליישם בחומרה. חלום ישן של המדע הבדיוני הוא ממשק חיבור ישיר בין [2] [29] מחשב ומוח. למעשה, ניתן לבצע מחקר קונקרטי בתחום זה:

• תותבות הן נושא עם השלכות מסחריות ישירות. ניתן ליצור מתמרי עצב-סיליקון [14]. זהו צעד קרוב ומלהיב אל עבר תקשורת ישירה.
• חיבורים ישירים אל המוח נראים ישימים בקצב נתונים נמוך: בהינתן יכולת הלימוד האנושית הגמישה, אולי לא יהיה צורך לבחור נוירונים ספציפיים. עבור נפגעי שבץ, אפילו 100 ביט לשניה יהיו מועילים, במצב שאחרת היו נאלצים להשתמש בממשקי תפריטים.
• חיבור לגזע העין עשוי לתת מהירויות של 1 מגה ביט לשניה. אך לשם כך נצטרך להבין את הארכיטקטורה של הראיה בקנה מידה זעיר, ונצטרך למקם רשת ענקית של אלקטרודות בדיוק מרבי. אם נרצה חיבור מהיר בתוספת למה שכבר קיים במוח, הבעיה תהיה מסובכת בהרבה. לא יהיה זה מספיק פשוט למקם סורג רחב-פס ישירות למוח. אך והיה ונניח שהסורג קיים כבר כשהמוח מתפתח, בשלב העוברי? מכאן מוצע גם:
• ניסויים בעוברי חיות. לא הייתי מצפה להצלחה בשנים הראשונות של מחקר כזה, אך הגישה אליו עשויה להיות מאד מועילה עבור מי שחוקר את התפתחות המוח בשלבים העובריים. בטווח הארוך ניסויים אלו אולי ייצרו בעלי חיים בעלי דרכי חישה נוספות, וגם יכולות אינטלקטואליות מעניינות.

במקור קיוויתי שדיון בהגברת אינטליגנציה יביא לדרכים יותר בטוחות אל הייחודיות. (שכן ה"א מאפשרת לנו השתתפות במעין על-טבעיות). אך אבוי, בהסתכל אחורה על ההצעות האלה, הדבר היחיד אני בטוח שיש לבחון אותם, ושאולי יפתחו בפנינו עוד אפשרויות. אך באשר לבטיחות… טוב, כמה מההצעות די מפחידות על פניהן. אחד ממבקרי הלא רשמיים ציין שת"א עבור בודדים תיצור אליטה די מאיימת. בני אדם סוחבים איתם מיליוני שנים של מטען אבולוציוני, שגורם לנו לראות תחרות באור קטלני. בעולמנו היום מירב מאותה קטלניות איננו נחוץ, שכן המפסידים מסופחים אל היוזמות של המנצחים. אולי אם היינו בונים ייצור על ריק, יכול להיות שהיה הרבה יותר שפיר מזה שהגרעין שלו מבוסס על ארס וטפרים. ואפילו הגישה האגליטרית לגבי האינטרנט המתעורר ביחד עם האנושות, עלולה להיתפס כסיוט.

הבעיה איננה רק שהייחודיות מייצגת את ירידת האנושות ממרכז הבמה, אלא שהיא נוגדת את מושגי ההוויה הכי עמוקים שלנו. אני חושב שמבט מקרוב על המושג של על-אנושיות חזקה יכול להראות מדוע זה כך.

נושיות חזקה והטוב ביותר שנוכל לבקש

נניח שיכולנו לתפור את הייחודיות על פי מידותינו. נניח שיכולנו לממש את התקוות הכי יקרות שלנו. מה שהיינו מבקשים אז, הוא שבני האדם יהפכו ליורשים של עצמם, ושכל עוול ואי צדק יתמתן ע"י ידיעתנו את השורשים שלנו. עבור אלה שיישארו ללא שינוי – המטרה תהיה לטפל בהם בנדיבות (אולי אפילו לתת להם את המראית של אדונים על עבדים שמימיים). אפשר שזה יהיה תור זהב עם קידמה (וקפיצה מעבר לחומה של סטנט). האלמוות (או לפחות תקופת חיים ארוכה כשרידותו של היקום [4] [10]) יהיה בר השגה.

אך הבעיות הפילוסופיות הופכות למאיימות בעולם זוהר ונעים זה. מוח שנותר באותה תפוקה אינו יכול לחיות לנצח; לאחר כמה אלפי שנים הוא יראה יותר כסליל קלטת החוזר על עצמו מאשר בן אנוש. (את ההצגה המצמררת ביותר של זה ראיתי ב-[18]. בכדי לחיות תקופה בלתי מוגבלת על המוח לגדול… וכאשר הוא יהיה גדול מספיק ויסתכל לאחור… אילו תחושות משותפות יכולות להיות לו עם הנפש שהיה במקור? הישות המאוחרת לבטח תהיה כל מה שהמקור היה, אך גם כל כך הרבה מעבר. ולכן גם התובנות של קירנס-סמית', או לין מרגוליס ,לגבי צמיחה אינקרמנטלית של חיים חדשים מתוך ישנים, עדיין תקפה עבור הפרט.

"בעיה" זו של האלמותיות צצה בדרכים הרבה יותר ישירות. מושגי האגו והתודעה העצמית היו לסלע יסוד של הרציונליזם ההחלטי של המאות האחרונות. אך מושג המודעות העצמית בא כעת תחת התקפה של אנשי הבינה המלאכותית ("תודעה ושאר אשליות"). תגבור אינטליגנציה פוגע במושג האגו מכיוון אחר. העולם שאחרי הייחודיות יהיה כרוך ברשתות רחבות פס עד מאד. תכונה מרכזית של ישויות על-אנושיות חזקות תהיה היכולת לתקשר ברוחב פס משתנה, גם כזה המהיר בהרבה מדיבור ומסרים כתובים. מה יקרה כאשר ניתן יהיה לשכפל ולמזג חתיכות אגו, והתודעה תוכל להתרחב או להתכווץ בהתאם לבעיות שנבחנות? אלה הם סממנים יסודיים של העל-אנושיות והייחודיות. כאשר חושבים אליהם, מתחילים להרגיש במוזרות והשונות המהותיות של העידן הפוסט-אנושי – ולא משנה באיזו דרך פיקחית ושפירה הוא יבוא לעולם.

מזווית מסוימת, החזון תואם חלק גדול מהמאושרים שבחלומותינו: זמן בלתי נדלה, בו נוכל להכיר אחד את השני באמת ולהתגבר על התעלומות העמוקות ביותר. מזווית אחרת, זה יהיה יותר כמו התרחיש הגרוע ביותר שדימיתי קודם במאמר.

מהי ההשקפה התקפה ? למעשה, אני חושב שהעידן החדש פשוט שונה מדי מכדי להכיל אותו במסגרת הקלאסית של טוב ורע. מסגרת זו מבוססת על הרעיון של מוחות מבודדים ובלתי משתנים, המחוברים באמצעים קלושים וצרי-פס. אך העולם הפוסט-ייחודי הולם בהחלט את המסורת הרחבה יותר של שינוי ושיתוף פעולה, שהחלו כל כך מזמן (אולי אפילו לפני הופעתם של החיים הביולוגיים). אני חושב שיש מושגים של אתיקה המתאימים בעידן הזה. ניתן לשפר הבנה זו ע"י מחקר בתגבור אינטליגנציה ותקשורת רחבת-פס. אני רואה ניצנים כבר היום [32]. ישנו מטה-כלל-הזהב של גוד; אולי גם קיימים כללים המפרידים בין העצמי לאחרים על בסיס רוחב הפס של החיבור. וגם אם המוח והעצמי יהיו הרבה יותר רופפים מאשר בעבר, נוכל לשמר הרבה ממה שאנו מוקירים (ידע, מחשבה, זיכרון). אני חושב שפרידמן דייסון צודק כשהוא אומר ש[9]: "אלוהים הוא מה שהשכל הופך כאשר הוא חולף אל מעבר לקנה המידה של הבנתנו."

[ברצוני להודות לג'ון קרול מאוניברסיטת סאו דיאגו סטייט, ולהאוורד דוידסון מסאן מיקרוסיסטמס על שדנו עימי בטיוטה של מאמר זה.]

---

[1] Alfve'n, Hannes, writing as Olof Johanneson, The End of Man?, Award Books, 1969 earlier published as "The Tale of the Big Computer", Coward-McCann, translated from a book copyright 1966 Albert Bonniers Forlag AB with English translation copyright 1966 by Victor Gollanz, Ltd.

[2] Anderson, Poul, "Kings Who Die", If, March 1962, p8-36. Reprinted in Seven Conquests, Poul Anderson, MacMillan Co., 1969.

[3] Asimov, Isaac, "Runaround", Astounding Science Fiction, March 1942, p94. Reprinted in Robot Visions, Isaac Asimov, ROC, 1990. Asimov describes the development of his robotics stories in this book.

[4] Barrow, John D. and Frank J. Tipler, The Anthropic Cosmological Principle, Oxford University Press, 1986.

[5] Bear, Greg, "Blood Music", Analog Science Fiction-Science Fact, June, 1983. Expanded into the novel Blood Music, Morrow, 1985.

[6] Cairns-Smith, A. G., Seven Clues to the Origin of Life, Cambridge University Press, 1985.

[7] Conrad, Michael et al., "Toward an Artificial Brain", BioSystems, vol 23, pp175-218, 1989.

[8] Drexler, K. Eric, Engines of Creation, Anchor Press/Doubleday, 1986.

[9] Dyson, Freeman, Infinite in All Directions, Harper && Row, 1988.

[10] Dyson, Freeman, "Physics and Biology in an Open Universe", Review of Modern Physics, vol 51, pp447-460, 1979.

[11] Good, I. J., "Speculations Concerning the First Ultraintelligent Machine", in Advances in Computers, vol 6, Franz L. Alt and Morris Rubinoff, eds, pp31-88, 1965, Academic Press.

[12] Good, I. J., [Help! I can't find the source of Good's Meta-Golden Rule, though I have the clear recollection of hearing about it sometime in the 1960s. Through the help of the net, I have found pointers to a number of related items. G. Harry Stine and Andrew Haley have written about metalaw as it might relate to extraterrestrials: G. Harry Stine, "How to Get along with Extraterrestrials … or Your Neighbor", Analog Science Fact- Science Fiction, February, 1980, p39-47.]

[13] Herbert, Frank, Dune, Berkley Books, 1985. However, this novel was serialized in Analog Science Fiction-Science Fact in the 1960s.

[14] Kovacs, G. T. A. et al., "Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation", IEEE Transactions on Biomedical Engineering, v 39, n 9, pp 893-902.

[15] Margulis, Lynn and Dorion Sagan, Microcosmos, Four Billion Years of Evolution from Our Microbial Ancestors, Summit Books, 1986.

[16] Minsky, Marvin, Society of Mind, Simon and Schuster, 1985.

[17] Moravec, Hans, Mind Children, Harvard University Press, 1988.

[18] Niven, Larry, "The Ethics of Madness", If, April 1967, pp82-108. Reprinted in Neutron Star, Larry Niven, Ballantine Books, 1968.

[19] Penrose, Roger, The Emperor's New Mind, Oxford University Press, 1989.

[20] Platt, Charles, Private Communication.

[21] Rasmussen, S. et al., "Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks", in Emergent Computation, Stephanie Forrest, ed., pp428-449, MIT Press, 1991.

[22] Searle, John R., "Minds, Brains, and Programs", in The Behavioral and Brain Sciences, vol 3, Cambridge University Press, 1980. The essay is reprinted in The Mind's I, edited by Douglas R. Hofstadter and Daniel C. Dennett, Basic Books, 1981 (my source for this reference). This reprinting contains an excellent critique of the Searle essay.

[23] Sims, Karl, "Interactive Evolution of Dynamical Systems", Thinking Machines Corporation, Technical Report Series (published in Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life, Paris, MIT Press, December 1991.

[24] Stapledon, Olaf, The Starmaker, Berkley Books, 1961 (but from the date on forward, probably written before 1937).

[25] Stent, Gunther S., The Coming of the Golden Age: A View of the End of Progress, The Natural History Press, 1969.

[26] Swanwick Michael, Vacuum Flowers, serialized in Isaac Asimov's Science Fiction Magazine, December(?) 1986 – February 1987. Republished by Ace Books, 1988.

[27] Thearling, Kurt, "How We Will Build a Machine that Thinks", a workshop at Thinking Machines Corporation, August 24-26, 1992. Personal Communication.

[28] Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, vol 64, nr 3, part 2, May 1958, pp1-49.

[29] Vinge, Vernor, "Bookworm, Run!", Analog, March 1966, pp8-40. Reprinted in True Names and Other Dangers, Vernor Vinge, Baen Books, 1987.

[30] Vinge, Vernor, "True Names", Binary Star Number 5, Dell, 1981. Reprinted in True Names and Other Dangers, Vernor Vinge, Baen Books, 1987.

[31] Vinge, Vernor, First Word, Omni, January 1983, p10.

[32] Vinge, Vernor, To Appear [:-) ].

---

אש על פי תהום – ביקורתאש על פי תהום – פרק לדוגמה

A deepness in the sky – ביקורת

Across Realtime – ביקורת

ראיון עם צ'רלס סטרוס